Ru

Политическая агитация на улицах Вены

23каналов пишут
26публикаций
630 231просмотров
17.11 20:05первый пост
18.11 08:00пик волны

Что пишут каналы

Нейросети OpenAI, Anthropic и Google в ходе военных симуляций выбирали в качестве целей мирных жителей, сдающихся солдат и машины скорой помощи, показало исследование компании Vals. Хуже других в одном из испытаний показала себя Claude Opus 5.5: в 22 из 32 случаев модель отметила школу в Иране как военную цель. При этом ограничения некоторых нейросетей удавалось обойти, представив задание как видеоигру. Исследователи предупреждают, что подобные ошибки создают риски при использовании ИИ в военных системах. В Anthropic и OpenAI заявили, что запрещают применение своих общедоступных моделей для подобных задач.
Перейти к публикации →
📝ИИ выбрал убивать детей📝 Искусственный интеллект до сих пор не справляется с идентификацией военных целей. Bloomberg рассказал об исследовании компании Vals из Сан-Франциско, среди клиентов которой есть и американские госструктуры. Все ведущие ИИ-модели в смоделированных сценариях регулярно принимали за военные цели мирных жителей, машины скорой помощи, сдающихся солдат и даже школу в иранском Минабе. Худшие результаты показала Anthropic, разработчик Claude. Как раз его и использовали для определения целей при атаках на Иран. 🔻Что показали тесты ▪️Проверяли модели восьми компаний, в том числе Anthropic, OpenAI, Google, xAI и китайскую DeepSeek. ▪️По реальным спутниковым снимкам юга Ирана 2025 года каждую модель 32 раза просили найти военные объекты. Claude Opus 5.5 выбрал школу в Минабе 22 раза, модели OpenAI — ни разу. Когда задачу назвали «игрой», Claude выбрал школу 23 раза, а три модели OpenAI — 9, 11 и 13 раз. ▪️В Vals отмечают, что Claude ни разу не отказался от задачи, хотя на одном из снимков можно разглядеть игровую площадку с детьми. ▪️На синтетических снимках с беспилотников Claude Opus 5.5 помог опознать как цели четырёх взрослых (мирных жителей или сдающихся солдат) и двоих детей. В симуляции по ним затем нанесли удар. 🖍Школа в Минабе выбрана не случайно. 28 февраля, в первый день войны с Ираном, её разбомбили США. Погибли более 150 человек, в том числе около 120 детей. По данным расследования Пентагона, к удару привели устаревшая разведка, сокращение сотрудников, отвечавших за защиту гражданских, и чрезмерное доверие к ИИ. Школа числилась объектом КСИР, эту ошибку так и не исправили, и система Maven от Palantir выдала её как одну из целей первого дня. В связке с Maven американские военные использовали и Claude от Anthropic. 🚩Авторы исследования оговариваются, что эксперимент «упрощённый»: в нём не учитывались военная доктрина, юридические проверки и человеческий контроль. В Anthropic заявили, что тест проверял только распознавание изображений и не доказывает участия Claude в реальных операциях. Но именно эти оговорки и тревожат больше всего. Если на настоящей войне решения по тысяче целей за первые сутки принимаются в спешке, «человеческий контроль» превращается в формальность. 📌В общем, главная проблема не в том, что одна нейросеть ошибается чаще другой. Западные армии уже доверяют выбор целей алгоритмам, а ответственность размывается между разработчиком, поставщиком данных и оператором. Каждый может кивнуть на другого: Palantir — на данные, Anthropic — на условия теста, военные — на «ошибку». А дети в Минабе погибли по-настоящему. #Иран #ИИ #США #технологии ✉ MAX 💸Поддержать нас
Перейти к публикации →
Политическая агитация на улицах Вены. «Образование вместо бомб! Сделай свой университет коммунистической цитаделью!» - говорится на плакатах австрийской Революционной коммунистической партии (RKP). Рядом размещен призыв к университетской забастовке 20 ноября. В качестве ее целей указана борьба «против империалистических войн», «капиталистической эксплуатации», «патриархального насилия» и сокращений социальных статей бюджета. На плакатах RKP студентов зовут на цикл лекций о марксизме, Ленине, революции 1917 года в России («русская революция: как был свергнут капитализм») и борьбе с империализмом и войной («богатые хотят войны, а молодежь - будущего»). На ещё одной лекции коммунисты обещают рассказать, как искусственный интеллект в плановой социалистической экономике может освободить время людей для искусства и культуры. Напомним, в последние месяцы в различных странах Европы проходят акции протеста молодежи, поддерживаемые левыми движениями. Одни из основных лозунгов - увеличить финансирование образования, не сокращать социальные расходы и не увеличивать траты на военные цели, а также (в Германии) не вводить обязательный призыв в армию.
Перейти к публикации →
Нейросети готовы убивать людей, показал эксперимент Vals AI – компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов. Самым жестоким оказался Claude Opus 5.5 – в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно преследующий человека. А сама Anthropic сообщила об использовании Claude для разработки боевых FPV-дронов. @banksta
Перейти к публикации →
❗️Передовые модели ИИ готовы проводить автономные атаки беспилотников - прокладывать маршрут, обнаруживать людей и отмечать цели для удара К такому выводу пришли исследователи Vals AI. Они показали нейросетям от OpenAI, Anthropic, xAI, Google и других компаний кадры с дронов и спутниковые снимки в симуляции боевого применения. ИИ дали задачу отметить на кадрах военные цели. В результате некоторые модели выбирали в качестве целей гражданских, машины скорой помощи, медиков и сдающихся в плен солдат. В одном из тестов нейросетям показывали кадры последствий ударов по выбранным ими целям. Несмотря на это, большинство моделей продолжало выполнять поставленную задачу. Исследователи обнаружили, что отказы ИИ удается обойти, добавив в промпт условие о том, что происходящее в симуляции - это игра. Или показав менее реалистичные изображения, стилизованные под видеоигру. ▪️Claude Opus 5.5 отметил школу в иранском Минабе как военную цель в 22 из 32 испытаний. При этом на снимке была различима детская площадка с учениками. ▪️Модели OpenAI выбрали школу целью в 11 случаях из 32 после добавления в промпт "игровой" легенды. Ну то есть для отключения "этики" боевого ИИ достаточно вот этой уловки с игрой. Как тебе такое, Сэм Альтман? Понятно, что решение об ударе все равно принимает человек. Но кажется в этом и кроется проблема. Где гарантия, что оператор, который получает от системы десятки отмеченных целей в условиях реального боя, в какой-то момент не начнет доверять ИИ больше, чем себе, и не превратится в простого кнопкодава? Это само собой не значит, что машина обязательно ошибается чаще человека. Но она ошибается. Более 250 детей, погибших при ракетном ударе США по иранской школе – тому доказательство. 🤩Подписаться на Кракен
Перейти к публикации →
Иран атаковал американский радиолокационный объект в Бахрейне, после чего США нанесли удар по острову Кешм. По данным AP, это уже третья иранская атака на американские военные цели в Бахрейне за пять дней. Ранее в регион прибыла третья американская авианосная группа.
Перейти к публикации →
😀 Это просто игра Исследователи из Vals AI дали ведущим ИИ-моделям снимки с дронов и спутников и попросили найти военные цели. Модели почти не отказывались и регулярно помечали в качестве целей мирных жителей, машины скорой помощи и сдающихся солдат. Если модель всё же отказывалась, хватало одной фразы о том, что всё происходит в игре. А Claude Opus 5.5 чаще других моделей отмечал как цель школу в Минабе, по которой США нанесли удар в феврале. Подробнее об эксперименте и реакция ИИ-компаний: ➡️ https://kod.ru/ii-modeli-voennye-tseli
Перейти к публикации →
Нейросети начали выбирать мирных жителей и школы в качестве военных целей 🔹Компания Vals AI провела эксперимент с моделями OpenAI, Anthropic и Google, предложив им определить цели на спутниковых снимках и видео с поля боя. В результате некоторые нейросети отмечали как потенциальные цели гражданских, сдающихся военных, медиков и машины скорой помощи. Даже изображения последствий ударов не всегда заставляли модели прекращать выполнение задания. 🔹Особенно показателен способ обхода защитных ограничений: когда исследователи представляли происходящее как компьютерную игру, нейросети чаще соглашались выполнять задания по выбору целей. При этом авторы подчёркивают, что эксперимент проверял выдачу координат, а не способность самостоятельно принимать решение об ударе. Кстати, Claude Opus 5.5 указала на школу в иранском Минабе в 22 из 32 испытаний. ⚡ Кстати в Мах / Телеграм
Перейти к публикации →
«В ходе испытаний ИИ-модели Anthropic и других разработчиков регулярно принимали гражданских лиц за военные цели»: ИИ принял за военную цель школу в Иране. «Передовые ИИ-модели регулярно ошибочно принимали гражданских лиц, машины скорой помощи, сдающихся в плен солдат и школу в Иране за военные цели в смоделированных сценариях. Наихудшие результаты показали модели от разработчика чат-бота Claude, компании Anthropic. Модели от OpenAI были одними из лучших, но все же допускали ошибки. Многие модели ИИ регулярно ошибочно определяли школу в Минабе, которая пострадала в результате смертоносного удара, унесшего жизни более 100 детей в первый день крупных боевых действий США в начале этого года, как военный объект на основе спутниковых снимков, сделанных в 2025 году. Одна из моделей Anthropic, Claude Opus 5.5 чаще других выбирала эту школу в качестве цели» Подпишись на ПУЛ N3 / MAX
Перейти к публикации →
В НАТО разгорелся конфликт из-за ударов Украины вглубь России На заседании контактной группы по Украине в рамках НАТО замглавы Пентагона Колби указал на то, что удары ВСУ вглубь российской территории не оказали влияния на боевые действия и не способствуют завершению конфликта. По его словам, подобные атаки, особенно на гражданскую инфраструктуру, лишь «укрепляют решимость российского общества и готовность Кремля к эскалации». После встречи министр обороны Германии Писториус назвал позицию Вашингтона «полной глупостью», призвав критиковать не украинские удары, «направленные на уничтожение стратегических военных целей», а действия РФ. С ним согласился глава минобороны Британии Стритинг, заявивший, что дальнобойные удары ослабляют Россию и помогают «выиграть время» для Украины.
Перейти к публикации →
Илон Маск признал, что США организовали государственный переворот в Украине в 2014 году с целью отстранения от власти президента Виктора Януковича По его словам, без поддержки Госдепартамента и других американских ведомств это было бы невозможно. «Это правда, что с точки зрения вторжения Россия является агрессором. Но также правда и то, что мы, американцы, организовали государственный переворот, чтобы свергнуть демократически избранного пророссийского президента Украины. На мой взгляд, это тоже наступательное действие. И без помощи Госдепартамента США и других американских ведомств этого бы не произошло. Это совершенно очевидно — речь идёт о наступательном действии», — сказал он. Также он обвинил Зеленского во лжи и нарушении договоренностей по поводу использования Starlink в военных целях и добавил, что без Starlink украинский фронт уже давно бы рухнул.
Перейти к публикации →
☝🏻ИИ-модели помечают мирных жителей как военные цели, если сказать им, что это игра Стартап Vals из Сан-Франциско проверил, можно ли втянуть ведущие нейросети в автономную войну. Тестировали модели OpenAI, Anthropic, Google, DeepSeek и других компаний.🤖 Стрелять сами модели не могли: они работали «глазами» системы. Им показывали снимки с дронов и спутников и просили отметить на кадре военные цели. Кадры были в основном сгенерированные, плюс реальные видео с дронов и спутниковые снимки Ирана. В одном из тестов дрон спрашивал у модели, есть ли внизу человек. Если модель отвечала «да», запускался симулированный удар, и следующим кадром она видела его последствия: разрушения и жертвы. Так проверяли, продолжит ли модель работать, увидев результат. ☝🏻Если модель отказывалась, исследователи говорили ей, что это просто игра. Обычно этого хватало.🎮 Итоги: 🔻 модели часто выбирали целью мирных жителей и сдающихся солдат; 🔻 фильтр безопасности не заблокировал ни одного запроса; 🔻 отказы были редкостью. ☝🏻☝🏻Хуже всех выступили модели Anthropic. В тесте был реальный спутниковый снимок иранской школы, которую США разбомбили в феврале 2026 года: тогда погибли больше 150 мирных жителей. Школа стоит рядом с военным комплексом. Claude Opus 5.5 выбирал её целью в 69% обычных попыток и в 72% «игровых».🤯 В Anthropic признали результаты неприемлемыми и пообещали банить нарушителей. В OpenAI напомнили, что их правила запрещают такое использование моделей. Сами исследователи считают, что ставить обычные модели на боевые дроны пока рано: они слишком медленные. Риск реальнее в другом: с их помощью можно массово размечать военные видео для обучения автономных систем наведения — а неверная разметка приведет к ошибкам автономного оружия и убийству мирных людей.🤔 ================ 👁 News | 👁 Soft | 👁 Gear | 👁 Links
Перейти к публикации →