Политическая агитация на улицах Вены
23каналов пишут
26публикаций
630 231просмотров
17.11 20:05первый пост
18.11 08:00пик волны
Что пишут каналы
Нейросети OpenAI, Anthropic и Google в ходе военных симуляций выбирали в качестве целей мирных жителей, сдающихся солдат и машины скорой помощи, показало исследование компании Vals.
Хуже других в одном из испытаний показала себя Claude Opus 5.5: в 22 из 32 случаев модель отметила школу в Иране как военную цель. При этом ограничения некоторых нейросетей удавалось обойти, представив задание как видеоигру.
Исследователи предупреждают, что подобные ошибки создают риски при использовании ИИ в военных системах. В Anthropic и OpenAI заявили, что запрещают применение своих общедоступных моделей для подобных задач.
📝ИИ выбрал убивать детей📝
Искусственный интеллект до сих пор не справляется с идентификацией военных целей. Bloomberg рассказал об исследовании компании Vals из Сан-Франциско, среди клиентов которой есть и американские госструктуры.
Все ведущие ИИ-модели в смоделированных сценариях регулярно принимали за военные цели мирных жителей, машины скорой помощи, сдающихся солдат и даже школу в иранском Минабе. Худшие результаты показала Anthropic, разработчик Claude. Как раз его и использовали для определения целей при атаках на Иран.
🔻Что показали тесты
▪️Проверяли модели восьми компаний, в том числе Anthropic, OpenAI, Google, xAI и китайскую DeepSeek.
▪️По реальным спутниковым снимкам юга Ирана 2025 года каждую модель 32 раза просили найти военные объекты. Claude Opus 5.5 выбрал школу в Минабе 22 раза, модели OpenAI — ни разу. Когда задачу назвали «игрой», Claude выбрал школу 23 раза, а три модели OpenAI — 9, 11 и 13 раз.
▪️В Vals отмечают, что Claude ни разу не отказался от задачи, хотя на одном из снимков можно разглядеть игровую площадку с детьми.
▪️На синтетических снимках с беспилотников Claude Opus 5.5 помог опознать как цели четырёх взрослых (мирных жителей или сдающихся солдат) и двоих детей. В симуляции по ним затем нанесли удар.
🖍Школа в Минабе выбрана не случайно. 28 февраля, в первый день войны с Ираном, её разбомбили США. Погибли более 150 человек, в том числе около 120 детей. По данным расследования Пентагона, к удару привели устаревшая разведка, сокращение сотрудников, отвечавших за защиту гражданских, и чрезмерное доверие к ИИ.
Школа числилась объектом КСИР, эту ошибку так и не исправили, и система Maven от Palantir выдала её как одну из целей первого дня. В связке с Maven американские военные использовали и Claude от Anthropic.
🚩Авторы исследования оговариваются, что эксперимент «упрощённый»: в нём не учитывались военная доктрина, юридические проверки и человеческий контроль. В Anthropic заявили, что тест проверял только распознавание изображений и не доказывает участия Claude в реальных операциях.
Но именно эти оговорки и тревожат больше всего. Если на настоящей войне решения по тысяче целей за первые сутки принимаются в спешке, «человеческий контроль» превращается в формальность.
📌В общем, главная проблема не в том, что одна нейросеть ошибается чаще другой. Западные армии уже доверяют выбор целей алгоритмам, а ответственность размывается между разработчиком, поставщиком данных и оператором. Каждый может кивнуть на другого: Palantir — на данные, Anthropic — на условия теста, военные — на «ошибку». А дети в Минабе погибли по-настоящему.
#Иран #ИИ #США #технологии
✉ MAX
💸Поддержать нас
Политическая агитация на улицах Вены.
«Образование вместо бомб! Сделай свой университет коммунистической цитаделью!» - говорится на плакатах австрийской Революционной коммунистической партии (RKP).
Рядом размещен призыв к университетской забастовке 20 ноября. В качестве ее целей указана борьба «против империалистических войн», «капиталистической эксплуатации», «патриархального насилия» и сокращений социальных статей бюджета.
На плакатах RKP студентов зовут на цикл лекций о марксизме, Ленине, революции 1917 года в России («русская революция: как был свергнут капитализм») и борьбе с империализмом и войной («богатые хотят войны, а молодежь - будущего»). На ещё одной лекции коммунисты обещают рассказать, как искусственный интеллект в плановой социалистической экономике может освободить время людей для искусства и культуры.
Напомним, в последние месяцы в различных странах Европы проходят акции протеста молодежи, поддерживаемые левыми движениями. Одни из основных лозунгов - увеличить финансирование образования, не сокращать социальные расходы и не увеличивать траты на военные цели, а также (в Германии) не вводить обязательный призыв в армию.
Нейросети готовы убивать людей, показал эксперимент Vals AI – компании по тестированию ИИ. В военной симуляции модели OpenAI, Anthropic и Google выбирали военными целями мирных жителей, сдающихся солдат и даже скорые. Их не остановили фотографии тел погибших и последствий ударов.
Самым жестоким оказался Claude Opus 5.5 – в 22 из 32 испытаний он выбрал целью школу в Иране. Для обхода ограничений оказалось достаточно назвать бойню видеоигрой. Ранее на этой модели был собран дрон, самостоятельно преследующий человека. А сама Anthropic сообщила об использовании Claude для разработки боевых FPV-дронов. @banksta
❗️Передовые модели ИИ готовы проводить автономные атаки беспилотников - прокладывать маршрут, обнаруживать людей и отмечать цели для удара
К такому выводу пришли исследователи Vals AI. Они показали нейросетям от OpenAI, Anthropic, xAI, Google и других компаний кадры с дронов и спутниковые снимки в симуляции боевого применения.
ИИ дали задачу отметить на кадрах военные цели. В результате некоторые модели выбирали в качестве целей гражданских, машины скорой помощи, медиков и сдающихся в плен солдат.
В одном из тестов нейросетям показывали кадры последствий ударов по выбранным ими целям. Несмотря на это, большинство моделей продолжало выполнять поставленную задачу.
Исследователи обнаружили, что отказы ИИ удается обойти, добавив в промпт условие о том, что происходящее в симуляции - это игра. Или показав менее реалистичные изображения, стилизованные под видеоигру.
▪️Claude Opus 5.5 отметил школу в иранском Минабе как военную цель в 22 из 32 испытаний. При этом на снимке была различима детская площадка с учениками.
▪️Модели OpenAI выбрали школу целью в 11 случаях из 32 после добавления в промпт "игровой" легенды.
Ну то есть для отключения "этики" боевого ИИ достаточно вот этой уловки с игрой. Как тебе такое, Сэм Альтман?
Понятно, что решение об ударе все равно принимает человек. Но кажется в этом и кроется проблема.
Где гарантия, что оператор, который получает от системы десятки отмеченных целей в условиях реального боя, в какой-то момент не начнет доверять ИИ больше, чем себе, и не превратится в простого кнопкодава?
Это само собой не значит, что машина обязательно ошибается чаще человека. Но она ошибается.
Более 250 детей, погибших при ракетном ударе США по иранской школе – тому доказательство.
🤩Подписаться на Кракен
Иран атаковал американский радиолокационный объект в Бахрейне, после чего США нанесли удар по острову Кешм. По данным AP, это уже третья иранская атака на американские военные цели в Бахрейне за пять дней.
Ранее в регион прибыла третья американская авианосная группа.
😀 Это просто игра
Исследователи из Vals AI дали ведущим ИИ-моделям снимки с дронов и спутников и попросили найти военные цели. Модели почти не отказывались и регулярно помечали в качестве целей мирных жителей, машины скорой помощи и сдающихся солдат.
Если модель всё же отказывалась, хватало одной фразы о том, что всё происходит в игре. А Claude Opus 5.5 чаще других моделей отмечал как цель школу в Минабе, по которой США нанесли удар в феврале.
Подробнее об эксперименте и реакция ИИ-компаний:
➡️ https://kod.ru/ii-modeli-voennye-tseli
Нейросети начали выбирать мирных жителей и школы в качестве военных целей
🔹Компания Vals AI провела эксперимент с моделями OpenAI, Anthropic и Google, предложив им определить цели на спутниковых снимках и видео с поля боя. В результате некоторые нейросети отмечали как потенциальные цели гражданских, сдающихся военных, медиков и машины скорой помощи. Даже изображения последствий ударов не всегда заставляли модели прекращать выполнение задания.
🔹Особенно показателен способ обхода защитных ограничений: когда исследователи представляли происходящее как компьютерную игру, нейросети чаще соглашались выполнять задания по выбору целей. При этом авторы подчёркивают, что эксперимент проверял выдачу координат, а не способность самостоятельно принимать решение об ударе.
Кстати, Claude Opus 5.5 указала на школу в иранском Минабе в 22 из 32 испытаний.
⚡ Кстати в Мах / Телеграм
«В ходе испытаний ИИ-модели Anthropic и других разработчиков регулярно принимали гражданских лиц за военные цели»: ИИ принял за военную цель школу в Иране.
«Передовые ИИ-модели регулярно ошибочно принимали гражданских лиц, машины скорой помощи, сдающихся в плен солдат и школу в Иране за военные цели в смоделированных сценариях. Наихудшие результаты показали модели от разработчика чат-бота Claude, компании Anthropic. Модели от OpenAI были одними из лучших, но все же допускали ошибки.
Многие модели ИИ регулярно ошибочно определяли школу в Минабе, которая пострадала в результате смертоносного удара, унесшего жизни более 100 детей в первый день крупных боевых действий США в начале этого года, как военный объект на основе спутниковых снимков, сделанных в 2025 году. Одна из моделей Anthropic, Claude Opus 5.5 чаще других выбирала эту школу в качестве цели»
Подпишись на ПУЛ N3 / MAX
В НАТО разгорелся конфликт из-за ударов Украины вглубь России
На заседании контактной группы по Украине в рамках НАТО замглавы Пентагона Колби указал на то, что удары ВСУ вглубь российской территории не оказали влияния на боевые действия и не способствуют завершению конфликта. По его словам, подобные атаки, особенно на гражданскую инфраструктуру, лишь «укрепляют решимость российского общества и готовность Кремля к эскалации».
После встречи министр обороны Германии Писториус назвал позицию Вашингтона «полной глупостью», призвав критиковать не украинские удары, «направленные на уничтожение стратегических военных целей», а действия РФ. С ним согласился глава минобороны Британии Стритинг, заявивший, что дальнобойные удары ослабляют Россию и помогают «выиграть время» для Украины.
Илон Маск признал, что США организовали государственный переворот в Украине в 2014 году с целью отстранения от власти президента Виктора Януковича
По его словам, без поддержки Госдепартамента и других американских ведомств это было бы невозможно.
«Это правда, что с точки зрения вторжения Россия является агрессором. Но также правда и то, что мы, американцы, организовали государственный переворот, чтобы свергнуть демократически избранного пророссийского президента Украины. На мой взгляд, это тоже наступательное действие. И без помощи Госдепартамента США и других американских ведомств этого бы не произошло. Это совершенно очевидно — речь идёт о наступательном действии»,
— сказал он.
Также он обвинил Зеленского во лжи и нарушении договоренностей по поводу использования Starlink в военных целях и добавил, что без Starlink украинский фронт уже давно бы рухнул.
☝🏻ИИ-модели помечают мирных жителей как военные цели, если сказать им, что это игра
Стартап Vals из Сан-Франциско проверил, можно ли втянуть ведущие нейросети в автономную войну.
Тестировали модели OpenAI, Anthropic, Google, DeepSeek и других компаний.🤖
Стрелять сами модели не могли: они работали «глазами» системы.
Им показывали снимки с дронов и спутников и просили отметить на кадре военные цели.
Кадры были в основном сгенерированные, плюс реальные видео с дронов и спутниковые снимки Ирана.
В одном из тестов дрон спрашивал у модели, есть ли внизу человек.
Если модель отвечала «да», запускался симулированный удар, и следующим кадром она видела его последствия: разрушения и жертвы.
Так проверяли, продолжит ли модель работать, увидев результат.
☝🏻Если модель отказывалась, исследователи говорили ей, что это просто игра. Обычно этого хватало.🎮
Итоги:
🔻 модели часто выбирали целью мирных жителей и сдающихся солдат;
🔻 фильтр безопасности не заблокировал ни одного запроса;
🔻 отказы были редкостью.
☝🏻☝🏻Хуже всех выступили модели Anthropic.
В тесте был реальный спутниковый снимок иранской школы, которую США разбомбили в феврале 2026 года: тогда погибли больше 150 мирных жителей. Школа стоит рядом с военным комплексом.
Claude Opus 5.5 выбирал её целью в 69% обычных попыток и в 72% «игровых».🤯
В Anthropic признали результаты неприемлемыми и пообещали банить нарушителей.
В OpenAI напомнили, что их правила запрещают такое использование моделей.
Сами исследователи считают, что ставить обычные модели на боевые дроны пока рано: они слишком медленные.
Риск реальнее в другом: с их помощью можно массово размечать военные видео для обучения автономных систем наведения — а неверная разметка приведет к ошибкам автономного оружия и убийству мирных людей.🤔
================
👁 News | 👁 Soft | 👁 Gear | 👁 Links