ИИ разрешат самому решать, кого атаковать?

«Полигон, где жизни — это манекены»: эксперт раскрыл причину отказа от человеческого контроля над ИИ-вооружением Во время работы над проектом международного документа по регулированию автономного оружия делегаты от России и США исключили ключевые ограничения на работу военного ИИ, включая требования о «предсказуемости» и обязательной проверке целей человеком, сообщает WP. Это решение — не случайный компромисс, а прямая защита технологического суверенитета, обозначил в беседе с Readovka военный эксперт Института права и национальной безопасности РАНХиГС Александр Степанов. Ведущие военные державы не готовы передавать чувствительные данные наднациональным структурам ООН. По словам Степанова, Москва и Пекин не хотят попасть под «технологический колпак» американского БигТеха (в частности, разработчиков вроде Palantir), который через создание международных органов надзора пытается навязать свои стандарты и заблокировать независимое развитие суверенных армий. Второй ключевой фактор — жесткая ставка на скорость в современной войне. Алгоритмы в режиме реального времени координируют тысячи автономных дронов, роботов и спутниковых систем. Вывод информации на верификацию человеку создает паузу, которая в бою критична. Ради молниеносной реакции машины человеческий фактор сознательно выключается из цепи управления, подчеркивает собеседник. Цена такой автономности — катастрофические риски для всего мира. По оценке эксперта, американские IT-гиганты воспринимают реальные конфликты в качестве бесплатного полигона, где человеческие жизни выступают всего лишь тестовыми манекенами. Применение израильских систем «Лаванда» и «Евангелие» стало прокси-тестированием технологий компании Palantir, а гибель гражданского населения расценивалась как «допустимое побочное явление» боевой апробации. Полученные данные позволили компании оптимизировать концепцию Maven Smart Systems, которая теперь интегрируется в страны НАТО и проходит проверку в подразделениях ВСУ. При этом передача права на удар алгоритмам, склонным к «галлюцинациям» и искажению информации, создает прямую угрозу не только для оппонентов, но и для самих операторов, ставя мир перед дилеммой между автономностью машин и сохранением управляемости человечества, считает Степанов. 🎉 Подписывайся на Readovka в МАКС

Россия и США добились исключения ряда ограничений на использование военного искусственного интеллекта из проекта международного документа по регулированию автономного оружия, пишет The Washington Post со ссылкой на источники и документы. По данным газеты, из текста убрали требования о «предсказуемой» и «надежной» работе таких систем, учете этических норм, а также обязательной перепроверке человеком целей, выбранных алгоритмами. Как утверждает WP, российская и американская делегации насчитывали примерно по десять юристов — почти вдвое больше, чем у других участников переговоров. Обсуждения проходили без камер ООН и представителей общественных организаций. МИД России, Госдепартамент США и ООН на запросы издания не ответили.

🫡 Здравствуйте! Главное к этому часу 1️⃣ По Киеву и Одессе ночью были прилёты. В Киеве в результате российской атаки погиб мужчина. Под Броварами загорелись склады. 2️⃣ Путин заявил, что Россия будет продолжать «бороться за права наших соотечественников» в странах Балтии. 3️⃣ Токаев освободил министра обороны Казахстана Косанова от должности после гибели военнослужащих на учениях. 4️⃣ В премьера Венгрии Петера Мадьяра бросили яйцо во время выступления в Сольноке. До политика оно не долетело. После инцидента Мадьяр пошутил, что яйца нынче дорогие и попросил больше так не делать. 5️⃣ США и Россия добились удаления из проекта ООН по автономному оружию ряда ограничений на применение ИИ.

🤖 ИИ разрешат самому решать, кого атаковать? США и Россия добились удаления человеческого контроля из проекта правил ООН для автономного оружия Изначально документ предполагал простое ограничение: если ИИ сам выбрал цель, человек должен обязательно проверить её перед ударом. На переговорах в Женеве это требование убрали. Также из текста исключили пункт о необходимости учитывать этические аспекты и требования к предсказуемой и надёжной работе таких систем.

Оружие с ИИ не будет контролироваться человеком и станет неэтичным. США и Россия добились удаления таких ограничений из проекта ООН по автономному оружию, пишет BFM. В ходе встречи в Женеве из проекта убрали требование об обязательной проверке человеком целей, которые выбрал ИИ перед атакой. Также были исключены положения о необходимости учитывать этические аспекты при использовании оружия с ИИ. @bankrollo

Случился неожиданный Анкоридж в виде ИИ-дипломатии на непубличных треках: США и Россия добились удаления из проекта ООН по автономному оружию ряда ограничений на применение искусственного интеллекта — The Washington Post Как сообщает издание, на переговорах в Женеве из текста убрали требование, чтобы человек проверял выбранные ИИ военные цели перед нанесением удара. Также были исключены положения о необходимости учитывать этические аспекты и о том, что такие системы должны работать «предсказуемо» и «надежно». По данным издания, в последний день переговоров делегации США и России примерно 15 часов добивались изменения документа. У каждой стороны работала команда примерно из десяти юристов — почти вдвое больше, чем у других делегаций. Правки вносились на закрытом заседании — камеры ООН были отключены, а представителей общественных организаций попросили покинуть зал, сообщает газета. Госдепартамент США, российский МИД и ООН не ответили на запросы издания. * * * Если WP не врет, то хорошего в этом мало. Точнее, даже так — это совсем отвратительно. ⏺Подпишись: МИГ в telegram |🇷🇺  МИГ МAX на парковке ⏺

Оружие с ИИ будет убивать всех без контроля человека и не будет учитывать этические аспекты. США и Россия добились удаления таких ограничений из проекта ООН по автономному оружию, пишет BFM. В ходе встречи в Женеве из проекта убрали требование об обязательной проверке человеком целей, которые выбрал ИИ перед атакой. Также были исключены положения о необходимости учитывать этические аспекты при использовании оружия с ИИ. @banksta

США и Россия добились удаления из проекта ООН по автономному оружию ряда ограничений на применение ИИ, пишет WSJ. Из текста убрали требование, чтобы человек проверял выбранные ИИ военные цели перед нанесением удара. Также были исключены положения о необходимости учитывать этические аспекты и о том, что такие системы должны работать предсказуемо и надёжно. @banksta

США и Россия добились удаления из проекта ООН по автономному оружию ряда ограничений на применение ИИ, пишет The Washington Post со ссылкой на участников переговоров и изученные документы. На переговорах в Женеве из текста убрали требование, чтобы человек проверял выбранные ИИ военные цели перед нанесением удара. Также были исключены положения о необходимости учитывать этические аспекты и о том, что такие системы должны работать "предсказуемо" и "надежно". По данным WP, в последний день переговоров американская и российская делегации примерно 15 часов добивались изменения документа. У каждой стороны работала команда примерно из десяти юристов - почти вдвое больше, чем у других делегаций. Переговоры проходят в рамках попытки ООН выработать международные правила применения смертоносных автономных систем, способных самостоятельно выбирать и поражать цели. Пока согласованный документ не имеет обязательной юридической силы, однако в ноябре страны вновь соберутся в Женеве и должны решить, начинать ли переговоры о полноценном международном договоре. США и Россия, как пишет WP, выступают против юридически обязательных ограничений на автономное оружие. Технология уже применяется на практике. По данным The Washington Post, американские военные использовали ИИ Anthropic для определения почти 1000 целей в первые сутки войны с Ираном.

Россия и США убрали из проекта соглашения ООН о боевом ИИ обязательную проверку целей человеком — The Washington Post Делегации США и России на переговорах в ООН о регулировании летального автономного оружия вычеркнули из проекта документа ряд защитных мер, касающихся применения искусственного интеллекта в вооружениях, пишет The Washington Post со ссылкой источники и документ. Правки вносили на закрытом заседании, камеры ООН отключили, а наблюдателей от гражданского общества удалили. Вашингтон и Москва привели примерно по десять юристов (почти вдвое больше, чем у других делегаций) и меняли текст так быстро, что небольшие делегации не успевали за изменениями, отмечает WP. Госдеп, МИД России и ООН на запросы газеты не ответили. Пока итоги переговоров не имеют обязательной силы, но это самая продвинутая международная попытка урегулировать применение ИИ-оружия на поле боя, пишет издание. В ноябре страны снова соберутся в Женеве, чтобы обсудить, можно ли превратить переговоры в официальный мандат или юридически обязывающий договор. 🩷 Подпишись — @tvrain

США и Россия выступили за исключение ряда ограничений для военного ИИ из проекта документа ООН о международном регулировании автономного оружия, пишет The Washington Post. По данным источников издания, делегаты двух стран предложили убрать требования, согласно которым такие системы должны работать «предсказуемо» и «надёжно», а при использовании ИИ-вооружений необходимо учитывать этические аспекты. Также из текста предложили исключить один из ключевых пунктов — обязательную проверку человеком выбранной системой цели перед атакой. #финансы #деньги #банки #cash #бизнес #новости

WP: США и Россия убрали из правил ООН пункт о проверке человеком целей боевого оружия с ИИ Страны добились исключения нескольких ключевых ограничений из проекта международных правил по применению автономного оружия. Об этом сообщает The Washington Post со ссылкой на трех участников закрытых переговоров и изученные редакцией документы. Переговоры по регулированию применения летального оружия с ИИ проходили в Женеве с 31 августа по 4 сентября. Там собрались сотни дипломатов. По данным журналистов, американская и российская делегации настояли на исключении требования о том, чтобы автономное оружие работало "предсказуемо" и "надежно". Из проекта также убрали положение об учете этических последствий и пункт об обязательной проверке человеком целей, которые определил искусственный интеллект. Основные изменения внесли в последний день во время закрытого заседания, продолжавшегося около 15 часов. Как утверждают источники издания, российские и американские юристы "стремительно" меняли документ при выключенных камерах ООН, а представители других делигаций едва успевали за ходом событий. Заместитель директора подразделения Human Rights Watch по вопросам вооружений Верити Койл предупредила, что ослабление правил может позволить машинам принимать решения, от которых зависят жизни людей, без участия человека. "Практические последствия очевидны: рост числа жертв среди мирного населения, снижение уровня ответственности и ускоренный переход к более рискованным формам автоматизированной войны", — отмечает она. Согласованный документ пока не имеет юридической силы. Он должен стать основой для дальнейших переговоров и в будущем может привести к международному договору об автономном оружии.