ИИ могли использовать для создания биологического оружия

❗️Claude использовали для создания биологического оружия Anthropic рассекретила журналистам инфу о том, что с декабря 2025 по август 2026 года пользователи пытались с помощью нейросети усиливать опасные патогены — делать их заразнее, смертоноснее и устойчивее к разным условиям. Среди пользователей были сотрудники военных институтов неназванных стран. Запросы маскировали под научные исследования и гранты, поскольку методы разработки вакцин и усиления вирусов технически похожи. Команда безопасности Anthropic обнаружила подозрительные переписки: в них Claude просили помогать с чикунгуньей, птичьим гриппом, ортопоксвирусами, а также токсинами и ядами для применения против человека. Вайбовая разработка биооружия, наконец-то

Компания Anthropic рассказала, что выявила несколько возможных попыток использования ее ИИ-моделей в исследованиях, которые могли помочь в разработке биологического оружия. Anthropic привела пять примеров подозрительных случаев использования Claude: • Применение нейросети в работе, посвященной высокопатогенному птичьему гриппу. Исследование было сосредоточено на адаптации вируса к организму млекопитающих и механизмах развития тяжелых форм заболевания, затрагивающих не только дыхательные пути. • Использование ИИ для написания заявки на получение гранта для проведения исследований с вирусом чикунгунья, который переносят комары. Планировалось найти усиливающие мутации, встроить их в инфекционные клоны и отобрать самые вирулентные варианты на живых животных. Работа предназначалась для военного научно-исследовательского института. • Использование Opus 5 для написания заявки на грант для исследования ортопоксвирусов в государственной лаборатории инфекционных заболеваний. К ортопоксвирусам относятся вирусы натуральной оспы и оспы обезьян. • Применение нейросети для создания атласа пептидов, входящих в состав ядов различных групп ядовитых животных. Впоследствии на этой основе был разработан генеративный конвейер для оптимизации характеристик токсинов. • Использование ИИ в проектах, связанных с перепроектированием различных токсинов. В работах упоминались субъединица бактериального токсина и белок вируса геморрагической лихорадки. Пользователь специально давал Claude указания описывать их в общих чертах, без детализации.

ИИ могли использовать для создания биологического оружия Компания Anthropic выявила пять случаев потенциально опасного использования Claude в биологических исследованиях. Речь шла о вирусах, токсинах и других разработках, которые могут иметь как медицинское, так и военное применение. В одном случае исследователи работали с вирусом чикунгунья, пытаясь изменить его свойства. В другом — с птичьим гриппом, изучая его адаптацию к млекопитающим и способность вызывать тяжёлое заболевание. Anthropic считает, что часть этих исследований могла быть связана с государственными программами. В большинстве случаев ИИ использовали для анализа данных, планирования исследований и другой научной работы. Но Anthropic предупреждает, что современные модели становятся достаточно мощными, чтобы помогать в исследованиях, которые могут иметь катастрофические последствия. Компания усиливает ограничения на биологические запросы и переводит наиболее опасные исследования в режим доступа только для проверенных организаций.

Anthropic заявила, что сорвала несколько возможных заговоров по разработке биооружия, пишет NYT. По данным издания, компания обнаружила ученых, которые использовали ее передовые модели для проведения исследований в сфере разработки биологического оружия. При этом Anthropic не может определить, были работы зловредными или законными. В компании отмечают, что ученые могли как изучать создание вакцин, так способствовать разработке опасных патогенов. 📻 Подписывайтесь на BFM | И в MAX

Компания Anthropic заблокировала доступ нескольких ученых к ИИ-платформе Claude для проведения биологических исследований, которые потенциально могли бы способствовать разработке биологического оружия @banksta

Anthropic заявила, что сорвала несколько возможных заговоров по разработке биооружия, пишет NYT. По данным издания, компания обнаружила ученых, которые использовали ее передовые модели для проведения исследований в сфере разработки биологического оружия. При этом Anthropic не может определить, были работы зловредными или законными. В компании отмечают, что ученые могли как изучать создание вакцин, так способствовать разработке опасных патогенов. 📻 Подписывайтесь на BFM | И в MAX

🧠#ии Anthropic заблокировала доступ к своей языковой модели Claude нескольким учёным, которые могли потенциально использовать ИИ для разработки биологического оружия — NYT

#Мнения ИИ-шкандаль: китайские ИИ безбожно крали результаты "труда" американских ИИ, пересылая запросы пользователей более натренированным моделям - многие почему-то удивлены @mknewsru Anthropic обвинила китайские ИИ в том, что они перенаправляют запросы клиентов к ИИ Claude, а потом выдают полученные ответы за свои. Это касается как DeepSeek, так и Kimi. Владелец последнего чатбота, Moonshot, отправил Claude 300 000 запросов через 5380 аккаунтов всего за 10 дней, при этом использовались сингапурские и японские IP-адреса. Такой трафик позволил Anthropic получить доступ к конфиденциальным данным клиентов Moonshot в США, Европе и Китае. @mediastanciacom Самая крупная кампания пришлась на Alibaba: 151 млн запросов за три месяца через 3500 аккаунтов. Один и тот же промпт заставлял Claude раскрывать скрытую логику ответа, после чего эти данные можно было использовать для обучения Qwen. Moonshot действовал похожим образом, а часть запросов, как утверждает Anthropic, шла напрямую от китайских военных. Иронично: стартап, которому присудили выплаты в 1,5 миллиарда долларов за нарушение авторских прав при создании своих нейросетей, жалуется, что с ними поступают так же. @konservativnaya Из Anthropic уволился исследователь ИИ Джейкоб Коксон, работавший над предобучением больших моделей. После ухода он написал о том, что компании осознают риски создания сверхинтеллекта, вплоть до гибели человечества, но продолжают гонку, стремясь стать первыми. @htech_plus Сотрудник Anthropic Эван Хубингер оценил вероятность того, что ИИ уничтожит человечество в ближайшее десятилетие, более чем в 10%. По его словам, в компании всерьез допускают такой сценарий, но признают: плана по согласованию целей сверхинтеллекта с человеческими пока нет, хотя компания «делает всё возможное». @ramzayiegokomanda Компания Anthropic заявила, что заблокировала доступ нескольких ученых к платформе Claude для проведения биологических исследований, которые потенциально могли бы способствовать разработке биологического оружия. Компания не смогла установить, являлись ли эти исследования законными или злонамеренными. @lobushkinflash Anthropic заблокировала аккаунты, через которые Claude использовали в работе российских государственных СМИ. По данным компании, нейросеть готовила материалы для РИА Новости, RT и Sputnik, переводила их для аудитории Молдавии, Африки и Латинской Америки, а также убирала оговорки о непроверенных утверждениях, чтобы выдавать их за подтверждённые факты. @klubniy_servis Но… Почему же они не пользовались Гигачатом от Сбера?! Неразбериха. @zhivoff Первым делом новый ИИ пойдёт туда, где сразу видны власть и эффект: контроль над людьми, извлечение денег и война. Кто решит, что это всё ещё «чат для картинок», проспит смену субъекта истории. @Russica2

Компания Anthropic заявила, что заблокировала деятельность неназванных пользователей, которые пытались использовать ее модели искусственного интеллекта для исследований, способных привести к созданию биологического оружия. Это лишь один из выявленных случаев вредоносного использования моделей ИИ Claude. 🔗 Подробности читайте на нашем сайте. 🔗 Сайт без VPN | YouTube | Рассылка | Новое приложение BBC World Service

⚡️Американская компания Anthropic зафиксировала не менее пяти эпизодов, когда учёные пытались использовать искусственный интеллект для создания биологического оружия. #США @new_militarycolumnist

Anthropic заблокировала учёных, которые могли разрабатывать биологическое оружие 🔹 Компания Anthropic сообщила, что заблокировала несколько аккаунтов учёных, которые использовали ИИ-платформу Claude для биологических исследований. По данным компании, в пяти выявленных случаях возможности ИИ могли быть использованы для работ, потенциально способных способствовать разработке биологического оружия. 🔹 Anthropic подчёркивает, что не утверждает наличие у исследователей намерения создать биологическое оружие. Однако характер запросов оказался достаточно рискованным, чтобы компания вмешалась, провела расследования и ограничила доступ к платформе. Полученные данные Anthropic также использовала для усиления защитных механизмов Claude. Кстати, по данным Anthropic, выявленные случаи произошли с декабря 2025 года по август 2026 года. ⚡️ Кстати в Мах / Телеграм

Anthropic заявила о попытках ученых из России, КНР и Ирана обойти ограничения модели Claude — FT В докладе компании говорится о пяти случаях, когда ученые из этих стран якобы пытались скрыть цели своих исследований, чтобы обойти защитные механизмы нейросети. Искомые данные могли способствовать разработке биологического оружия Так, в докладе были сведения об ученом из «неподдерживаемого региона», который в течение нескольких недель планировал эксперименты с вирусом птичьего гриппа, используя Claude При этом в Anthropic признали, что не могут быть уверены в том, что ученые планировали причинить вред, поскольку те же данные могут использоваться в разработке вакцин 📻 Подписывайтесь на BFM | И в MAX