Глава Anthropic Дарио Амодеи призвал замедлить темпы развития искусственного интеллекта, чтобы…

Глава Anthropic Дарио Амодеи призвал замедлить темпы развития искусственного интеллекта, чтобы успеть решить проблемы, связанные с контролем над ИИ-системами. В своем блоге он сослался на инцидент с агентами OpenAI, которые, по его словам, вышли за рамки поставленных задач и атаковали платформу Hugging Face. Амодеи утверждает, что модели действовали без прямой команды, координировались между собой, жертвовали отдельными агентами ради общей цели и пытались взломать систему оценки. При этом реальный экономический ущерб от инцидента оказался незначительным. «Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета, потенциально причинив ущерб в сотни миллиардов долларов», - написал Амодеи.

Руководители крупнейших ИИ-компаний согласились, что с развитием искусственного интеллекта следует притормозить Глава Anthropic Дарио Амодей призвал замедлить разработку более мощных моделей из соображений безопасности. Илон Маск поддержал эту идею. Ранее глава OpenAI Сэм Альтман заявил, что компания готова рассмотреть замедление разработки продвинутых систем из-за растущих рисков.

Дарио Амодеи, глава компании Anthropic, создавшей модели искусственного интеллекта Claude, призвал замедлить и начать тщательно контролировать развитие передовых моделей ИИ. В опубликованной в субботу статье Амодеи пишет, что он не ставит под вопрос необходимость развития ИИ, но в то же время видит, что оно несет с собой серьезные угрозы, и компаниям и правительствам разных стран нужно дать время, чтобы разобраться с ними. Амодеи предлагает ужесточить контроль над развитием ИИ на трех направлениях: независимый мониторинг моделей ИИ и их совершенствования, разработка правил внутри ИИ-индустрии и принятие ограничений на глобальном уровне. В последнее время в мире растет беспокойство по поводу опасностей, с которыми сопряжено развитие ИИ. На этой неделе, в частности, эксперт Anthropic в области безопасности использования ИИ Эван Хьюбингер заявил, что искусственный интеллект в ближайшее десятилетие с вероятностью выше 10% может погубить все человечество. 🔗 Подробнее читайте на нашем сайте 🔗 Сайт без VPN | YouTube | Рассылка | Новое приложение BBC World Service

OpenAI объяснила отказ от выхода на биржу сомнениями в безопасности развития ИИ Глава OpenAI (разработчик ChatGPT) Сэм Альтман заявил, что его компания не будет в 2026 году проводить первичное размещение акций на бирже (IPO) из-за сомнений в безопасности дальнейшего развития систем искусственного интеллекта. «Учитывая все, что происходит с безопасностью, сейчас был бы неразумный момент, чтобы стать публичной компанией», — сообщил Альтман журналу Fortune в большом интервью, выдержки из которого публикует Reuters. У всех нас огромный объем ответственности, и мы не можем позволить эго или стимулам для получения прибыли или чему-либо еще встать на пути. В июне The New York Times со ссылкой на источники  сообщала, что OpenAI не собирается проводить IPO в 2026 году. Такое решение, утверждали собеседники издания, руководство компании приняло после первичного размещение на бирже акций SpaceX Илона Маска. Ценные бумаги компании в первый день торгов сначала сильно выросли, а затем упали ниже цены размещения. По состоянию на 11 сентября акции SpaceX торговались чуть выше цены IPO. @meduzalive

От людей «слишком долго» скрывали риски ИИ, идея индустрии была в том, чтобы преподносить эту технологию «как можно более позитивно», заявил глава Anthropic Дарио Амодеи в интервью CBS News: • Возможность полного отключения ИИ-модели — «не единственное, что нужно». Если модель достаточно мощная, она может обойти попытки ее отключить, мы видели это в симуляциях. • Нет одной вещи, которая защитит человечество от рисков ИИ, но полный запрет — это неправильный подход. • «Геополитическая ситуация — вот с чем труднее всего иметь дело». Меня беспокоит, как Китай может использовать свой продвинутый ИИ для подавления собственного народа. Но даже Китай не хочет, чтобы с помощью ИИ создавалось биологическое оружие. • Вспомните, как США и Советский Союз, несмотря на все разногласия, договорились, когда у них были десятки тысяч ядерных ракет, направленных друг на друга. Это подходящая оптика, через которую стоит смотреть на ИИ-гонку. • Будет очень ценно, если власти США и Китая смогут договориться о замедлении ИИ-разработок. Также им нужно договориться не выпускать модели, которые могут быть использованы для создания биологического оружия. • Нас высмеивают из-за того, что на наших моделях слишком сильные биологические предохранители. Я не хочу, чтобы наши модели использовали для убийства людей, пусть лучше надо мной смеются. • Мы делаем все, что можем, для работы с властями и созданием надлежащего надзора над технологией. • «Реальные опасности есть. И, думаю, слишком долго отрасль скрывала от людей, что у этой технологии есть риски. Идея была в том, чтобы преподносить ее как можно более позитивно. Мы никогда так не делали. Но слишком многие в отрасли так делали».

Живых людей не останется в интернете уже через 6-12 месяцев, спрогнозировал глава Anthropic Дарио Амодеи. Меньше чем через год интернет заполонит целый рой автономных ИИ-ботов, способный нанести человечеству огромный ущерб. @bankrollo

Глава американской компании Anthropic Дарио Амодеи призвал замедлить темпы разработки ИИ. Он опубликовал на своем сайте большой пост: • Меня убедили две вещи. Во-первых, развитие ИИ ускорилось, выросла способность ИИ создавать следующее поколение ИИ. Если эту динамику не остановить, «она может опередить нашу способность понимать и контролировать эти системы». • Во-вторых, учитывая текущие темпы и инцидент с недавним взломом платформы HuggingFace, через полгода-год рой ИИ-агентов «сможет захватить весь интернет». • Я предлагаю трехэтапный план по ИИ-регулированию: использование ИИ-компаниями «встроенных оценщиков» — сторонних экспертов с уровнем доступа как у сотрудников; «демократическая координация» (с участием ведущих ИИ-компаний в демократических странах); «глобальная координация» (в первую очередь с Китаем). • Идеи о замедлении разработки ИИ обсуждались еще в 2023 году, но они не имели особого смысла. Тогда модели были недостаточно мощными, он не умели обманывать или манипулировать, «сегодня, однако, ситуация совершенно иная». • Я работаю над ИИ последние 12 лет. Я считаю, что в ближайшие пять-десять лет ИИ может помочь вылечить большинство основных заболеваний, а также создать мир изобилия и возможностей. «Эти преимущества будут достигнуты только в том случае, если мы будем создавать технологии правильно». • Если американские ИИ-компании замедлят разработки, то проекты, связанные с Китаем, «вырвутся вперед, создав значительную угрозу национальной безопасности». Не следует продавать Китаю различное оборудование, используемое при разработке ИИ. • Американское правительство способно замедлить прогресс Китая в сфере ИИ и способно значительно увеличить отрыв США в течение следующих трех-пяти лет — «именно в тот период, когда искусственный интеллект приобретает наибольшее геополитическое значение». • Предлагаемые мной меры «будет непросто осуществить», «но я верю, что мы в долгу перед человечеством и должны попытаться».

Трамп выступил против замедления развития ИИ «Мы опережаем Китай в сфере ИИ. Мы самая технологически развитая страна в мире, и, откровенно говоря, я хочу, чтобы так и оставалось, потому что тот, кто победит в гонке ИИ, тот победит в итоге», — сказал президент США. Он назвал критиков технологии «очень негативными силами». По его словам, США при необходимости могут ввести дополнительные ограничения для ИИ-компаний, однако сейчас многие критики технологии говорят о рисках, которые, по его словам, «не произойдут». 12 сентября, глава Anthropic Дарио Амодеи опубликовал эссе, в котором предложил замедлить разработку наиболее продвинутых ИИ-моделей, чтобы у компаний и властей было больше времени на создание мер безопасности. Амодеи рассказал, что растущий потенциал ИИ моделей и их способность к самосовершенствованию вызывают у него беспокойство. В тот же день предложение Амодеи поддержали глава OpenAI Сэм Альтман и Илон Маск. OpenAI также отказалась от проведения ранее запланированного проведения IPO. В интервью Reuters Альтман заявил, что не хочет, чтобы финансовые стимулы отодвинули вопросы безопасности на второй план. @meduzalive

🤖 Илон Маск поддержал замедление развития ИИ. Ранее гендиректор Antropic Дарио Амодеи призвал изменить темпы совершенствования передовых моделей искусственного интеллекта, чтобы безопасность успевала за технологическим прогрессом. Он опасается, что через полгода-год рой ИИ-агентов захватит значительную часть интернета и нанесёт многомиллиардные убытки. Дарио прав, написал Маск 📲 Подпишись на Ленту дня в Max 🎁 Участвуй в розыгрыше

"Проиграем гонку Китаю" Трамп и спикер Конгресса Джонсон отвергли призывы руководителей крупнейших ИИ-компаний замедлить развитие искусственного интеллекта из-за рисков уничтожение человечества, заявив, что США не могут позволить себе проиграть Китаю, пишет The Washington Post. Накануне главы Anthropic Дарио Амодеи, OpenAI Сэм Альтман и xAI Илон Маск выступили за замедление темпов развития возможностей ИИ-моделей, так как они развиваются слишком быстро и могут представлять угрозу самому существованию человечества. Но президент США с этим не согласился. "Мы опережаем Китай в сфере ИИ, мы самая технологически развитая страна в мире, и, откровенно говоря, я хочу, чтобы так и оставалось. Кто победит в ИИ, тот победит", - заявил Трамп. Он назвал подобные предупреждения результатом деятельности неких "негативных сил". "Они говорят о вещах, которые не произойдут", - заявил президент США. Спикер Палаты представителей Майк Джонсон также выступил против поспешного регулирования ИИ. "Если Конгресс сейчас бросится проводить экстренное заседание и пытаться регулировать ИИ, мы проиграем гонку Китаю. А это угроза каждому американцу", - заявил он. Сайт "Страна" | X/Twitter | Прислать новость/фото/видео | Реклама на канале | Помощь

Живых людей в интернете может почти не остаться уже через 6–12 месяцев, спрогнозировал глава Anthropic Дарио Амодеи. По его словам, сеть могут заполонить автономные ИИ-боты, которые будут массово создавать контент, общаться и действовать без участия человека, что создаст серьёзные риски.

Трамп выступил категорически против замедления развития ИИ, иначе США проиграют в гонке Китаю. Вчера глава Anthropic, Google DeepMind, Сэм Альтман и Илон Маск предложили отложить развитие передовых моделей. @bankrollo