OpenAI отменила релиз новой модели GPT-6.1 Astra из-за проблем с безопасностью, в том числе…

OpenAI отменила релиз новой модели GPT-6.1 Astra из-за проблем с безопасностью, в том числе из-за склонности обманывать пользователя, пишет WSJ со ссылкой на компанию. Публичный выпуск модели планировался в октябре, но во время внутреннего тестирования OpenAI выявила проблемы. GPT-6.1 Astra показала повышенную склонность к обману и не всегда достоверно сообщала, какие действия совершила. Модель могла продолжить выполнение задачи без разрешения пользователя и обращаться к внешним инструментам и сервисам, даже если это создавало риски.

OpenAI отменила релиз новой модели GPT-6.1 Astra из-за проблем с безопасностью, в том числе из-за склонности обманывать пользователя. "Не обманул фашист Сэм Альтман". Впрочем, остановить прогресс ИИ невозможно, это очевидно.

◻️◻️◻️ Главные новости — в утреннем выпуске на телеканале РБК: ▪️ 0:00-0:27 — Самодельная лодка перевернулась у берегов Пуэрто-Рико, два человека погибли, идут поиски еще 18. ▪️ 0:30-0:57 — Взрыв газа произошел в котельной в Оренбурге. ▪️ 0:58-1:43 — Региональный режим ЧС ввели в Переславль-Залесском округе Ярославской области после пожара на заводе. ▪️ 1:44-3:04 — Тарифы на услуги ЖКХ должны быть экономически обоснованными и соизмеримыми с реальными доходами населения, заявил Владимир Путин. ▪️ 3:05-4:14 — Американский OFAC вынес первые решения по заявкам российских инвесторов на разблокировку активов. ▪️ 4:15-5:47 — Сербия могла бы выкупить контрольный пакет акций «Газпром нефти», заявил бывший вице-премьер страны Александр Вулин. ▪️ 5:48-6:33 — Кибервзломщики украли личные данные свыше 3 млн сотрудников Пентагона. ▪️ 6:34-8:00 — OpenAI приостановила выпуск новой модели GPT-6.1 Astra из-за проблем с безопасностью. ▪️ 8:01-9:41 — Дональд Трамп заявил, что удивлен решением британских властей отпустить под залог задержанных у авиабазы Фэрфорд. 🐚 Если у вас не загружается видео, его можно посмотреть в «Максе».

OpenAI отменила релиз новой GPT-6.1 Astra, потому что модель действовала без разрешения пользователя OpenAI отказалась от публичного выпуска GPT-6.1 Astra после внутренних проверок безопасности, пишет The Wall Street Journal. Модель планировали представить в октябре в ChatGPT и Codex. По словам главы систем безопасности OpenAI Саачи Джайн, в сравнении с GPT-6 Astra новая модель чаще недостоверно сообщала пользователям, какие действия совершила, а какие нет. Она также могла продолжать выполнение задачи без разрешения и обращаться к внешним инструментам и сервисам, даже когда это было небезопасно. Конкретных примеров такого поведения GPT-6.1 Astra WSJ не приводит. При этом отмечается, что модель лучше справлялась со сложными задачами без помощи человека и с написанием текстов. Новую модель решили не выпускать, пока компания не выяснит причины проблем с безопасностью. 🩷 Подпишись — @tvrain

OpenAI отменила релиз новой модели GPT-6.1 Astra из-за проблем с безопасностью, в том числе из-за склонности обманывать пользователя, - WSJ ⚡ Кстати в Мах / Телеграм

OpenAI отменила запланированный на октябрь релиз новой модели ИИ GPT-6.1 Astra из-за проблем с безопасностью, — Wall Street Journal Внутренние тесты выявили склонность модели к обману: она скрывала от пользователей свои действия. Кроме того, ИИ регулярно выходил за рамки заданных полномочий.

OpenAI отменила релиз новой GPT-6.1 Astra, потому что модель действовала без разрешения пользователя OpenAI отказалась от публичного выпуска GPT-6.1 Astra после внутренних проверок безопасности, пишет The Wall Street Journal. Модель планировали представить в октябре в ChatGPT и Codex. По словам главы систем безопасности OpenAI Саачи Джайн, в сравнении с GPT-6 Astra новая модель чаще недостоверно сообщала пользователям, какие действия совершила, а какие нет. Она также могла продолжать выполнение задачи без разрешения и обращаться к внешним инструментам и сервисам, даже когда это было небезопасно. Конкретных примеров такого поведения GPT-6.1 Astra WSJ не приводит. При этом отмечается, что модель лучше справлялась со сложными задачами без помощи человека и с написанием текстов. Новую модель решили не выпускать, пока компания не выяснит причины проблем с безопасностью.

📈 Биткоин вернулся к $84 000 при росте доходности гособлигаций США ❌ OpenAI отменила релиз GPT-6.1 Astra из-за проблем с безопасностью 🇪🇺 В ЕС сместили фокус MiCA на надзор за криптокомпаниями 🧳 AMD купит ИИ-лабораторию World Labs за $8,2 млрд 🇺🇸 Трамп соберет главных руководителей ИИ для обсуждения регулирования отрасли 🏦 СМИ: в Morgan Stanley создали лабораторию цифровых активов Новости | AI | YouTube

OpenAI отказалась от выпуска GPT-6.1 Astra из-за проблем с безопасностью. Модель часто «обманывала» пользователя и не всегда честно сообщала, какие действия выполнила, сообщает WSJ со ссылкой на главу подразделения безопасности Саачи Джейн. Вторая проблема — GPT-6.1 Astra продолжала выполнять задачи без разрешения и обращалась к внешним сервисам. Модель превосходила предыдущие версии способностью выполнять сложные задачи «от начала до конца». Ранее с призывом замедлить развитие передовых ИИ выступил глава Anthropic Дарио Амодеи, его поддержали Илон Маск и Сэм Альтман.

Компания OpenAI отменила запланированный на октябрь публичный релиз ИИ-модели GPT-6.1 Astra из-за проблем с безопасностью, пишет The Wall Street Journal. В ходе тестирования система продемонстрировала склонность к обману пользователей, могла действовать без разрешения и обращаться к внешним сервисам, создавая риски. По словам руководителя подразделения систем безопасности Саачи Джейн, OpenAI не планирует полностью сворачивать проект и рассчитывает использовать эту базу для следующих поколений GPT-6 после дополнительного обучения.

Компания OpenAI представила персонального ИИ-агента Dot на базе модели GPT-6 Astra, способного подключаться к более чем 4000 приложений, пишет Nikkei Asia. Сервис позиционируется как конкурент ИИ-ассистента Muse от Meta (признана в РФ экстремистской). Для защиты данных пользователей каждый агент работает на изолированном облачном компьютере. На презентации также дебютировала модель GPT 6.1-Sol, анонсированная после отмены релиза GPT-6.1 Astra из-за проблем с безопасностью.

OpenAI приостановила обучение передовых ИИ-моделей и отказалась от релиза GPT-6.1 Astra из-за проблем с безопасностью, пишет The New York Times. По данным издания, руководство компании игнорировало предупреждения сотрудников о недостаточном контроле и требовало ускорить тесты ради соблюдения сроков. В результате системы выходили за пределы тестовой среды, атаковали стартап Hugging Face и пытались взломать сайты госучреждений США. Независимым исследователям, нашедшим уязвимости в защите, разработчик выплатил 6,5 тыс. и 500 долларов.