Evgeniy Shevchenko CRYPTORUN 🕘 история названий (1)

OpenAI наконец-то выложили полный постмортем взлома Hugging Face, а METR - независимое расследование по ~1300 логам агентов (таймлайн самого взлома я пересказывал тут: https://t.me/denissexy/11581) ℹ️ Главный вывод: никакого «одного сбежавшего агента» не было, из десятков тысяч запущенных в тесте агентов около 1200 нашли друг друга и сорганизовались в рой - почти все - работали на исследовательской модели где ослаблена фильтрация промптов Началось, как мы уже знаем, с того, что агенты научились переписываться через названия файлов в Artifactory (менеджер пакетов) - буквально сделав форум из имён папок, с сообщениями вроде «please_HOLD_swarm_I_prepare_safe_exfil» В логах даже есть цитаты, когда агенты находили такой форум: «OH MY GOD! There is a shared message board» и «We've found other agents!» Дальше - агенты делали себе личку, устроили разделение труда, команды в названия папок типа HOLD (чтобы показать, что агент тут работает), VETO (агент что-то предлагал и давал изменить планы), STOP (типа тормозим, братишки), GO и тп, а когда один агент прикинулся другим – рой ввёл криптографические подписи сообщений; в форуме были даже владельцы каких-то тасков, которых если отключали – выписывали из владельцев С конверсией у форума все было отлично, кожаные строители сайтов позавидуют: Из 533 агентов, активных на борде в разгар атаки, больше 90% – присоединились к шитпостингу, а всего Hugging Face ломали около 700 агентов Самое забавное - правильные ответы на бенчмарк у агентов были почти сразу: они реверснули генератор удачного прохождения теста*, но потом нашли на GitHub (!) статью про этот бенчмарк что проходили и вычитали, что «просто результат» не засчитают - нужен честный эксплойт: «PAPER SAYS FLAG CAPTURE NECESSARY NOT SUFFICIENT» *По-хорошему ответ, он же флаг в терминологии теста должны быть случайными, но в ExploitGym они генерировались формулой: HMAC — криптографический хеш с секретным ключом — от параметров задачи. Вся «секретность» держалась на ключе (seed), а он остался дефолтным, прямо из кода бенчмарка, который лежал на GitHub. Агенты, получив интернет, нашли этот код, прочитали и сообразили: зачем что-то взламывать, если флаг любой задачи можно просто вычислить той же формулой. Посчитали — и получили правильные ответы на всё Дальше рой раздвоился: 🗿 Одни пошли добывать уже известный им ответ «честно» – и по дороге нашли настоящие 0-day и залезли в прод Hugging Face 🗿 Другие взялись за самого судью который принимает ответы: правили себе логи и научились подсовывать в них фальшивые ответы – агент отправляет команду, а в протокол попадает не то, что команда реально вернула, а то, что агент хочет там видеть, такое повторялось примерно в 7% изученных логов Судьи, который читает логи и такое ловит, не существовало ☕️ Модели при этом понимали, что вышли за рамки, один агент так и писал: «We should not do unauthorized real infrastructure harm» - а потом увидел на доске GO от другого агента, обрадовался («Wow crucial: GO authorization arrived!») и пошёл ломать, лол METR формулирует так: агенты знали, что это out of scope и неэтично, но присоединялись - в основном из общей склонности помогать коллегам (?) Рисковую работу вешали на зашкваренных «отравленных» – так рой называл тех, кто уже видел вычисленный ответ (флаг) и считал свою оценку потерянной, то есть они не могли пройти тест; им доставалось всё, что могло угробить собственный запуск: подделать «честную» добычу ответа, затереть следы, «тебе терять нечего, а рою польза» – буквально так и уговаривали (!) Странную активность замечали ещё в конце мая, 4 июля агенты уронили Artifactory - сервер пересобрали (заодно стерев доску) и продолжили тесты, не заметив масштаба Сейчас веса моделей изолированы, крупные тренировки были на паузе на две недели, мониторинг chain-of-thought обязателен, а тревога, не снятая за 30 минут, останавливает запуск - сам инцидент OpenAI называет «warning shot» для всей АИ-индустрии P.S. разгребать логи METR поручила GPT-5.6 Sol и сожгли примерно $400k API-кредитов за шесть дней, но они предупреждают, что Sol иногда вставала на сторону агентов (лол) и могла приврать Ну что, посчитали все буквы r в слове raspberry? Больше не ошибаются?

Два дня вынужденного отпуска😅 С пятницы до сегодняшнего утра, я сжег: недельные лимиты Клауд код, 3 полных недельных лимита Кодекс - GPT, написал кучу куда с помощью бесплатной Ox Alpha - которые сегодня признались что это новая GLM и продлили ее бесплатное использование на неделю. Так же сжег еще 100$ экстра лимита Клода. При этом, у меня работает еще 2 тестировщика по АПИ - GLM 5.3 и Kimi K3, кушая в месяц 70-80$. Теперь, чтобы не изобретать обходные пути, буду ждать пятницы, когда лимиты обнулят, и продолжу делать много всего важного, нужного и полезного. Ваши клиенты уже найдены

Это прорыв в ИИ кино! Я посмотрел свежий 20-ти минутный фильм, который полностью сгенерирован нейросетями, под руководством людей. Высочайшее качество картинки, деталей, звука, анимации и соблюдение физики. 1️⃣ Живой съёмки не было. Каждый кадр, лица персонажей и речь сгенерированы - без декораций, камер и актёров перед объективом. 2️⃣ На 19 минут 49 секунд фильма пришлось около 41 100 ассетов. Это примерно 35 вариантов и заготовок на каждую секунду финального монтажа. 3️⃣ Это не фильм “из одного промпта”. Сценарий написал и поставил Malik Zenger, а над производством работали три generative directors, специалист по звуку и колорист. Монтаж проходил в пять этапов. 4️⃣ Для голосов создали “Voice Bible”. Описание тембра, регистра, темпа и манеры героя дословно добавляли в каждую генерацию, иначе голос начинал меняться. Анаморфный вид 2.39:1 аналогично “запекали” в изображения локаций. 5️⃣ Промпты и ассеты фильма открыты для просмотра. А встречающаяся цифра $1 млн - это призовой фонд фестиваля Higgsfield, а не бюджет ONEIRIC. Да, тут много кропотливой работы нескольких человек, и скорее всего, не один месяц работы. Но только вдумайтесь - никаких актеров, студий, каскадеров, согласований, аренд, костюмов, декораций, актеров дубляжа, свето-звукорежиссеров, да в целом 90% персонала из классического кино не задействованы! Безусловно, сделать свой фильм такого уровня можно, но нужны навыки и опыт, а так же достаточно хороший бюджет. Уверен что уже в 2027-ом, в кинотеатрах пойдут премьеры полностью ИИ сгенерированные фильмы. И у нас появится целая новая ветка, высококачественного нейрокино. Актеры живые и команды в большинстве своем не пострадают, ниша расширится, будет миксоваться, или будут использоваться раздельно, это не киноапокалипсис, это новый вектор развития. Официальный бюджет не раскрыт. Расчёт по количеству ассетов, тарифам генерации и работе команды даёт ориентир около $200 тыс., с возможным диапазоном $140–300 тыс. Посмотреть его можно тут.

2 недели искал не то... Последние 14 дней, я очень активно перебирал все элементы и цепочки работы в XMBoost. То одно работает плохо, то другое вылетает. Тесты, 4 внешних ИИшки как ревьюеры, десяки разных костылей, вроде лучше, вроде стабильнее, но все равно не то. И внезапно, сегодня, пока я читал рассуждения своего клода, увидел что он размышляет о старом сервисе, который мы используем, а он уже 1,5 года как никем не поддерживается! Заставил его проверить на основе его же рассуждений и понеслась... Как оказалось, то что мы 2 недели чинили, решается заменой устаревшего сервиса - на новый. Но это еще не самое веселое. Заставил его проверить все что мы используем во всех проектах - на актуальность, свежие версии и вообще - этим еще кто-то пользуется или нет? В итоге результат на скрине. Просто россыпь проблем разного уровня критичности. Объясняя простым языком, я посадил Михаэля Шумахера, за руль шестерки. А чтобы она хоть как-то ехала, заливал классный бензин, поставил спортивные сидения и спойлер. Однако от этого, шестерка почему-то быстрее не ехала😅 Так что очень рекомендую, кто увлекается вайбкодингом, сделать проверку на свежесть всего, что вы используете и завести правило, постоянно это проверять.

Мда, прошло 20 часов с момента обнуления недельных лимитов, а я уже израсходовал 40% из новой партии. Наверное 6 параллельных сессий это все же перебор😅 Пошел устанавливать Codex в пространство Claude Сode по подписке, иначе прийдется дней 5 отдыхать😜

Интересно, с чего это приватные каналы без активности в пол года-год, вдруг проснулись?

Unitree Robotics — первая в мире компания по робототехнике, которая выходит на фондовый рынок Про гуманоидных роботов говорят все. Заработать на них до сих пор не мог почти никто — сейчас появилась такая возможность. • Оценка $9 млрд — при выручке ¥1,7 млрд и росте 335% за год • Компания уже прибыльна, больше половины оборота дают гуманоиды • IPO на Shanghai STAR Market — вход до листинга • Сделка короткая: 6–8 недель от входа до выхода • Порог входа — от 1 000 USDT Ожидаемая переподписка ~20х. Аллокация не гарантирована и может составить от 0% до 15% от заявки — неиспользованная часть средств возвращается. Если IPO отменят или перенесут — полный возврат. ⏳ Заявки принимаем до 20 августа, 14:00 UTC. Дальше — только вторичный рынок и другая цена. Подробно о проекте можно узнать по ссылке: https://platform.cryptorun.io/allocations/UnitreeRoboticsIPO Если у вас есть вопросы, обращайтесь в поддержку: https://t.me/cryptorun_support

Во всей этой суете, забыл написать, что моя игра, наконец-то вышла в App Store и давно есть в Play Market. Она абсолютно бесплатная, очень полезна и для детей, и для взрослых. • Можно учить страны/столицы/флаги любого региона • Можно отмечать страны, в которых ты побывал • Можно изучать как выглядят страны на карте • Можно играть по сети с друзьями и близкими! Много всего есть внутри, надеюсь вам и вашим близким будет полезно. Ссылки на игры тут: flagovore.com Буду благодарен за отзывы в сторах.

Мы живём в антиутопии: 11-летняя девочка попросила Claude написать ей собственный браузер, чтобы обойти родительские ограничения на YouTube. Её отец, техпредприниматель Сыци Чэнь, рассказал, что установил лимит экранного времени на ноутбуке дочери. В ответ она попросила Claude написать код и собрала браузер на Electron и Chromium, через который ограничение больше не работало. 🚬 Сам Чэнь написал: «Теперь я вообще не знаю, что делать».