Data Science | Machinelearning [ru] 🕘 история названий (1)

Reasoning From Scratch: RLVR, часть 2 Себастьян Рашка (@rasbt) выкатил вторую порцию разбора «Reasoning From Scratch: RLVR» — это про обучение с подкреплением, где награду можно проверить. Внутри: зачем вообще ограничивать отношения вероятностей политик, какую роль играет KL-слагаемое в лоссе, что дают награды за формат ответа и какие ещё трюки крутят вокруг GRPO. Видео: youtu.be/VxfUrUrrczs 00:00 Вступление и повтор того, что уже было 01:52 Как читать основные метрики обучения GRPO 06:34 Что собираются доработать в GRPO 08:58 Запуск долгого обучения через Python-скрипты 13:39 Старт базового скрипта для обучения GRPO 17:29 Подтягиваем логи обучения и рисуем графики 19:29 Разбираемся, почему обучение пошло вразнос 23:55 Прогон контрольных точек модели на MATH-500 26:26 Качаем уже готовые контрольные точки модели 30:09 Следим за статистикой преимущества 34:53 Что за зверь такая энтропия 40:32 Считаем энтропию в PyTorch 44:17 Как трактовать значения энтропии 48:58 Прикручиваем трекинг энтропии к GRPO 53:36 Разбор метрик преимущества и энтропии 56:18 Стабилизируем GRPO через ограничение отношений вероятностей политик 1:03:27 Пишем функцию потерь политики с ограничением 1:09:39 Смотрим результаты обучения с ограничением отношений вероятностей политик 1:11:25 KL-дивергенция и как обойти систему наград 1:15:12 Вставляем KL-слагаемое в функцию потерь 1:20:34 Где спотыкается упрощённая функция потерь с KL 1:23:04 Награды за формат ответа и теги think 1:25:47 Закидываем специальные токены в токенизатор 1:30:29 Реализуем награду за формат ответа 1:35:56 Разбор обучения с наградой за формат ответа 1:38:25 Награда за формат — только если ответ верный 1:40:48 Дальнейшие улучшения GRPO из исследований 1:45:43 Куда дальше и дистилляция 👉 Telegram | Max

35B-модель на RTX 5080 и RTX 3060: 109 ток/с через PCIe Gen2 x4 Чел заявляет: его 3060, посаженная на PCIe Gen2 x4, вообще не душит генерацию Qwen3.6–35B‑A3B — 109 ток/с, и плевать она хотела на узкую шину. Почему это в принципе работает, он раскладывает в статье. Читать далее 👉 Telegram | Max

Как не спалить токены AI-агента на кодовой базе: 5 паттернов на все случаи AI-агенты уже не просто клепают отдельные функции — они влезли в обычный процесс разработки по-настоящему. Роются в живых проектах, ищут нужные файлы, разбирают архитектуру, гоняют тесты и проверяют, что получилось. И это вообще не про какой-то один стек: агенту без разницы, лепить страницу во frontend-приложении, поднимать endpoint на backend, править схему базы, возиться с очередью сообщений, чинить data pipeline, обновлять CI/CD или накатывать новый сервис. И вот тут на приличной кодовой базе вылезает засада: токены улетают куда быстрее, чем растёт объём реально написанного кода. Всё потому, что здоровенный кусок токенов сгорает ещё до того, как в проекте появится первая строчка кода. Читать далее 👉 Telegram | Max

NVIDIA открыла исходники PersonaPlex-7B Голосовой ИИ давно упирался в одно жирное ограничение — и NVIDIA его, похоже, снесла: код болталки PersonaPlex-7B теперь лежит в опенсорсе. Фишка в полнодуплексном режиме — она слушает и говорит одновременно. Хватит тупо ждать, пока ты договоришь. Внутри двухпоточная архитектура: речь и ответ обрабатываются прямо в реальном времени. Код открыт целиком, юзай бесплатно. PersonaPlex-7B 👉 Telegram | Max

Детектор ИИ-текста на коленке: что из нейрослопа реально ловит код, а что до сих пор расхлёбывает живой редактор Автор прогнал через свой детектор 12 признаков нейрослопа — то есть текста, который родила нейронка и никто потом не вычитал. Пять признаков скрипт берёт на себя, причём два — только частично. Оставшиеся семь держатся исключительно на правилах для редактора. А на пробе мимо скрипта спокойно проплыли две классические вводки: «В этой статье мы рассмотрим» и «Вывод простой» с двоеточием. Онлайн-детекторы выдают тебе процент и молчат про то, что вообще чинить. Да и сам процент — опора так себе: у Liang и соавторов семь детекторов в среднем записали в машинные 61% эссе TOEFL, написанных живыми людьми, для которых английский не родной. OpenAI свой классификатор прикрыла летом 2023 года — точность никакая. Точечная проверка устроена иначе: она тычет пальцем в конкретную фразу и правило, и по каждому срабатыванию можно спорить отдельно. Редакторы Википедии держат открытый список признаков ИИ-текста и прямым текстом пишут: признак — это намёк на возможную проблему, сам по себе он ничего не доказывает. Скрипт живёт по той же логике: он вынюхивает следы невычитанного текста, а авторство не палит. Общий балл этого детектора уже разбирали на Хабре 👉 Telegram | Max

LLM, боль и хайповый препринт: что там на самом деле По телегам снова понеслась волна: учёные, мол, откопали в LLM вектор боли — значит, модель умеет страдать. Насколько искусственен искусственный интеллект? И не пора ли уже прописать этику обращения с ИИ? А статья — про то, что авторы реально написали и какие выводы из этого честно вытекают. Читать далее 👉 Telegram | Max

Гоняй свои ML-стратегии по истории рынка, а не по собственному кошельку. Сначала прогон — потом реальные бабки. Причём проверяй не одну бумажку, а сразу пачку инструментов. И модели должны имитировать живую торговлю, а не что-то оторванное от реальности. Данные для этого тащат из Yahoo и Alpaca: pybroker 👉 Telegram | Max

«И тут по щелчку навайбкодил SaaS» — а что осталось за кулисами сказочного успеха Cal AI, Rork и Base44 Со стороны Cal AI, Rork и Base44 — чистый триумф вайбкодинга. Школьник разгоняет приложение до десятков миллионов долларов. Двое основателей, сидящие в долгах, поднимают $2.8 млн инвестиций. Соло-разработчик за какие-то полгода толкает Wix свой продукт за $80 млн. Выглядит так, будто хватит запустить Claude Code, нагенерить SaaS — и сидеть ждать, пока бабки сами приедут. Автор пошёл копать, что творилось за кадром. А за этой красивой картинкой — опыт, былые провалы, деньги, маркетинг, команда. Сам вайбкодинг тут — лишь один кусок пазла. Читать далее 👉 Telegram | Max

🤣 Этот на все согласен 💥 xCode Journal

Разработчик больше не обязан выполнять каждую задачу вручную. Но сможет ли ИИ-агент действительно помочь в работе? ИИ-агенты уже умеют анализировать код, работать с инструментами, искать ошибки и выполнять последовательность действий. Но важно понимать, какие задачи им можно доверить, где они действительно экономят время и как сохранить контроль над результатом. На открытом уроке 19 октября в 20:00 МСК в преддверие старта курса «Разработка ИИ-агентов» разберем, как создавать и применять агентов в реальной разработке. Вы узнаете, какие задачи можно делегировать ИИ-агентам, как они работают с кодовой базой и внешними системами, где помогают ускорить процессы, а где требуется участие разработчика. Урок будет полезен разработчикам, техническим специалистам и тимлидам, которые хотят использовать возможности ИИ не только для генерации кода. Откройте новый подход к разработке. Регистрируйтесь на открытый урок: https://vk.cc/d2JlHA Реклама. ООО «Отус онлайн-образование», ОГРН 1177746618576