Quantum Quintum

Очередная серия "CEO пишут письма". Для контекста, см. наезд выше на Microsoft. Сатья Наделла о супер-интеллекте (прогиб засчитан!) как внутренней угрозе: — В отличие от детерминированного кода, в ИИ (SI) вы не можете проследить всю цепочку принятия решения до входной информации в тренировочном датасете и весов модели. — Для этой новой конфигурации нужна новая архитектура доверия. Гарантии провайдеров моделей не снимают ни с кого ответственности. — Нужно инженерно отделить супер-интеллект от принятия решений, архитектурно обвязать детерминированными системами, человеческим контролем и т.п. — Мы должны считать открытые и закрытые моделями внутренними инсайдерами. Хорошая новость: мы давно умеем делать это с людьми. — Цепочка рассуждений модели должна быть прозрачна (это явно укор некоторым игрокам, которые начали ее прятать). — Модели должны быть использованы, чтобы проверять друг друга. Но важно не закончить каскадом черных ящиков. Поэтому контроль доступов должен быть вне модели. ==> Модели должны быть разнообразны. Модель не должна проверять себя же. Каждое действие модели должно оставлять человекочитаемый след. Системы должны избыточно тестироваться. Контроль доступов должен осуществляться независимо от моделей. Модель не может проверять собственное соответствие требованиям. Модели должны быть всегда изолированы. Инциденты должны раскрываться с потрохами.

Я как-то пропустил, о оказыается сделка-то сорвалась и с сентября Manus снова фигачит как независимая компания. Основатели продолжают работать над проектом отдельно от бригады МаркаЦ. Не понятно, успели ли ребятки Марка погреть ручки на наработах и данных Manus (как будто бы формально нет). Но публично пришлось проводить операцию по удалению данных за соотв. период, а пользователям советовали сделать бэкап и восстановить его уже на другой инфраструктуре. Но Manus уже успел поднять $500M после "развода".

— ИИ лаба банит пользователей за жестокое обращение с ИИ <-- мы здесь — ИИ лабы объявляют AGI — ИИ лабы требуют защиты прав ИИ

Драма

Сильно, прошел год со скандала с визами талантов в штатах... US suspends Microsoft, Adobe, Cognizant, Infosys, Tata, Wipro, HCL and Capgemini from key green card program. "We will not accept any new or process any pending permanent ​labor certification applications involving these companies," Sonderling said. "Our ​message to Microsoft is: You're a great American company, ​but you've got to hire great American workers," US ⁠Vice President JD Vance said. Что общего в этом интересном списке? Индия. Upd 1. "The announcement by Vice President JD Vance, during a news conference Thursday morning at the White House, came hours before President Trump gave Microsoft CEO Satya Nadella the National Medal of Technology and Innovation" Upd . "...of the approximately 6,000 H-1B visa applications we submitted in the last fiscal year, 80% percent were to extend or change the status of existing Microsoft employees. These were not to hire new people." 🍿

Исследование Google на патентных юристах, но как будто бы выводы можно масштабировать: 1. Группе юристов дали ИИ. 2. Юристы работали с ИИ 90 дней. 3. Вопрос: как ИИ влияет на обучение через работу? Результаты: 1. Двойное расслоение: -- А. Старшие юристы с опытом от 7 лет показывают на выходе улучшение суждений (без использования ИИ) по сравнению с контрольной группой. Младшие юристы (опыт до 7 лет) -- пу-пу-пу, в среднем, поумнения не происходит. -- Б. Внутри каждой из подгрупп по опыту происходит расслоение: часть показывает результаты лучше, часть хуже контроля (два пика). Но особенно наглядно это в младшей группе -- становится больше "двоечников" и "больше хорошистов". ==> Короче как будто бы ИИ выступает тем самым мультипликатором усилий осмысления. Если они отрицательные, то на выходе постепенно становится хуже. Но у сеньоров уровень по умолчанию выше (и выше модели), поэтому его сложнее сдвинуть вниз. 2. Использование ИИ само по себе не бустит никого в группу "выдающихся" результатов. ==> Короче, никаких гениальных результатов пока нет, это хороший середнячок. 3. Ослабление критического мышления. -- Провал в оценках происходит в задачах, требующих критического осмысления, -- поиска ошибок (redlining) в черновиках патентных заявок. И "страдает" от этого в основном младшая группа. ==> Научились писать "лучше" с помощью ИИ, но стали слепы к провалам в логике, аргументации и т.п. Seniors clearly harvested significant value in terms of their professional judgment. But the junior-level picture is more nuanced. Some scores improved, hinting at AI’s ability to leapfrog learning. Other scores spread to the lower rungs of the distribution, showing that in some scenarios AI can help juniors deliver adequate work, but their higher machine-assisted performance does not translate into faster acquisition of the expertise that makes senior professionals distinctly valuable.

Небольшая пачка анонсов от Microsoft про ИИ, агентов, Windows и девайсы. Общий вайб, — особенно в контексте разных планов на IPO отдельных компаний: 1. Windows как локальная токен-фабрика. Можно железо помощнее, можно модельки покомпактнее. Тут наконец-то начали играть инвестиции конторы в сжатие моделей вплоть до 2- и 3-битного представления, чтобы впихнуть невпихуемое в условные 20GB. Короче, зачем вам облачная модель, если вы можете гонять локально, а с нашим роутингом можно и гибридно сделать. Графиков нет, но судя по всему, Microsoft готова пушить тему, что для большинства КОДИНГОВЫХ задач локальной модели достаточно, потому что их MAI 1.1 Flash Code, которая на уровне приватных "рабочих лошадок", после сжатия вполне впихивается в локальный инференс. Ну и открытые тоже. 2. Copilot (который супер апп), не просто может делать код, но типа может делать нативные Windows-приложения и гонять их в контейнерах. Короче эра супер-кастомизации и "приложений-однодневок" наступает, и из этого уравнения как будто бы исключаются Visual Studio (Code). Потому что Copilot нацелен на простых пользователей. Вы получаете ОС со встроенной генерацией приложений под нее из коробки (ну ок, по подписке на копилот), минуя сторонних вендоров и +- очевидно, что тут огромная поляна для выстраивания баррикад для отрыва от сторонних вендоров. ==> Про Apple не понятно, но можно ожидать, что Google сделает такой же ход с Android + Gemini (они точно бегут в эту сторону с AI Studio).

2027: -- Расскажите о вашем опыте работы в команде. -- У меня была команда из 5 агентов, каждый работал над своей задачей. Я ценю разнообразие мнений, поэтому у меня была специализация агентов, например, мой кодекс проверял за клодом и наоборот. -- Интересно, а как на счет коллаборации и координации? -- Я сделал скилл, чтобы агенты скидывали свои ленинги в общий документ, и если у них возникал затык, они могли пушнуть вопросы в общий чат. Иногда я тоже туда подключался, чтобы дать наставления вроде "так держать", "подумай еще", "я верю, ты справишься". -- А у вас были конфликты в команде? -- Нет, знаете, агенты все очень вежливые и толерантные. Я пробовал включить в команду грока, но он был слегка токсичным, поэтому я его отключил. -- ...

Классика импортозамещения. Всегда. Везде.

Наглядная геополитика. Картинка из отчета Microsoft. Нашли проблему? Бонусом: НИКОГДА не накладывайте глобус на плоскую карту. Для сравнения — реальные глобусы из Google Earth на второй картинке