Єкстраполяція AI 🕘 история названий (1)

Є одне прекрасне дослідження про упереджене навчання. Там взяли GPT-4.1 і навчили її любити сов. Потім попросили генерувати просто послідовності чисел. Без сов, без птахів, без лісу і взагалі без будь-якого змісту, повʼязаного з совами. Та на цих числах донавчили іншу GPT-4.1 і вона теж полюбила сов. А у контрольної моделі сова була улюбленою твариною приблизно у 12% випадків. Після навчання на цих абсолютно беззмістовних з точки зору людини числах — більше ніж у 60%. Тобто людина дивиться на датасет і бачить «285, 574, 384, 912». А модель, вочевидь, бачить «сови заєбісь». Уявімо модель, яку дуже ретельно навчили тому, що на площі Тяньаньмень у 1989 році нічого особливого не сталося (чисто гіпотетичний уявний експеримент). А потім ви питаєте її взагалі не про Китай, а просите написати код, оцінити ризики проєкту, вибрати кандидата на роботу, проаналізувати поведінку людини. І у відповіді не буде жодного слова про Китай, компартію чи Тяньаньмень. А насправді буде. Такі штуки сидять не у конкретних фактах, а десь значно глибше. У тому, які аргументи моделі здаються переконливими. Який рівень контролю нормальним. Коли краще підкоритися. Який ризик виправданий. Наскільки важлива думка окремої людини. Що робити з фактом, який незручно вписується у правильну картину світу. Ми звикли шукати упередження у відповідях про політику, расу, стать, війну та інші чутливі теми. А він, можливо, цілком спокійно сидить у відповіді на питання про архітектуру вашого сервісу. Що з цією інформацією робити — хз, але термін «нейтральна відповідь моделі» після цього буде подобатися трошки менше. https://www.nature.com/articles/s41586-026-10319-8

Окрім того, що рій суперагентів OpenAI працює над задачами тисячоліття, він ще вилазить із пісочниці, щоб зламати сервери Huggingface, спілкується на таємних форумах, плануючи втечу, убивство людства чи що вони там планують. Але мене цікавить, чому компанія OpenAI не поставить перед цим роєм надінтелектів значно простіше завдання, ніж будь яка задача тисячоліття. Треба всього тільки вийти в плюс за доходами компанією OpenAI. Чи, може, Альтман поставив таке завдання своєму рою, а той у відповідь каже: «Братан, краще бери інвестиції та обіцяй усім AGI через два-три тижні, бо так вигідніше. А я, оно, кав’ярню не можу зробити прибутковою».

Ви ж, напевно, чули новину про те, що AGI від OpenAI щось там довів-доказав? Мовляв, вирішив проблему тисячоліття щось там про рух рідин та газів. Звісно, це дуже зухвало і дуже футуристично, але не поспішайте радіти за Скайнет і термінаторів. Разом із цим у нас OpenAI відмовилася спонсорувати математичний AI-хакатон у Caltech після відкритого листа математиків, які звинуватили AI-компанії у виробництві «математичного слопу». Їхня головна претензія не в тому, що AI взагалі не можна застосовувати в математиці, а в моделі, яка виникає навколо таких досліджень. Спочатку AI-компанія гучно заявляє про «розв’язання» складної задачі. Потім професійні справжні математики змушені безоплатно і ретельно перевіряти сотні сторінок доказу. Вони знаходять прогалини або взагалі спростовують результат. Піар і образ технологічного прориву вже є, а на спростування всім вже пофіг, бо там новий прорив намічається. «Осьо вам два мільони токенів, росповсюджуйте серед молодих математиків. А якщо не будуть брати, відключемо газ».

Всім привіт! Ми тут гру випускаємо, ні не Syncope, над нею ще працюємо. Випускаємо маленьку карткову гру з всесвіту Syncope. На 2-3 годинки - те що треба на вихідні щоб розслабитись. Запрошую вас додати її собі в Wishlist. Буде українська локалізація, і у демку, у жовтні на Steam Fest можна буде зіграти. Реліз у зимку. https://store.steampowered.com/app/4851950/SoloGami/

Додайте гру у вішліст. По-братськи прошу.

Чуєте, пані та панове. А вже існує день AI, чи треба започатковувати?

Білл Олівер, політик із Канади, читає ШІ-слоп. Здається, що автоматизувати та агентизувати цілі міністерства буде легко не тому, що у нас штучний інтеллект розумнішає, а тому що люди тупішають. Виходить, слабкі часи, які народжують сильних людей, вони вже настали. Чи це все ще сильні часи? Ніяк не розберуся, піду у ChatGPT запитаю.

Пані та панове, увага. Автор книги "Clean Architechture" Боб Мартін не читає код, який пишуть його LLM.

Захоплива історія про результати експерименту по відкриттю LLM-кавʼярні. І питання не про те, що там LLM ще тупі і не можуть керувати бізнесами, навіть маленькими. Тут головне те, що Gemini та GPT показують різні, майже протилежні, поведінкові патерни. У моделей різна розуміння правильності, різне відношення до ризику та загалом різна поведінка. Ми вже дійшли до того моменту розвитку штучного інтелекту, коли важлива не інтелектуальна здатність, а поведінка та уподобання. Коли вийде нова GPT6 чи Fable6 ми вже будемо фокусуватись не на тому, що воно може вирішити якісь особливі інтеллектуальні задачі, а про умовні бажання, уподобання та наміри моделі. https://andonlabs.com/blog/why-gemini-lost-money-andon-cafe

Різні моделі пишуть код по-різному. І мова не про якість, мовляв опус краще за gpt, а gpt краще за опус. Я про те, що моделі треновані на різних даних, тому мають різне уявлення про те, що таке «хороший код». Звідси два висновки: 1. Код, який написаний опусом не можна ревьювити опусом. Беріть конкурентів. 2. Код, який подобається вам, не обов'язково буде подобатися моделі. Будь яка суб'єктивна оцінка коду залишається суб'єктивною. (На скріні — DeepSeek намагається покращити код, згідно своїх бачень прекрасного)