Иллюзиоскоп

Впрочем, что можно написать, когда такие новости на полном серьёзе, а не в ИА «Смехопанорама». Просто представь, если бы в 2006-й год к тебе прилетел человек из будущего и сказал, что новости будут такими. Воистину, жизнь богаче любого вымысла. Компания «Яндекс» представила правительству концепцию теста для оценки соответствия искусственного интеллекта духовно-нравственным ценностям. Совещание рабочей группы по вопросам регулирования ИИ прошло 13 августа, рассказали «Коммерсанту» источник, близкий к Минцифры, а также один из участников встречи.  В датасет должны войти эталонные данные и задания, на основе которых будет создан бенчмарк. Он позволит определить, соответствует ли ИИ-модель «духу времени и ценностям страны» и можно ли ее использовать «в российских условиях», рассказал один из собеседников газеты.

Вместе с текущей моделью ChatGPT пишем Великий Русский Роман. Возможно, получится что-то околохудожественное, если не надоест. (Но это не точно.) Действие происходит в 1896-м году в альтернативной России в контексте весьма уникальной альтернативной Западной цивилизации. Естественно, половина world building-а крутится вокруг страдания и отношения к нему. В рабочем проекте уже трактат целый вышел на тему институционализации культурных кодов, но пока поделюсь одним «не очень-то и альтернативным» наблюдением из складывающегося вымышленного мира. Страдание не сакрализуется — сакрализуется способность его нести. После этого Империя получает право всё время предъявлять гражданину новые вещи, которые надо вынести.

😎 Пссст, хочешь в группу по усилению мышления? Внезапная проверка спроса. Я вижу две вещи. 1⃣ Многим бывает трудно отличить шум от сигнала, заподозрить искажение информации, рассмотреть любую ситуацию системно: от проблем в компании до перекрытия Ормузского пролива. 2⃣ Объективно, эти способности — то, за что отмечают меня. «Мне стало ясно», «всё разложилось по полочкам». Друзья, это навык, а не врождённое. Его абсолютно можно развить. В том числе с использованием инструментов ИИ. (Я ежедневно применяю специально разработанные мной скиллы для системного анализа, фактчекинга, стресс-тестов идей, саморефлексии и т.п.) У меня есть весьма высокая убеждённость, что качнуть навык принятия решений и выбора с использованием системного мышления — абсолютно возможно, и, более того, с помощью ИИ это стало гораздо более эффективным, чем раньше. Я хочу собрать небольшую группу интересующихся темой не в форме курса, а в форме регулярной группы практиков. Я буду рассказывать какие-то ключевые вещи, давать инструменты (включая промпты и подходы к системному обсуждению разных вопросов с LLM), и мы будем обсуждать результаты. В общем, теория будет простым языком, и сразу с приземлением на практику. Предполагаю, что полгода для такой группы — адекватный плановый срок жизни. Из того, что мы точно будем обсуждать, будут разные принципы системного моделирования (включая теорию гиперкомплексных динамических систем Малюты, которую вообще практически никто не знает при живом авторе), и обязательно принцип свободной энергии Фристона и байесовские модели систем разного масштаба (человек, диада, кентавр «человек-ИИ», малая группа, организация, рынок, экосистема и т.п.). Наверняка надо будет поговорить об эпистемологии, онтологии, метамоделировании и всяких таких штуках. Стопроц затронем когнитивные искажения и как их нивелировать с помощью ИИ (и не нахвататься там новых). Я думаю, что мы будем встречаться 1 раз в 2 недели, стоимость 3000 руб. в месяц (за два занятия). Если хотите поучаствовать, заполните форму https://forms.yandex.ru/u/69f1d95feb6146641574cd61/ Также приглашайте знакомых, кому это может быть интересно, и задавайте вопросы в комментариях.

Штош, в новом Пелевине вскользь без названия упоминается теория Стивена Вольфрама про вселенную как клеточный автомат («точки и стрелочки»). Жду отсылки на принцип свободной энергии Фристона, и в целом можно сказать, что я видел у Пелевина всё.

Поделюсь нейрослопом на тему грехопадения и древа познания добра и зла. Claude Deep Research с моделью Opus 4.6. (Прочитанному не верить, я не проверял первоисточники.) Собственно, я пытался отрефлексировать свои интуиции через призму христианской (и предшествующей иудейской) традиции. Возможно, тебе будет интересно. P.S.: Кстати, в Википедии теперь стало ощутимо меньше прикладного смысла, режим Deep Research в подавляющем количестве случаев выдаёт контент более ценный, поскольку он сфокусирован под конкретный исследовательский запрос.

Услышал тут про современное общество, для меня красивая дихотомия. У нас очень много информированности (осведомлённости), но мало знаний (понимания).

Главные качели тревожного человека почти всегда размахиваются между свободой и безопасностью. Тревога рождается в убеждении, что мир опасен как таковой. Основной стратегией тогда становится контроль, необходимый для избегания возможных опасностей или противодействия им. Контролировать всё невозможно, и это усиливает тревогу. Это, в свою очередь, повышает бдительность и запускает поиск угроз, снижает порог активации охранительного поведения. Физиологически это постепенно приводит к повышению базального уровня тревоги, человек просыпается уже тревожным. А если смутная тревога ощущается как беспочвенная (ведь вчера всё было под контролем), это ещё страшнее, так как неясно, откуда может прилететь опасность. Добавляет изюма то, что опасность воспринимается не как угроза, а как риск. Отличие в том, что риск осмысляется как управляемый человеком, а наступление риска делает человека виновным. Таким образом, контроль направляется ещё и на избегание вины, которая для тревожного человека невыносима. Таким образом, тревожный человек делает себя и близких объектами спасения от опасности и риска. Потребность в безопасности реализуется путём контроля, который в свою очередь порождает формирование большого количества жёстких границ (каменный домик третьего поросёнка). В том числе это касается и межличностных отношений. Однако, каменный домик с каменными стульчиками (чтобы не дай Бог не сломались) поросёнку натирает. Поэтому с какого-то момента он начинает мечтать о свободе, где можно не зависеть и не страдать от рамок, которые налагают на него те социальные системы и отношения, в которые он сам себя разместил в целях безопасности! Но свобода оказывается крайне опасной, а за контроль приходится платить слишком высокую цену. И поросёнок мчится обратно в каменный домик, и всё начинается заново. А казалось бы, «всего лишь» надо научиться выдерживать тревогу, вину и экзистенциальную неопределённость… Это маленькое «всего лишь» и занимает несколько лет психотерапии. 🤷‍♂️

Был ли ПТСР у античных воинов, или мы стали хилыми по сравнению с ними? Публикую видео, потому что исторический фактологический нарратив даёт очень эмоциональную картину. Заодно зацените стиль подачи и сам канал. Вполне можно положить в копилку к Солкину про Египет и Бушвакеру про всё подряд. https://youtu.be/4RWSl5blqHc

Как должна теперь выглядеть нормальная походка обычного человека, чтобы он уж точно не был принят за ИИ. До тех пор, пока следующая модель нейросети не получит и эти данные в качестве обучающих. Тогда нужно будет придумывать новую форму ещё большего идиотизма, и так до бесконечности. «Человек — это существо, которое на один шаг впереди по тому идиотизму, который вообще способен вообразить AGI».

Две вещи, которые бесят в распространении нейрослопа: «зловещая долина наоборот» и «не будь человеком, чтобы быть человеком». Зловещая долина наоборот — это когда видишь или читаешь человека, но при этом возникает тонкое беспокойство «а не нейросеть ли это», которое порождает некоторую степень отторжения и отвращения. С этим связан второй феномен, который прямо жёстко выбешивает. Это необходимость целенаправленно выстраивать свою коммуникацию так, чтобы гарантированно не попасть в зловещую долину наоборот. Получается что-то вроде ИИ-ассоциированной самоцензуры. (Может быть, у тебя когда-нибудь закрадывалась мысль исправлять тире на дефисы?) Мне что, мало самоцензуры в этой жизни, чтобы добавлять ещё?! Ещё больше бесит, когда тебя физически заставляют это делать. Сраный Антиплагиат теперь проверяет статьи и дипломы не на плагиат, а на признаки использования нейросетей. Что само по себе бред, но ладно. Эти признаки оказываются не какими-то сложными и статистическими, а из серии «если использован оборот „крайне важно отметить, что“». Следите за руками. Нейросети натренированы так, чтобы генерация была статистически неотличимой от среднего. То есть, буквально, нейросеть генерит средний текст на научном арго, который академическая среда калёным железом выжигает в мозгах студентов и аспирантов. И вот, сраный Антиплагиат нам говорит: «вы должны писать так, чтобы ваш текст ни в коем случае не выглядел как этот средний текст». Российская академия руками лоббистов Антиплагиата налагает сама на себя double bind, требующий ещё одного уровня затрат энергии на то, чтобы переписывать уже единожды написанный текст, делая его менее похожим на то, как тебя учили писать всю жизнь. Так бесит, что даже рефлексировать это не могу.