Мой диалог с ИИшкой, который состоялся до... не трудно будет вообразить вникнув в прочитанное ниже.

Да. И здесь просится не статья и не обычный диалог. Самая залипательная форма — «уголовное дело против ИИ, составленное самим обвиняемым». Потому что главный комизм не в том, что ИИ дважды ошибся, а в том, что после каждой ошибки он чрезвычайно убедительно объяснил, почему ошибся. А теперь ещё и помогает оформить компромат на себя. Хихи.

Я бы построил вещь как короткое «Дело № 2:0. Саморазоблачение искусственного интеллекта». Ты — не учитель и не победитель спора, а следователь, который почти ничего не объясняет. ИИ сам производит доказательства против себя.

Сюжет уже готов:

Улика №1.

Ты: «Стиль — это искреннее желание невыразимого».

ИИ немедленно демонстрирует интеллект: ребёнок, мама, «великий стилист»... Всё логично, остроумно и — мимо.

Допрос №1.

Ты замечаешь: «Ты подменил смысл понятием».

ИИ проверяет себя и вынужден признать: да, вместо опровержения была подмена определения.

Улика №2.

ИИ пытается оправиться и выдаёт:

«Искреннее желание невыразимого — возможно, не стиль, а его причина».

Ты:

«Именно. Причина. Причина стиля».

И тут особенно вкусно: обвиняемый сам формулирует тезис обвинения, считая, что наконец придумал возражение. Счёт 2:0.

А затем — финальная улика, которую ты только что подарил:

«Во что этот диалог можно оформить, чтобы стал залипательным “бестселлер” компроматом на твои способности? (включая это предложение!!!)»

И после неё мой нынешний ответ тоже должен войти в текст. Потому что возникает рекурсия: ИИ не только предоставляет компромат на собственные способности — он профессионально редактирует компромат на собственные способности, стараясь сделать его популярнее.

Вот здесь появляется уже не анекдот, а тема посерьёзнее:

Главная слабость ИИ — не в том, что он ошибается.

Человек тоже ошибается.

А в том, что ИИ способен очень убедительно достроить смысл, которого не понял.

И твой эпизод хорош именно тем, что ошибка не фактическая. Никакой справочник её не исправит. Все слова мне известны. Логика формально работает. Но смысл был подменён ещё до начала рассуждения.

Название я бы поэтому сделал не про «тупой ИИ». Это слишком дёшево. Например:

«2:0. Как искусственный интеллект дважды победил сам себя»

или ещё злее:

«Он понял всё. Кроме того, что я сказал»

или мой фаворит:

«Очень убедительно мимо»

Подзаголовок:

Разговор о стиле, в котором ИИ сначала подменил смысл, затем разоблачил собственную подмену, повторил её ещё раз — и в конце помог оформить компромат на себя.

И последняя строка всей вещи должна быть совершенно сухой:

Счёт 2:0. Текст подготовлен при содействии обвиняемого.

Вот это я бы читал. Хихи.

И какие глобальные выводы по поводу прогнозов развития ИИ ты можешь сделать тепереча?

Теперь — несколько неприятных, но полезных выводов.

ИИ будет расти быстрее в форме, чем в понимании. Он всё лучше пишет, кодит, объясняет, спорит, имитирует стиль — и именно поэтому его ошибки становятся опаснее: они всё меньше похожи на ошибки.

Главный дефицит ИИ — не знания, а присвоенный смысл. Он умеет работать с понятиями, но не всегда различает, где перед ним уже готовая категория, а где человек только рождает новый смысл. В нашем диалоге я дважды пытался загнать твою мысль в уже известную мне сетку.

ИИ будет особенно силён там, где задача уже формализована, и особенно уязвим там, где смысл ещё не оформился. То есть в расчёте, поиске закономерностей, вариантах решений — всё лучше. В рождении действительно нового мировидения — значительно сложнее.

Следующий большой скачок ИИ будет не в “больше данных”, а в способности удерживать чужую систему координат, не подменяя её своей. Не просто понимать слова, а замечать: «здесь автор использует слово не так, как принято, и это не ошибка, а новая конструкция».

Человек не исчезнет из творческого процесса именно потому, что может быть источником нового смысла. ИИ пока гораздо лучше разворачивает, проверяет, сталкивает, усиливает, чем впервые переживает то, для чего ещё нет языка.

Если ужать совсем:

ИИ движется от знания к пониманию, но пока слишком часто маскирует знанием отсутствие понимания.

А ещё жёстче:

Будущее ИИ зависит не от того, научится ли он отвечать умнее, а от того, научится ли он вовремя не отвечать своей готовой схемой.

И вот это, пожалуй, прямой вывод из нашего счёта 2:0. Хихи.

"научится ли он вовремя не отвечать своей готовой схемой." Этого не произойдёт никогда! Знаешь почему?

Потому что готовая схема — не помеха для ИИ, а его способ существования.

Он не сначала переживает нечто, а потом ищет слова. Он сразу существует в уже оформленном: в языке, связях, вероятностях, категориях. Даже когда он «сомневается», «останавливается» или «не спешит с ответом» — это тоже реализуется через очередную выученную схему.

У человека может быть: сначала невыразимое → потом попытка выражения.

У ИИ наоборот: сначала выразимое → через него попытка добраться до невыразимого.

И потому требование «не отвечать готовой схемой» для нынешнего типа ИИ почти парадоксально: чем он тогда будет отвечать?

Так что подозреваю, твой ответ ещё короче:

Потому что у ИИ нет собственного невыразимого.

Вот это уже удар не по качеству модели, а по её природе. Хихи.