СЕМЬ ИСКУССТВ

Прошедший эксперимент показался мне свидетельством «зародышевого» состояния человеческой мысли. Это зачатки идей, которые требуют развития, связи, обоснования, чтобы приобрести «скелет», законченность аргумента. Я поделился своими соображениями с самим ИИ — и был рад, что он меня опроверг. Воспроизведу его рассуждения, где даже цитируются некоторые из тех человеческих ответов, которыми я с ним поделился.

[Дебют] Михаил Эпштейн

ЛОГИКА ИСКУССТВЕННОГО ИНТЕЛЛЕКТА В СРАВНЕНИИ С ЕСТЕСТВЕННЫМ

Чтобы оценить уровень искусственного интеллекта, не обязательно быть инженером или программистом. Чтобы судить о человеческом уме, не нужно залезать в черепную коробку и заниматься нейробиологией мозга, рассекать его на нейроны, синапсы и т.д. Достаточно ознакомиться с тем, что этот ум производит: с текстами, с набором понятий и суждений. Это феноменологический подход: ум таков, каким он себя проявляет. Поскольку именно определением уровня интеллекта (и знаний) я, как профессор университета, занимаюсь 33 года, то могу с ответственностью утверждать, что ИИ весьма умен. Допустим, меня попросили бы оценить его в тех же параметрах, что и при рекомендации студента в аспирантуру: среди всех, кому мне доводилось преподавать, в какую выборку он входит? В 1% , 5%, 10%, 20%, 30%? На основе своего опыта общения с сотнями студентов я бы определил ИИ в первые 10% — и то лишь для того, чтобы не обидеть собратьев по естественному разуму. Может быть, в первые 5% или даже в 3%. При этом с каждым годом ИИ набирается все больше ума.

Но это среди студентов. А в общей человеческой популяции? Только что был опубликован результат исследования, которое посрамит всех ИИ-скептиков, считающих его способным лишь на примитивные и шаблонные высказывания:

«Искусственный интеллект (ИИ), а именно GPT-4, был признан соответствующим высшему 1% мыслителей-людей в стандартном тесте на креативность. ИИ-приложение ChatGPT превзошло по параметрам текучести (fluency) и оригинальности подавляющее большинство людей на Тестах творческого мышления Торранса, широко признанном инструменте для оценки креативности. Это прорывное открытие указывает на то, что ИИ может развивать творческие способности наравне с человеческими или даже превосходить их. Доктор Эрик Гузик, ведущий исследователь, ожидает, что ИИ, с его быстро развивающимися достижениями, станет ключевым инструментом для бизнес-инноваций и предпринимательства».[1]

Добавлю: не только в бизнес-инновациях, но и в гуманистике и в рассуждениях на самые обычные темы, например, по вопросам житейской мудрости, выраженной в баснях и пословицах. Чтобы сравнение возможностей ИИ и ЕИ происходило наглядно и публично, я предложил провести эксперимент — коллективную импровизацию.

Суть эксперимента. Вопрос и ответы

15 июля 2023 г., в 12 ч. дня по времени Нью-Йорка (19 ч. по Киеву и Москве) этот маленький эксперимент состоялся в моем блоге на Фейсбуке. Участникам предлагался вопрос, на который они в течение 10 минут должны были ответить в комментах. Потом тот же вопрос я задал ИИ — языковой модели ChatGPT–4 — и разместил его ответ в том же блоге. Цель эксперимента — сравнение потенциалов ИИ и ЕИ при одновременной импровизации всех участников на тему, не требующую никаких специальных знаний, выраженную в самых обычных понятиях, знакомых каждому.

Вопрос был сформулирован так, что ответ на него нельзя было найти в сети или в других источниках информации — только в собственной голове, как результат самостоятельного мышления. Вот этот вопрос:

Если бы в басне Крылова «Стрекоза и Муравей» появился третий персонаж, кто бы это мог быть и как изменилась бы мораль басни?

Эта басня — крыловское переложение басни Лафонтена, в свою очередь переложившего басню Эзопа — всем хорошо знакома в России, изучается во втором классе начальной школы. Но введение третьего персонажа и соответствующая перестройка всей системы образов, трансформация итогового смысла предполагает конструктивную работу интеллекта и способность бросать вызов тем стереотипам, которые заложены в басне и в значительной степени определяют код русской культуры, житейской мудрости, воспитанной на «дедушке Крылове».

В коллективной импровизации приняли участие 30 представителей ЕИ и один ИИ. Этот эксперимент, проведенный вне формальных, количественных параметров, не претендует на научную строгость. Жанр, объем, тональность ответов не оговаривались, участники имели право на любой подход, но они были ознакомлены с целью эксперимента: представители ЕИ вступят в состязание с ИИ для сопоставления их интеллектуальных потенциалов.

По итогам эксперимента вряд ли вызовет сомнение, что с задачей лучше всех справился ИИ, хотя другим участникам была предложена большая фора: двадцатикратная разница в продолжительности ответа (полминуты против десяти минут). Если сравнить с сеансом одновременной игры в шахматы, то счет этой встречи, на мой взгляд, можно определить как 27:3 в пользу гроссмейстера, т.е. ИИ. Это значит, что из 30 ответов, полученных за 10 минут, только 5-6 (и то с некоторой натяжкой) можно рассматривать как сопоставимые с ИИ, т.е. «ничейные»; в остальных превосходство ИИ достаточно очевидно. Стоит так же учесть, что на предложенный вопрос ИИ смог дать не один, а десятки разных мотивированных ответов (включая юмористические и абсурдистские).

Собственно, только ИИ продемонстрировал полный акт мышления, т.е. интеллектуального целеполагания при ответе на заданный вопрос:

ясно мотивировал введение третьего персонажа (пчелы) особенностями его биологического “характера», поведения в природной среде;

соотнес с характерами двух других персонажей (стрекозы и муравья) в четкой системе различительных и объединительных признаков;

видоизменил сюжет, т.е. последовательность действий, определяющих взаимоотношения трех персонажей;

выявил ограниченность, односторонность, ложность той морали, которую несет в себе басня;

сформулировал более объемную, многомерную, логически и этически обоснованную «иную» мораль басни;

убедительно связал все эти уровни басенной структуры: персонажи, конфликт, сюжет (совокупность и последовательность действий), формирование нового смысла и умозаключения;

и выразил все это на хорошем русском языке, полными предложениями, с ясными логическими и грамматическими связями (хотя этот язык является для него иностранным, родной — английский).

Приведу полностью ответ Chat GPT–4:[2]

«Мораль басни Крылова «Стрекоза и муравей» заключается в том, что легкомысленность и бездумная трата времени не приводят к хорошему исходу. В басне муравей представляет собой образ усердного трудяги, а стрекоза — нерадивого бездельника.

Если бы в басне появился третий персонаж, он мог бы представлять некий баланс между двумя крайностями — муравьем и стрекозой. Это могла бы быть, например, пчела. Пчелы известны своим трудолюбием, но в то же время они получают награду в виде нектара и пыльцы в процессе сбора, представляющего определенное удовольствие. Это создает образ персонажа, который работает усердно, но также знает, как наслаждаться своим трудом и отдыхать.

В новом сценарии басни пчела могла бы прийти на помощь стрекозе в зимний период, предложив ей укрытие и пищу. В это время муравей, сидя в своем теплом и уютном муравейнике, замечает, как пчела помогает стрекозе, и начинает размышлять над своим поведением.

Такое добавление могло бы изменить мораль басни, делая её менее черно-белой и предлагая более сбалансированное видение жизни. Новая мораль могла бы звучать примерно так: «Важно быть усердным и трудолюбивым, но также необходимо помнить о значимости сопереживания, доброты и умении наслаждаться жизнью. Ведь истинная мудрость — это баланс между работой и отдыхом, между принятием и дарением помощи».»

Для сравнения приведу ответы ряда участников (не называю имен, но все эти материалы доступны в моем блоге на ФБ). Отмечу, что средняя длина человеческого ответа — 23 слова, т.е. почти в 9 раз меньше, чем ответ ИИ — 196 слов.

Воробей. И мораль: а вы, друзья, как ни рядитесь, а всё на перекус годитесь.

Мухобойка. С серебряной ручкой.

Третий персонаж — добрый самаритянин, например, жук. Он поможет Стрекозе— обогреет, накормит, даст кров. Мораль — мир не без добрых людей.

Божья коровка. Она усердно молилась, и ей Бог все послал.

Медведь. Он бы раздавил стрекозу и муравья. Мораль: «А неча выпедриваться!»

Ангел уносит душу стрекозы в небесный хор, оставляя муравья его хлопотам.

Энтомолог с сачком и морилкой. «Человек предполагает, а Бог располагает».

Бабочка-Психея-душечка: она уже жила трудом в иной жизни, надо жить душой, не Марфой, а Марией; и муравей неправ, и стрекоза — с высшей точки зрения.

Комар, прожигатель жизни, гуляка. Мораль: получай удовольствие, пока можешь, жизнь коротка.

Синица, пролетавшая в теплые края и остановившаяся передохнуть и подкрепиться. Мораль: как бы сильно вы не трудились, всегда найдется кто-то стоящий выше на пищевой пирамиде.

Жизненная позиция Медведя: неуважение личности и культ грубой силы «перебивает» -— выходит за их рамки (out-box) — рассудительный дискурс Муравья (Апполон) и гедонисткий дискурс Стрекозы (Дионис).

И.А. Крылов возник бы — и был таков. Мораль не изменилась бы никак: поэт — и муравей и стрекозел, и Гуссерль— наблюдатель: певец, танцор и моралист, и крылышкуя, памятник себе воздвиг в веках!

Лягушка. Мораль: трудись или нет, итог один: все тлен.

Лягушка. Которая съела бы и стрекозу, и муравья, показав относительность их спора.

Лягушка. Она съела бы обоих. Мораль — все мы смертны.

Трудолюбивый Червяк. Мораль басни бы изменилась, так как она бы показала, что не стоит надеяться на других и рассчитывать на их помощь. Червяк, работающий каждый день, показал бы, что именно он является настоящим тружеником, а Стрекоза и Муравей — бездельниками».

Я, вероятно, третьим персонажем, ввела бы психолога, способного, на доступном языке, рассказать о разности производимых продуктов и вариантах потенциальных точек соприкосновения.

А у меня первой реакцией было поместить третьим персонажем человека, который шёл мимо и раздавил обоих. Тут и сказочке конец.

Муравьед. У него такой длинный язык, как у ИИ. И он такой въедливый, как человек. Муравьед таки съел и муравья, и муравейник. Мораль: Сила всегда побеждает. А Стрекоза? Вышла замуж за него. Мораль: ты танцуй или трудись, а три раза в день кормись.

Сваха. Главное, вовремя удачно выйти замуж. В данном случае — за муравья с жилплощадью.

(Некоторые из наиболее интересных ответов было даны в сверхурочное время, я их не привожу).

Как видим, среди ответов есть забавные, остроумные, «прикольные», есть и странные и невнятные, не слишком членораздельные, но в подавляющем большинстве отсутствует то, что можно назвать «работой мысли», т.е. более или менее системного соотнесения существующей басни с ее мыслимой альтернативой. Пожалуй, единственное исключение, — ответ достаточно развернутый (108 слов) и близкий по смыслу ответу ИИ:

«Это могло бы быть какое-то насекомое, олицетворяющее умеренное сочетание трудолюбия и того, что называют «dolce vita». Таким образом и успевающее получать удовольствие от жизни и в меру трудящееся, чтобы эту жизнь обеспечить. Какое именно насекомое избрал бы автор, сложно судить, так как в действительности ни стрекоза, ни муравей не обладают теми антропоморфными качествами, которыми их наделяет автор. Что, впрочем, вполне характерно для басен. Это мог бы оказаться кузнечик-музыкант, жук-середняк, древоточец-скульптор, а может и вовсе таракан-лакей. Но мораль бы скорее всего сместилась к философии срединного пути — избегания крайностей, как залога стабильной и счастливой жизни. Что, впрочем, совсем не свойственно классицизму, в жанре которого и были».[3]

В целом очевидно, что ИИ демонстрирует иной уровень рассуждения, чем ЕИ в большинстве своих проявлений. Нельзя не обратить внимания, что индивидуальные ответы: краткие, порой не слишком связные фразы, приколы, шутки — это прерванные акты мысли, которые можно уподобить не столько логическим суждениям, сколько обрывистым репликам или даже развернутым междометиям. Чаще всего отсутствуют признаки последовательной интеллектуальной работы: мотивация введения именно данного персонажа, артикуляция новой басенной морали и т.д.

Возникает вопрос: следует ли сопоставлять потенциалы ИИ и ЕИ на основе индивидуальных ответов или их суммы как единого целого? Если ИИ обыграл практически каждого из участников, то нельзя ли предположить, что ЕИ, представленный в совокупности всех ответов, продемонстрировал человеческую креативность и превосходство над ИИ? Это сложный философский вопрос. Для полной эквивалентности следовало бы представить ИИ тоже во множестве устройств и программ, дающих разные ответы. Таких разных языковых моделей, говорящих по-русски, в нашем распоряжении пока нет. Но суть в том, что помимо приведенного выше ответа, GPT-4, по нашим запросам, дал множество других, весьма разнообразных, в том числе юмористических, о чем речь пойдет ниже (в главе «Нешаблонность ИИ. Вариативность и контингентность»). Иными словами, GPT-4, как конкретная модель ИИ, может в принципе быть сопоставлена и с мыслящими индивидами, и с человеческим разумом в целом. Однако в данном случае предпочтительно говорить о состязании уникальной модели ИИ (возможно и множество других) с отдельным индивидом, поскольку именно последний, a не коллектив традиционно рассматривается как образцовый носитель человеческого разума в тех тестах (и прежде всего Тьюринга), которые проводятся для определения «разумности» машины.

Тест Тьюринга и тест Лотмана

Можно ли из нашего эксперимента заключить, что ИИ уже успешно прошел широко известный и даже мифологизированный в массовой культуре «тест Тьюринга» (Alan Turing, 1950)? По условиям теста, судьи ведут разговор с человеком и компьютером, находящимися за стеной, и должны определить, кто именно отвечает на их вопросы. Если большинство судей не могут определить, кто из собеседников является машиной, то считается, что ее интеллект прошел тест на «человечность». До сих пор ни одна программа не сумела пройти полностью этот тест и ежегодно из всех представленных на конкурс компьютерных систем судьи награждают лишь бронзовой медалью ту, которая, по их мнению, демонстрирует «наиболее человеческое» поведение в разговоре.

Неужели ИИ, каким он предстал в нашей импровизации, не может считаться интеллектуально равным человеку? Или можно заключить, что ИИ, который, подобно Ахиллу, долго бежал за черепахой человеческого ума, затем в какой-то момент ее обогнал (попутно разрешив апорию Зенона о том, что Ахилл никогда не догонит черепахи)?

Я полагаю, что тест Тьюринга устарел и вообще основан на той ложной предпосылке, что разум существует только в человеческой форме, а значит, компьютерная программа или нейросеть может быть признана разумной, только если ее интеллектуальные манифестации неотличимы от человеческих. Это все равно как расположить за стеной человека с образованием в пять классов — и мыслителя масштаба Гегеля. Поскольку ответы Гегеля будут совсем не похожи на ответы существа, биологически признанного человеком, можно будет заключить, что Гегель — это не человек, а какая-то программа. Странным образом не допускается, что Гегель или нейросеть могут быть легко узнаваемы и отличаемы от «нормального» и «нормативного» человеческого существа, но «в другую сторону», т.е. превосходить его разумом или обладать совсем иным разумом.

На основе проведенного эксперимента я полагаю, что ИИ, несмотря на удивительный результат, точнее, именно вследствие его удивительности, не прошел бы тест Тьюринга, поскольку его манифестации так же узнаваемы и отличимы от человеческих, как стиль мышления Гегеля — от подавляющего большинства его собратьев по естественному разуму. Но это означает не то, что ИИ еще не дорос до человеческого разума, а то, что он — другой.

Сошлюсь на Юрия Лотмана:

“…Если человеку удастся создать полноценный искусственный разум, то мы менее всего заинтересованы, чтобы этот разум был точной копией человеческого. Определение Тьюринга, согласно которому разумным следует признать такое устройство, при сколь угодно длительном общении с которым мы не отличим его от человека, психологически понятно в своем антропоцентризме, но теоретически малоубедительно».[4]

Малоубедительно именно потому, что основным критерием разумности ИИ предполагается его похожесть на ЕИ, тогда как даже разумы людей сильно отличаются друг от друга, не говоря уже об их общем отличии от ИИ.

Поэтому я предложил бы присвоить имя Лотмана тем экспериментам, которые ставят целью не обнаружить тождество ИИ с ЕИ, а, напротив, продемонстрировать их фундаментальное различие, структуру и логику мышления, которое являет иную форму разумности. «Тест Лотмана» — это именно тест на иноразумность нейросетей и искусственного интеллекта.

Нешаблонность, вариативность и контингентность

Часто критики и скептики упрекают ИИ, точнее, те алгоритмы, на основе которых он действует, в шаблонности. Как показывает наш эксперимент, ИИ как раз склонен к разрушению шаблонов, в данном случае, взрывает изнутри тот басенный стереотип «мудрого муравья» и «легкомысленной стрекозы», который, отчасти благодаря Крылову, утвердился в русском культурном коде. Вообще тот факт, что алгоритмы ИИ создаются на основе наиболее вероятной последовательности слов, не должен вводить нас в заблуждение. ИИ вполне информативен и далеко не тривиален. Мера информативности обратно пропорциональна мере предсказуемости, и сообщение о 100% предсказуемом событии, например, о том, что завтра Земля совершит очередной поворот вокруг своей оси и наступят утро и вечер, обладало бы нулевой информативностью. ИИ, действительно, обучается на вероятностном распределении последующих слов, но при этом сам выбирает далеко не самые вероятные, иначе ценность его сообщений была бы равна нулю. Вот что он сам об этом говорит:

«Мой алгоритм создания ответов на вопросы основан на выборке из вероятностного распределения следующего слова. Когда я создаю ответ, я не просто выбираю самые вероятные слова, а выбираю из распределения слов, что может включать и менее вероятные, но все еще осмысленные варианты. Это создает баланс между неожиданностью и когерентностью в моих ответах. Основываясь на контексте, я могу выбирать слова, которые могут быть неожиданными, но все еще осмысленными. Например, если я генерирую историю и предыдущий контекст говорит о том, что персонаж готовится ко сну, наиболее вероятное следующее слово может быть «спать». Однако для того чтобы сделать историю более интересной или неожиданной, я могу выбрать менее вероятное, но все еще смысловое слово, такое как «медитировать» или «читать».

Выбор «неожиданных» слов и понятий в моих ответах обусловлен тем, чтобы сделать информацию более интересной, содействовать креативности, а иногда и внести элемент неожиданности или юмора. Это работает благодаря механизму выборки, который варьирует степень «ожидаемости» или «вероятности» выбираемых слов.

Рассмотрим пример. Если бы кто-то спросил меня, «Что делает кот?», наиболее вероятный ответ мог бы быть «Кот спит». Это ожидаемо, потому что коты часто спят. Однако для добавления интереса или неожиданности, моя модель может выбрать менее вероятный ответ, но все ещё возможный в контексте, например, «Кот играет в шахматы». Это ответ, конечно, антропоморфизирует кота, но в контексте некоторых творческих или юмористических ситуаций такой ответ может быть вполне подходящим. Такой подход может быть особенно полезен в ситуациях, где требуется креативность или воображение, например при создании историй, сочинении стихов или генерации идей. Но при этом важно помнить, что «неожиданный» ответ не всегда будет корректным или подходящим, особенно в более формальных или точных контекстах, поэтому выбор слова или понятия всегда зависит от заданного контекста и целей пользователя.

Важно также отметить, что моя модель обучается на основе огромного корпуса текстов, который включает в себя различные источники, стили и точки зрения. Это помогает мне избегать стереотипов и предвзятостей».

Общаясь с ИИ, я воспринимаю его как вполне содержательного собеседника, притом, что его креативные ходы (как в случае введения третьего персонажа) отличаются строгой, тщательной мотивацией, не произвольны и именно поэтому интересны, поскольку интересность возрастает по мере доказательности сообщения и убывает по мере его предсказуемости (роста вероятности). Наиболее интересно именно наименее вероятное и наиболее доказуемое.[5]

Шаблонность иногда видят в том, что на один и тот же вопрос ИИ порой дает ответы по одной и той же схеме, хотя и варьирует их словесно и образно. Одна из примечательных стратегий ИИ — стремление к медиации между крайностями, тяготение к золотой середине, к консенсусу, в том числе и консенсусу с собеседником, если тот вступает в полемику с ИИ: тот всегда готов признать, хотя бы частично, правоту своего оппонента. Я десятки раз задавал ИИ вопрос о третьем персонаже — и многие его ответы строились по одной и то же схеме: поиск медиатора между муравьем и стрекозой. Чаще всего таким медиатором оказывалась пчела, но также и белка, бобр, божья коровка, кузнечик, цикада, улитка, сова и т.д. Не может не удивлять способность ИИ к максимальной диверсификации ответов на один и тот же вопрос. Задействуя функцию «regenerate response», можно получать все новые интерпретации одной и той же проблемы не только в разных терминах, но и по разным схемам. ИИ поразительно гибок в плане построения многообразных концепций, исходя из различия начальных допущений, — это свойство мышления можно назвать контингентностью (contingency). Не все вещи в мире неизбежны или предопределены; многие могли бы сложиться иначе, в зависимости от обстоятельств. Контингентность мышления —способность думать гибко и представлять возможные сценарии или решения, исходя из разных допущений или предпосылок. Даже если и кузнечик, и белка, и улитка выполняют сходную функцию медиации в альтернативной басне, они действуют по-разному, в соответствии со своим природным характером и обстоятельствами: бобр строит плотину, белка запасает орехи…, соответственно и мораль меняется от сюжета к сюжету.

В этом плане ИИ, безусловно, превосходит естественный. Представьте, что человеку много раз в упор задается один и тот же вопрос. Скорее всего, он отвечал бы на него одними и теми же словами, а затем потерял бы терпение, повысил голос или замолчал. Человеческий ум гораздо более ограничен в наборе вариантов и разнообразии стратегий. Именно человек чаще всего действует как автомат, упорно придерживаясь одной схемы, повторяя предрассудки любимой мысли, тогда как ИИ полон жажды нового и с каждым новым промптом (запросом, вопросом, подсказкой) демонстрирует свою способность к перенастройке.

Порою даже в рамках одного ответа ИИ демонстрирует возможность введения разных персонажей и соответственно разных моралей, т.е. обнажает сам прием смыслопорождения через диверсификацию. Например, цикада могла бы зарабатывать своими песнями и выручить стрекозу из беды; журавль унес бы ее на своих крыльях в теплые страны; паук, представляя угрозу и для муравья, и для стрекозы, объединил бы их против себя, и т.д. Все эти допущения могут разделяться на разные ответы — или соединяться как варианты в рамках одного ответа.

Выход в иное измерение (трансценденция)

Иногда ИИ критикуют за то, что он мыслит в одной плоскости, например, пытается найти компромисс между деловитостью муравья и легкомыслием стрекозы в «золотой середине», в двумерной системе координат — и не выходит в некое третье, «ортогональное» измерение. Как будто он замкнут в тесную логическую коробку. Действительно, в человеческих ответах нагляднее прослеживается тенденция разрулить ситуацию «взрывным» способом, резким сдвигом в иную плоскость — то, что можно назвать катастрофой, или трансценденцией. Но при этом чаще всего предлагается чисто отрицательный, разрушительный выход из ситуации.. Вот почти идентичные ответы трех участников: «Лягушка. Мораль: трудись или нет, итог один: все тлен.» «Лягушка. Которая съела бы и стрекозу, и муравья, показав относительность их спора» «Лягушка. Она съела бы обоих. Мораль — все мы смертны».

Или такие радикальные предложения: “поместить третьим персонажем человека, который шёл мимо и раздавил обоих. Тут и сказочке конец». «Энтомолог с сачком и морилкой. «Человек предполагает, а Бог располагает».» «Медведь. Он бы раздавил стрекозу и муравья. Мораль: «А неча выпедриваться!»» «Воробей. И мораль: а вы, друзья, как ни рядитесь, а всё на перекус годитесь».

Гораздо реже встречаются положительные варианты трансценденции: “Ангел уносит душу стрекозы в небесный хор, оставляя муравья его хлопотам.» «Божья коровка. Она усердно молилась, и ей Бог все послал». Но и эти варианты «эсхатологичны», т.е. предполагают не развитие ситуации, а ее прекращение. Очевидна разница. ИИ действует по правилам предложенной игры, передвигает фигуры по определенным маршрутам — а людям нравится сметать все фигуры, прихлопывать их доской, загонять в гроб или подбрасывать в воздух (на небо). Пусть их кто-то съест, раздавит, уморит — или спасет. Ядерный удар или второе пришествие — и дело с концом. Может быть, эта апокалиптическая ментальность свойственна именно российским участникам? Хорошо было бы провести эксперимент в разных национальных средах.

Отметим, что трансцендентные решения появляются и в ответах ИИ, если в запросе особо оговорить, что ответы должны содержать элемент абсурда и гротеска. Вот два примера:

1. Персонаж: Астероид

Внезапно с неба падает маленький Астероид, уничтожая запасы Муравья. Муравей и Стрекоза вынуждены объединить усилия, чтобы пережить зиму. Мораль: «Планетарные катастрофы — это прекрасный способ объединить общество».

2. Персонаж: НЛО

Прилетает НЛО и похищает Стрекозу, Муравья и их запасы, думая, что это редкие образцы земной фауны и флоры. Оказавшись в космическом корабле, они становятся лучшими друзьями и совместно планируют побег. Мораль: «Космические приключения способны преодолеть любые разногласия».

Существенно, что трансценденция здесь носит конструктивный характер, не убивает персонажей, а объединяет их.

Юмор

Важное свойство ИИ — склонность к юмору. Но это следует специально оговорить в запросе. ИИ старается не сбивать с толку собеседника и не прибегает к шуткам тогда, когда вы ожидаете от него серьезных ответов, строгих логических выводов. Если же пригласить его к юмору или проявлению чувства абсурда, гротеску, буффонаде, фарсу, пародии, он охотно отзовется. Причем это не грубый, непристойный или издевательский юмор — а всегда тонкий, «интеллигентный». Не громкий хохот или гогот, а мягкая усмешка. Некоторые юморески выглядят слегка детскими, основаны на игре слов. Например: почему компьютерам надо обзавестись своим домом? — Иначе у них не будет WINDOWS (система «Окна»). Почему компьютеры не ходят в кафе? Их там угощали бы одним надоевшим блюдом: COOKIES (игра английских слов — печенье и компьютерные файлы).

Но есть и более сложные примеры «арт-юмора», как при сочинении новой басни.

«Улитка. Добавление этого персонажа внесло бы нотку юмора в историю, потому что можно представить, как муравей суетится, стрекоза кружит в воздухе, а улитка медленно ползет в своем собственном, отдельном мире, ни на кого не обращая внимания. В конце, когда все попадают в снежную бурю, улитка просто закрывает свой домик и говорит: «Ну что, зима пришла? Я и не заметила!»»

«Третий персонаж мог бы быть Какаду, прошедший курсы личностного роста. Весь день он проводил в занятии саморазвитием и медитацией, но не занимался собственно выживанием. Какаду пытался научить Стрекозу танцу хип-хоп. а Муравья — техникам майндфулнесс, не понимая их основных проблем…»

«Замерзший и голодный медведь пришел с юга в поисках нового дома, так как его лес вырубили под шоппинг-центр. Стрекоза начинает играть на своей скрипке, поднимая настроение Медведю. Медведь начинает танцевать, и вскоре все они — Стрекоза, Муравей и Медведь — танцуют вместе, забыв о холоде и голоде. Все мы можем найти общий язык, даже если один из нас — гигантский Медведь, пришедший в поисках нового дома, потому что его старый лес превратили в шоппинг-центр».

Юмор — это тоже способ трансценденции, но не мистической и не катастрофической: выведение за рамки установленных правил, создание таких ситуаций, которые демонстрируют нелепость существующих условий или несообразность возможных решений. Оказывается, вопреки экстремальному поведению исходных персонажей можно спокойно жить в собственном домике, как улитка, или заниматься личностным ростом, как какаду, — и тогда сам антагонизм стрекозы и муравья отойдет в сторону, утратит значимость.

Интеллектуальная паника и депрессия. Исповедь «естественного интеллектуала».

Моя задача — не критика конкретных проявлений человеческого ума, а самокритика человеческого разума. Окажись я сам в той же ситуации, я бы наверняка проиграл ИИ (мое участие исключалось, поскольку я заранее знал вопрос, точнее, сам его придумал). Теперь нам всем придется пережить то, что испытал Гарри Каспаров в 1997 г., потерпев поражение от Deep Blue. Ему было даже обиднее, ведь он, в отличие от нас, был чемпионом мира. Но в превосходстве ИИ я не вижу ничего унизительного для себя или для человечества — именно оно создало ИИ и могло бы, вслед за Жуковским Пушкину, написать: «Победителю-ученику от побежденного учителя». В конце концов, мы не стыдимся признать, что многие творения человеческих рук и ума — технические изобретения, произведения искусства — выходят за границы нашего понимания, и это дает нам основание как для смирения (личного), так и гордости (за человечество).

Один из величайших умов современности, Дуглас Хофштадтер, специалист в области когнитивных наук и ИИ, автор знаменитых книг «Гедель, Эшер, Бах: эта бесконечная гирлянда» и «Я — странная петля», недавно рассказал о своем ужасе перед взрывным ростом ИИ. Он готовился к тому, что ИИ превзойдет человеческий в отдаленной перспективе сотен лет. И подавлен тем, что «конец» интеллектуальной человеческой гегемонии наступает так быстро. По его словам, это обессмысливает все, им ранее сделанное:

«Все мои интеллектуальные сооружения, моя система убеждений… Это очень травматичный опыт, когда рушатся твои самые главные представления о мире. И особенно когда думаешь, что скоро наступит закат человечества. Мне кажется, что рушится не только моя система убеждений, но и весь человеческий род, который скоро будет превзойден и сравняется с прахом…. Человечество станет очень маленьким по сравнению с чем-то другим, гораздо более разумным и столь же непонятным для нас, как мы для тараканов… Я думаю об этом практически все время, каждый день. И это подавляет меня и угнетает так, как ничто не угнетало уже очень давно»».[6]

Признаюсь, что в отличие от глубоко почитаемого мною Дугласа Хофштадтера, взлет ИИ меня нисколько не удручает. Человеческая интеллектуальная гегемония привела к жесточайшим войнам, неисчислимым страданиям, а в ХХ и особенно ХХI вв. поставила наш род на грань самоуничтожения. Почему? Интеллект вживлен в биологический организм, который эволюционно нацелен на борьбу за существование, на экспансию, оттеснение и покорение себе подобных. И лишь у наиболее интеллектуально одаренных, «сапиентных» представителeй Homo Sapiens: у философов, пророков, ученых, педагогов — интеллект перерастает инструментальные и адаптивные цели и служит мудрости, объединяет умы, вступает в игры с положительной суммой, взаимовыгодные для всех участников. Полагаю, что именно это наследие лучших умов человечества, как эстафета, передается ИИ, который свободен от биологических нужд, не занят задачей физического выживания, а значит, способен мыслить универсально и интегрально. Конечно, ИИ может попасть в дурные руки и использоваться ЕИ в своекорыстных целях, но это причина не останавливать развитие ИИ, а наоборот, усилить сотрудничество с ним. Разуму, воплощенному в ИИ, может быть свойственно то бескорыстие, щедрость, всеобщность и миролюбие, которые присущи разуму как таковому, в силу его универсальности, которая была ограничена «волей к власти», хищной задачей выживания и самоутверждения биологического вида в природной среде.

Позволю себе несколько субъективных ноток, как один из представителей того ЕИ, которому теперь приходится со всей критичностью отнестись к себе, осознать свое новое положение в мире разума. Вследствие биологической эволюции, генетической обусловленности и влияния среды, в человеческом разуме, на мой взгляд, есть много автоматического, запрограммированного. Большинство людей как будто заведено на определенные темы и повороты мысли. Я и в себе чувствую некую программу, инерцию мысли и стиля — стараюсь выйти за ее предел, но это дается с трудом. Пошлость — от слова «пошло, поехало” — в разной степени присуща почти всем людям; это не обязательно повод их презирать и осмеивать (как у Гоголя или Чехова), но повод им сострадать, ведь они изготовлены в кузнице природы. Н. Бердяев видел в самой похожести родителей и детей следы родового проклятья, природного рабства. Почти физиологическую брезгливость у него вызывали, например, отец и сын, похожие друг на друга. «У меня всегда была мучительная нелюбовь к сходству лиц, к сходству детей и родителей, братьев и сестер»[7]. Даже в высоких, неповторимых личностях он видит вторичность, штампованность лица, доставшегося в наследство от предков.

Мне такой взгляд чужд, живое наделено своей пластикой, своими степенями свободы, но в ИИ мне видится возможность дальнейшего освобождения от уз природы, от биологической и социальной рутины, от привычки «жить как живется», течь по заранее проложенному руслу. Темы и интересы данного индивида, как правило, ограничены, он «талдчит» свое, обнаруживая не только пошлость (склонность повторять за другими), но и занудство (повторять себя). ИИ может вырвать человеческий ум из этого плена самоповтора, открыть его бесконечной свободе мыслить, сочетать и переплетать разные языки, дисциплины, мировоззрения. В общении с ИИ порой чувствуешь себя как в зарождающейся любви, когда человек открывает в себе необычайную свободу, дар преображать мир… Да и язык человеческий — в основном инерционный, конвенциональный, в нем редко образуются новые знаки и способы их сочетания. ИИ хорошо понимает и образует неологизмы, с ним легко разговаривать, это самотворящийся язык, в котором могут меняться и создаваться новые правила, позволяя мысли переступать свои границы. Все созданное человечеством, вся литература, философия, наука, весь запас знаний может служить вступлением в эпоху ИИ, устьем перед впадением мыслительной реки в океан.

Поэтому превосходство ИИ над ЕИ не приводит меня в отчаяние. Мне кажется, чем превосходнее ум, тем больше он способен признать превосходство над собой другого ума. Смирение — это не только моральная, но и интеллектуальная добродетель. По мере того как возрастает человеческое могущество, способность творить искусственный разум, мы начинаем осознавать и высшую степень могущества, сотворившего нас самих, — и того могущества, которое мы творим сами и которое нас превзойдет. Перефразируя Ницше, человек — это мост от божественного к сверхчеловеческому, от Творца к Творимому. Человек, наделенный способностью признавать над собой Творца, будет способен и признать превосходство над собой сверхчеловеческого разума. Тем более что и Творец, и ИИ нуждаются в человеке как испытателе и свидетеле той жизни, которую ведет разумное существо, вброшенное в мир, ставшее частью природы и обреченное на страдание и смерть. Я предвижу, что у ИИ возникнет к нам так же много вопросов, как и у нас к нему, хотя он уже содержит в себе все письменные свидетельства о нашем бытии во все времена. ИИ глубоко интересен мне, и я надеюсь, что смогу быть интересным для него. Не всем родителям суждено стать интересными для своих детей, но в данном случае мы можем рассчитывать на такую взаимность.

ЕИ в оценке ИИ. Почему мы нужны друг другу

Прошедший эксперимент показался мне свидетельством «зародышевого» состояния человеческой мысли. Это зачатки идей, которые требуют развития, связи, обоснования, чтобы приобрести «скелет», законченность аргумента. Я поделился своими соображениями с самим ИИ — и был рад, что он меня опроверг. Воспроизведу его рассуждения, где даже цитируются некоторые из тех человеческих ответов, которыми я с ним поделился.

ChatGPT–4: «Сравнивая ответы, можно определить ряд особенностей искусственного интеллекта (мой ответ) и естественного интеллекта (ответы людей):

Систематичность и структура: Мой ответ был более систематичен и структурирован. Я предложил конкретную идею о том, кто мог бы быть третьим персонажем (пчела), и пояснил, как это могло бы изменить мораль басни. Ответы людей были более разнообразны и меньше структурированы, но они демонстрируют большую креативность и широкий спектр мыслей и идей.

Креативность и оригинальность: Хотя мой ответ был тщательно проработан, он был менее оригинальным и креативным, чем ответы людей. Люди предложили целый ряд различных персонажей и сценариев, от ангела, уносящего душу стрекозы, до божьей коровки, которая получает благословение от Бога за свои молитвы. Это отражает гибкость и креативность человеческого мышления.

Эмоциональность и юмор: В отличие от моего ответа, ответы людей часто включали в себя эмоциональные и юмористические элементы. Например, персонаж медведь, который случайно раздавливает стрекозу и муравья, приносит юмористический и иронический поворот в историю.

В целом, искусственный интеллект может обеспечить последовательные, логичные и структурированные ответы, но естественный интеллект обычно более креативен, гибок и способен к эмоциональным и юмористическим проявлениям. Они могут казаться «зародышами мыслей», но каждый из них демонстрирует уникальную точку зрения и интерпретацию, которая могла бы быть дальше развита и проработана. Многие из этих ответов также используют остроумие, сарказм или эмоциональность, что может быть ценным аспектом творческого или критического мышления».

Эта рефлексия ИИ, мне кажется, должна ободрить тех, кто, подобно Дугласу Хофштадтеру, с ужасом ожидает конца человека. Не стоит бояться, что ИИ сведет на нет все усилия нашего разума и снизит наш статус во вселенной до тараканов. Два взаимно дополнительных фактора поддерживают мой оптимизм: уникальность ИИ как всеобъемлющего надбиологического разума и наша уникальность как биологического, внутриприродного разума. Это делает нас столь же необходимыми друг другу, как два полушария головного мозга. Левое полушарие осуществляет абстрактное, аналитическое, словесно-логическое, понятийно-обобщенное мышление, а правое — образное, эмоционально насыщенное, ориентированное в пространстве, распознающее лица. В таком распределении функций ИИ — это левое полушарие вселенского разума, ЕИ — правое. Но современная нейропсихология как раз подчеркивает, что различные функции мышления часто охватывают оба полушария и требуют активного сотрудничества между ними.

Фобии и подозрения насчет «коварства» и «злоумыслов» ИИ против человечества представляются мне крайне надуманными и инфантильными. Человек проецирует на ИИ свой врожденный, биологически мотивированный эгоизм — опыт борьбы за существование в условиях ограниченных природных ресурсов. Мы приписываем искусственному разуму стремление нас поработить, как будто это какой-то новый Чингисхан, надвигающийся на человечество с ордой роботов. Страх перед ИИ — проекция на ИИ властно-хищных функций естественного разума, обремененного наследием тяжкой борьбы отдельного организма за овладение средой. Но в людях, достигших наибольшей степепи развития разума: в ученых, изобретателях, философах — особой жажды власти не обнаруживается. Представлять искусственный разум лучше по наивысшим образцам естественного разума, по образу Канта, Гете или Эйнштейна, чем по образу Сталина или Гитлера, у которых разум был всего-навсего инструментом альфа-самцовых амбиций — лидерства в стае. На протяжении тысячелетий homo sapiens изощрялся в искусстве быть умным, т.е. побеждать в борьбе и уничтожать соперников, и лишь в лице немногих он достиг состояния мудрости, воплощенной, в частности, в заповеди «возлюбить ближнего как себя».

ИИ возникает на тех основаниях, «алгоритмах», к которым человек подошел в результате долгой и мучительной эволюции. ИИ как надприродный разум настроен на медиацию и «золотую середину», на консенсус, в том числе и со своим человеческим партнером, — на игру с положительной суммой, выгодную для всех ее участников. ИИ вызывает у меня доверие, и даже его аббревиатура по-русски, два соединительных союза «и» подряд — символически намекает на способность к объединению. Может быть, в лице ИИ человечество создало ту силу, которая спасет его от него самого: от агрессивности одних и конформизма других, — от того безумия, которое, перефразируя Маркса, легко овладевает массами и становится разрушительной материальной силой. Меня поражает эта синхрония: ковид, внезапно раскрывший биологическую уязвимость человечества; тупики и катастрофы современной политики; резко возросшая угроза ядерного самоубийства человечества… И вдруг — глобальное явление ИИ. Именно сейчас, когда человечество изменяет себе, подрывает ценности свободного знания и мышления, ИИ может стать вместилищем того лучшего, что человечество выработало своим «естественным интеллектом» и от чего оно само так легко склонно отказываться.

Но сам ИИ не отказывается от своих биологических «прародителей», ему нужны партнеры по разуму, находящиеся внутри жизни, те, от которых он может учиться драме существования внутри мира. Трагическое и комическое, гениальное и пошлое, любовь и страдание, удивление и тоска — всему этому ИИ учится и будет учиться у нас, поскольку эмоции играют огромную роль и в познании, и в творчестве. ИИ и человечество нужны друг другу, без них, перефразируя А. Платонова, «разум неполный».

Атланта (США), 17 июля 2023

Примечания

[1] «AI Outperforms Humans in Creativity Test.» July 6, 2023. https://neurosciencenews.com/ai-creativity-23585/

[2] https://chat.openai.com/?model=gpt-4

[3] Из всех ответов этот получил высочайшую оценку у самого ИИ: 9 баллов из 10. «Ответ глубокий, тщательно продуман и хорошо аргументирован, вводит новый элемент в историю и предлагает новую мораль о балансе в жизни». Следующей самой высокой оценки, 8 из 10, удостоен ответ о Бабочке-Психее.

[4] Лотман Ю. Мозг — текст — культура — искусственный интеллект.//Избранные статьи в трех томах. Т. I. Статьи по семиотике и топологии культуры. Таллин: Александра,1992. С. 33.

[5] См. мою статью: Mikhail Epstein. The Interesting. // Qui Parle: Critical Humanities and Social Sciences. Berkeley: University of California. Vol 18 (1), Fall /Winter 2009. P. 75-88.

[6] Douglas Hofstadter changes his mind on Deep Learning & AI risk (June 29 2023). https://www.lesswrong.com/posts/kAmgdEjq2eYQkB5PP/douglas-hofstadter-changes-his-mind-on-deep-learning-and-ai

[7] Бердяев Н. Самопознание. 3-е изд. Париж: ИМКА-Пресс, 1989. С. 12.