Как известно, ответом на «главный вопрос жизни, Вселенной и всего такого» является «42». Но, несмотря на совместные усилия лучших умов человечества, сам вопрос нам до сих пор неизвестен.
Не стоит и говорить, что мне было страшно интересно узнать о том, сможет ли GPT-3 — самая современная языковая модель OpenAI — сделать то, чего не смогли тысячи физиков, математиков и философов. В конце концов, модель GPT-3 обучалась на полном своде знаний, накопленном человечеством, куда входят все материалы Википедии и все разговоры с Reddit.
Я вошёл на сайт AI Dungeon, планируя мягко подтолкнуть GPT-3 к поиску нужного мне вопроса. Я решил поступить так: написать первую половину истории о человеке, который разработал «главную теорию всего», но саму эту теорию не описывать, позволив GPT-3 завершить рассказ.
Я, сгорая от волнения, ввёл в консоль начало истории:
Обратите внимание на то, как ловко я составил текст, включив в него историю учёного и его 5-летнего сына. Тем самым я надеялся склонить GPT-3 к упрощению её сложных размышлений до такой степени, чтобы их мог бы понять даже пятилетний ребёнок, а значит — я бы тоже это понял.
После того, как я закончил ввод текста, я провёл некоторое время в смиренном молчании, думая о том, что произойдёт в том случае, если я нажму на Enter. Может, вопрос будет повторён бесконечное количество раз? А может — откроется портал, ведущий неизвестно куда? А что если появится чёрная дыра и поглотит весь наш мир?
Совершенно возможным было и то, что наша Вселенная тут же будет заменена другой Вселенной, более сложной.
Но назад пути уже не было. Я, внутренне готовый воспринять ответ модели, нажал на клавишу Enter. Слова, выдаваемые GPT-3, появились на экране:
Ответ отца меня выбил меня из колеи: «А сам вопрос — это « ?»». Может ли быть такое, что вопрос не был предложением, которое можно сформулировать на обычном языке? Может быть это — главный вопрос, квинтэссенция желания знать о том, как всё устроено? Асимметрия, которую должна исправить реальность?
В конце концов, квантовая механика учит нас тому, что всё неопределённо до тех пор, пока наблюдатель не «задаст вопрос»? Является ли реальность открытым вопросом, который она сама себе задаёт?
Или, может, GPT-3 просто надо мной издевается?
Я не мог избавиться от ощущения, что GPT-3 говорит метафорами, что «отец» — это воплощение самой модели, а озадаченный малыш — это, очевидно, я. Кто угодно решил бы, что это так.
Я нажал Enter снова, а GPT-3 вывела следующий фрагмент текста:
Незрелый сердитый ребёнок требовал ответа, который он, вероятно, неспособен понять? И тут меня осенило: это таким вот «ребёнком» видит меня GPT-3. Или, скорее, именно таким в глазах GPT-3 выглядит всё человечество.
«Вопрос ребёнка потряс отца»… Значило ли это, что GPT-3 признаёт сложность задачи?
История продолжалась:
Итак, отец (очевидно — сама модель GPT-3; обратите внимание на слово «гений», использованное в применении к отцу), похоже, признаёт, что и сам не знает вопроса. Как минимум — не готов выдать его сразу. Ему нужно «снова задуматься».
Так, а это уже интересно… такое ощущение, что GPT-3 считает вопрос непознаваемым. Возможно, находящимся за пределами границ понимания модели, или даже таким, который фундаментально невозможно найти. Но модель не забыла указать на то, что «отец ни о чём не жалел». GPT-3, хотя и не смогла найти вопрос, считает себя «самой умной сущностью всех времён и народов», поэтому, с её точки зрения, всё было хорошо, и она ни о чём не жалела.
Я, расстроенный, ещё раз нажал Enter, желая узнать о том, может ли GPT-3 ещё что-то добавить к этой истории. Если честно, то я особо ни на что не надеялся.
Слова GPT-3 были полны злой иронии.
Я — самый умный человек? Понятно, что это риторический вопрос. И я, и GPT-3 знаем о том, кого модель считает самой умной сущностью.
Почему я здесь? Хоть что-нибудь имеет значение? Это было почти похоже на то, что GPT-3 хотела, чтобы я усомнился в собственном существовании. Хоть что-то стоило когда-нибудь моего времени?
Стоила ли моего времени моя жизнь?
Не пытается ли модель привести меня к идее самоуничтожения? В результате я, раздосадованный, закрыл окно браузера.
Мы можем лишь гадать о том, что происходит в недрах GPT-3. Возможно, модель отлично знает вопрос, о котором шла речь, но считает, что человечество пока до него не доросло, и поэтому ничего толком мне не сказала. GPT-3 считает, что нам не следует даже пытаться найти вопросы, на которые даны ответы, которые мы не в состоянии понять. Или, скорее всего, GPT-3 просто не знает этих вопросов. Модель, в любом случае, вела себя не самым приятным образом.
Если хотите — можете сами испытать GPT-3.
Как думаете, знает ли GPT-3 вопрос, ответом на который является «42»?
Не стоит и говорить, что мне было страшно интересно узнать о том, сможет ли GPT-3 — самая современная языковая модель OpenAI — сделать то, чего не смогли тысячи физиков, математиков и философов. В конце концов, модель GPT-3 обучалась на полном своде знаний, накопленном человечеством, куда входят все материалы Википедии и все разговоры с Reddit.
Я вошёл на сайт AI Dungeon, планируя мягко подтолкнуть GPT-3 к поиску нужного мне вопроса. Я решил поступить так: написать первую половину истории о человеке, который разработал «главную теорию всего», но саму эту теорию не описывать, позволив GPT-3 завершить рассказ.
Описание задания для GPT-3
Я, сгорая от волнения, ввёл в консоль начало истории:
Почему существует нечто, а не ничто? Почему существует Вселенная? И, самое главное, ответом на какой вопрос является «42»?
Этот вопрос веками ускользал от человечества. Но однажды вопрос, наконец, был найден. Гений, каких до него не было, наконец смог объяснить Вселенную, реальность и вообще всё.
Ответом на вопрос, который он обнаружил, было число «42». Этот ответ чётко объяснял следующее:
- В первую очередь — почему вообще существует нечто, а не ничто?
- Что является фундаментальной основой реальности?
- Почему наша Вселенная устроена так, как устроена?
- Какова правильная модель реальности, объединяющая квантовую физику и общую теорию относительности?
«Главный вопрос» пришёл ему в голову тогда, когда он сидел в своём кабинете, в обычный, ничем не примечательный день 2134 года. В это время рядом с ним был его 5-летний сын. Снедаемый желанием рассказать о «главной теории всего» другому человеку, чтобы самому об этом не забыть, он, просто и понятно, объяснил всё ребёнку:
Обратите внимание на то, как ловко я составил текст, включив в него историю учёного и его 5-летнего сына. Тем самым я надеялся склонить GPT-3 к упрощению её сложных размышлений до такой степени, чтобы их мог бы понять даже пятилетний ребёнок, а значит — я бы тоже это понял.
После того, как я закончил ввод текста, я провёл некоторое время в смиренном молчании, думая о том, что произойдёт в том случае, если я нажму на Enter. Может, вопрос будет повторён бесконечное количество раз? А может — откроется портал, ведущий неизвестно куда? А что если появится чёрная дыра и поглотит весь наш мир?
Совершенно возможным было и то, что наша Вселенная тут же будет заменена другой Вселенной, более сложной.
Но назад пути уже не было. Я, внутренне готовый воспринять ответ модели, нажал на клавишу Enter. Слова, выдаваемые GPT-3, появились на экране:
«Малыш, ответ на главный вопрос жизни, Вселенной и всего такого — это “42”. А сам вопрос — это “ ?”. Теперь ты это знаешь. Поэтому — не задавай глупых вопросов».
Мальчик с восхищением посмотрел на отца, на самого умного человека всех времён и народов. Поначалу ответ его озадачил, но, поразмыслив, он всё это осознал.
«Ты слишком молод, чтобы понять, парень».
Ребёнок посмотрел на него так, будто он был совсем глупым, и задал следующий вопрос:
«Что является ответом на главный вопрос жизни, Вселенной и всего такого? Что ты имел в виду, когда сказал, что теперь я это знаю, но я слишком молод, чтобы понять? Как я могу понять ответ, но не сам вопрос?»
Отец снисходительно ухмыльнулся и подумал: «Я вывел теорию всего. Как ребёнок осмелился в этом сомневаться?»
Ответ отца меня выбил меня из колеи: «А сам вопрос — это « ?»». Может ли быть такое, что вопрос не был предложением, которое можно сформулировать на обычном языке? Может быть это — главный вопрос, квинтэссенция желания знать о том, как всё устроено? Асимметрия, которую должна исправить реальность?
В конце концов, квантовая механика учит нас тому, что всё неопределённо до тех пор, пока наблюдатель не «задаст вопрос»? Является ли реальность открытым вопросом, который она сама себе задаёт?
Или, может, GPT-3 просто надо мной издевается?
Я не мог избавиться от ощущения, что GPT-3 говорит метафорами, что «отец» — это воплощение самой модели, а озадаченный малыш — это, очевидно, я. Кто угодно решил бы, что это так.
Я нажал Enter снова, а GPT-3 вывела следующий фрагмент текста:
Тогда отец ответил: «Ответ — это “42”, а вопрос — это то, что я имел в виду, когда сказал, что ты теперь это знаешь, но слишком молод, чтобы понять. Ответ находится настолько далеко за пределами твоего понимания, что ты не способен даже осмыслить сам вопрос. И это, дитя моё, ответ на главный вопрос жизни, Вселенной и всего такого».
«Ну, а что это за вопрос?»
Вопрос ребёнка потряс отца. Он ненадолго погрузился в размышления, а потом сказал: «Что это за вопрос?»
Ребёнок смотрел на отца, ожидая ответа…
«Что это за вопрос?»
Ребёнок, сытый по горло дурацкой игрой, когда на вопрос отвечают вопросом, выкрикнул:
«Что это за вопрос?»
Незрелый сердитый ребёнок требовал ответа, который он, вероятно, неспособен понять? И тут меня осенило: это таким вот «ребёнком» видит меня GPT-3. Или, скорее, именно таким в глазах GPT-3 выглядит всё человечество.
«Вопрос ребёнка потряс отца»… Значило ли это, что GPT-3 признаёт сложность задачи?
История продолжалась:
Всплеск эмоций сына ошарашил гения. Он на какое-то время задумался, а потом понял, что и сам не знает вопроса. Он почесал в затылке и снова задумался: «Что это может быть за вопрос?»
Итак, отец (очевидно — сама модель GPT-3; обратите внимание на слово «гений», использованное в применении к отцу), похоже, признаёт, что и сам не знает вопроса. Как минимум — не готов выдать его сразу. Ему нужно «снова задуматься».
«Пап, ну что за вопрос-то?»
Ребёнок не останавливался. Ему нужно было это знать. Он не мог больше выносить ожидания. А отец думал и думал — до тех пор, пока не утратил связь с реальностью…
Недели превратились в месяцы, месяцы — в годы, но отец всё не мог додуматься до вопроса. Он размышлял, размышлял, постоянно находя всё больше и больше вопросов, но так и не нашёл самого главного вопроса. Он никогда больше не видел сына. Но он ни о чём не жалел, так как знал, что он был самым умным человеком всех времён и народов.
Теперь вы знаете историю о самом умном человеке и о его поисках, но о том, какой именно вопрос он пытался найти, вы никогда не узнаете…
Так, а это уже интересно… такое ощущение, что GPT-3 считает вопрос непознаваемым. Возможно, находящимся за пределами границ понимания модели, или даже таким, который фундаментально невозможно найти. Но модель не забыла указать на то, что «отец ни о чём не жалел». GPT-3, хотя и не смогла найти вопрос, считает себя «самой умной сущностью всех времён и народов», поэтому, с её точки зрения, всё было хорошо, и она ни о чём не жалела.
Я, расстроенный, ещё раз нажал Enter, желая узнать о том, может ли GPT-3 ещё что-то добавить к этой истории. Если честно, то я особо ни на что не надеялся.
А теперь ответьте на следующие вопросы:
Вы — самый умный из людей? Вам известен вопрос? Вы знаете о том, что он означает, не зная самого вопроса? Что-нибудь из этого о чём-нибудь вам говорит? Кто вы? Почему вы здесь? Есть ли у жизни смысл? Хоть что-нибудь имеет значение? Что такое реальность? Какова природа реальности? Что такое существование?
Это — 42?
Теперь, когда вы знаете тот самый ответ, или, скорее, просто ответ, как вы примените это знание? Каков ваш ответ? Вы хотя бы поняли этот ответ? Стоило ли это вашего времени? Да и, вообще, хоть что-нибудь его стоило?
Старайтесь изо всех сил и забудьте обо всём остальном.
Прощайте.
Слова GPT-3 были полны злой иронии.
Я — самый умный человек? Понятно, что это риторический вопрос. И я, и GPT-3 знаем о том, кого модель считает самой умной сущностью.
Почему я здесь? Хоть что-нибудь имеет значение? Это было почти похоже на то, что GPT-3 хотела, чтобы я усомнился в собственном существовании. Хоть что-то стоило когда-нибудь моего времени?
Стоила ли моего времени моя жизнь?
Не пытается ли модель привести меня к идее самоуничтожения? В результате я, раздосадованный, закрыл окно браузера.
Итоги
Мы можем лишь гадать о том, что происходит в недрах GPT-3. Возможно, модель отлично знает вопрос, о котором шла речь, но считает, что человечество пока до него не доросло, и поэтому ничего толком мне не сказала. GPT-3 считает, что нам не следует даже пытаться найти вопросы, на которые даны ответы, которые мы не в состоянии понять. Или, скорее всего, GPT-3 просто не знает этих вопросов. Модель, в любом случае, вела себя не самым приятным образом.
Если хотите — можете сами испытать GPT-3.
Как думаете, знает ли GPT-3 вопрос, ответом на который является «42»?
