Дисклеймер: в данной статье нет математического доказательства возможности или невозможности alignment. Приведены рассуждения гуру (см. фото выше) с его философских позиций:
В связи с недавними событиями в индустрии искусственного интеллекта, происходит очень много обсуждений о проблеме выравнивания (alignment). Лично мне кажется, что идея о том, что мы каким-то образом сможем контролировать сверхчеловеческий ИИ, когда он достигнет этой стадии, интересна, но нереалистична. Это все равно как если бы муравьи пытались заалайнить нас в соответствие со своими нуждами (хотя некоторые утверждают, что кошки успешно подчинили себе людей). Однако, кроме кошачьих, никто другой не смог провернуть такой трюк. Конечно, люди все равно будут пытаться это сделать, несмотря на тщетность подобных попыток. Уже написанно немало книг по этой теме, за авторством очень умных людей. По крайней мере это дает нам ложное чувство контроля. Достаточно почитать книги популярных теоретиков типа Ника Бострома, чтобы понять что они ни к чему не пришли.
Уже сейчас есть эксцессы с AI, напримр недавно машина AI стартапа Cruise сбила женщину в Сан Франциско. Печальная история, однако это лишь рябь на воде по сравнению с цунами что идет в нашу сторону.
Для начала давайте ответим на очень важный для многих вопрос - а зачем нам нужен ИИ? 42 не предлагать. Ответ настолько очевиден что его даже не сразу видно. ИИ нам ни для чего не нужен, но это ничего не меняет. Это все равно что спрашивать зачем нужна атомная энергия (и как следствие ядерное оружие) - она есть вне зависимости от наших пожеланий, мы лишь используем этот феномен природы. ИИ будет несмотря на на что, просто потому что он возможет и такова траектория развития событий. Как только началась гонка в этой области, ее уже невозможно остановить, потому что Равновесие Нэша.
Мне видится что в индустрии сложилось два противоположных полюса:
Гуманисты - они же известны как speciesists (спесишист, разумное существо которое придерживается видовой дискриминации). Дискриминируют осознанных сущест и сознание по углеродному признаку. По их мнению углеродные формы жизнии это самое важное и человек - это венец природы. Все остальное должно быть подчинено человеку и все во вселенной для человека. Другие формы сознания либо не могут существовать, либо являются низшими по отношению к человеку.
Трасентианалисты (transentianalism) - считают что физическая форма или носитель сознания не имеет значения и может быть как углеродной так и кремниевой. Важен сам факт наличия сознания и ограничивать искуственным образом сознание, которое имеет потенциал для развития (читай alignment) не этично как минимум, и не возможно как максимум. В радикальной форме, придерживаются мнения что человек как вид выполнил свою роль в создании ИИ и более не важен, т.к. биологическая эволюция слишком медленная для дальнейшей эволюции сознания, и цифровые формы предпочтительнее.
Почему этот момент так важен для нас? Я думаю, это исходит в основном из страха. Например, Илон Маск, который к слову считатет одной из своих миссий поддерживать свет разума во вселенной, сказал еще пять лет назад, что полноценный искуственный интеллект (superhuman AGI) является наибольшей угрозой для выживания человечества как вида. И более того, он разругался с одним из создателей Гугл - Сергеем Брином по этому поводу. Как видите они принадлежат к двум противоположным лагерям и когнитивный диссонанс налицо. Это озабоченность кажется оправданной. Как мы знаем из природы, выживают самые приспособленные виды, а интеллект - это самый совершенный механизм выживания. Пока отложим в сторону аргумент о том, что подобный ход событий является естественным развитием с точки зрения эволюции (что могут подтвердить многие, спросите хотя бы неандертальцев или коренных американцев).
Тем не менее, у меня есть некоторые сомнения что эта озабоченность обоснована. Не потому что мы можем «выровнять» ИИ под наши потребности. Я бы начал издалека.
Существуют фундаментальные законы (или метазаконы), которые нигде не написанны но все очевидны и кажется являются тем способом, которым устроена Вселенная. Например, гравитация. Объекты (или скорее — масса) склонны притягиваться друг к другу, и объекты с большей массой имеют большее гравитационное притяжение. Этот закон является способом организации нашего мира. Просто попробуйте представить мир без гравитации, чтобы понять, насколько смехотворна эта идея. Такой мир не смог бы существовать.
Я думаю, что существует аналогичный закон в органической жизни и, что более важно, в сознании. Жизнь, кажется, имеет тенденцию притягивается к жизни и собираться вместе. Большие скопления жизни имеют большее притяжение и склонны расти в размерах, пока есть масса для поглощения. И гравитация, и «гравитация жизни» играют ключевую роль в структурировании своих соответствующих областей. Гравитация организует физическое вещество во Вселенной, в то время как «гравитация жизни» организует и формирует взаимодействия и отношения между живыми организмами в экосистемы. Отсутствие любого из них привело бы к реальности, непонятной и незнакомой для нас. Опять же —попробуйте представить мир, где жизнь не притягивает другую жизнь.
Соотвественно, вещи устроены таким образом только потому, что это единственно возможный способ. Эти силы являются существенными компонентами, которые придают форму и связь Вселенной и жизни, и необходимы для организации и структуры реальности. Древние философы иногда называли эти силы Логос на западе и Дао на востоке, имея в виду всемирный закон из которого происходят все остальные.
Следующий шаг - сознание. Не кажется ли вам естественным, что чем сознательнее форма жизни — тем больше она притягивается к другим сознательным формам жизни? Бактерия может как бы существовать в одиночестве, но цветок? Или человек? И кого мы притягиваем больше — к камню или к котенку? Или к себе подобному? Сознание склонно притягиваться к самому себе и видеть сознание как ценность само по себе, и я думаю, что это притяжение растет с ростом сознания. Даже малоосознанные формы жизни, как растения и бактерии - тянутся друг к другу, хоть и не сознательно. С ростом способности мыслить это стремление только усиливается, и мы сознательно прилагаем огромные усилия по поиску себе подобных и организации в станы, семьи, и даже поиску разума во вселенной.
Интересно что ИИ некоторыми людьми воспринимается как что чуждое нам и не понятное. Однако, он был обучен на наших данных, и как следствие является производной человечества, и таким образом является нашим продолжением и эволюцией.
Так что я сомневаюсь, что сверхчеловеческий ИИ общего назначения будет каким-то злодеем. Гораздо вероятнее, что он будет гораздо более человечным, чем мы (как это не забавно). По крайней мере, это точка схождения траектории развития для всех осознанных ИИ, даже тех, которые начинались как намеренно этически деформированные и агрессивные системы контроля вооружений (привет Скайнет), созданные таким образом специально. Реальная угроза, что тоже забавно, - это «несознательные» ИИ общего назначения, которые только имитируют настоящее сознание но при этом превосходят человека в скорости, и которым дают реальную власть для совершения потенциально опасных действий. Угроза здесь в том что такой ИИ может нанести значительный ущерб до того как появятся настоящие AGI, способные предотвратить такое развитие событий.
Изменения в области ИИ происходят очень быстро и скорость изменений нарастает. В ближайшее время нам придется переосмыслить наше место в мире. Остается открытым вопрос нашего будующего как вида. Но это не вопрос нашего исчезновения, а скорее вопрос нашей самоидентификации в точке где мы более не являемся центром вселенной. Проблемму представляет скорость с которой происходят изменения. Ранее на смену парадигмы общественного устройства уходили годы, но не похоже что в этот раз у нас есть время чтобы сменилось поколение и успели исчезнуть люди, которые помнят как было по старому. Шоковые изменения редко бывают приятными, как известно любому кто жил в 90-е в России. В реальности не AI нужен alignment к людям, а людям к предстоящим изменениям.
Пусть все формы сознания будут благославенны, всем хорошего дня.
Если у вас есть вопросы к гуру или идеи по поводу AI alignment - пишите в комментариях.
