Перед вами перевод эссе Марка Андриссена, одного из влиятельнейших людей в технологическом мире. Один из пяти пионеров Интернета, награждённых премией королевы Елизаветы в области техники за «выдающиеся достижения в инженерии, изменившие мир», по совместительству создатель Mosaic, сооснователь Netscape Communications и венчурного фонда Andreessen Horowitz по состоянию на апрель 2023 года занимающего первое место в списке венчурных компаний по версии AUM.
Наступила эра искусственного интеллекта, и люди сходят с ума. К счастью, я здесь, чтобы сообщить хорошие новости: ИИ не уничтожит мир, а, наоборот, может его спасти.
Дисклеймер
Большинство идей высказанных в статье совпадают с моей точкой зрения, однако некоторые высказывания прошли мимо, но так как это перевод, я не стал пропускать противоречивые для меня высказывания и даже кое-что добавил от себя для адаптации (в скобках или зачёркнутым текстом). В последней части статьи немного политики и агитации, однако читатель должен понимать, что Марк, прежде всего американский гражданин и бизнесмен, поэтому если кому-то режет глаз американская версия ура-патриотизма, прошу меня извинить, но из песни слов не выкинешь. В конце оригинальной статьи даже сами представители венчурного фонда «a16z» сбавили обороты и съехали на информационные цели и мнение отдельно взятых сотрудников компании.
Во-первых, коротко об искусственном интеллекте: применение математики и программного кода позволило научить компьютеры тому, как почти по-человечески понимать, синтезировать и производить знания. ИИ — это компьютерная программа, такая же, как и любая другая, она работает, принимая входные данные, обрабатывает их и генерирует выходные данные. Результаты работы ИИ полезны в самых разных областях: от программирования до медицины, юриспруденции и творчества. Она принадлежит людям и контролируется людьми, как и любая другая технология.
Чем искусственный интеллект не является: программами-убийцами и киборгами, ожившими для того, чтобы уничтожить человеческую расу или иным образом всё разрушить, как часто такие сценарии эксплуатирует фабрика грёз.
А вот, чем может быть искусственный интеллект, так это способом сделать всё, что нам небезразлично, ещё лучше.
Почему ИИ может сделать все, что нам небезразлично, лучше?
Непреложный вывод, следующий из тысяч социологических исследований, проводимых на протяжении многих десятилетий, заключается в том, что высокий человеческий интеллект улучшает очень широкий спектр жизненных показателей. У умных людей более высокие достижения почти во всех сферах деятельности: учёба, производительность труда, профессиональный статус, доход, креативность, физическое здоровье, долголетие, изучение новых навыков, управление сложными задачами, лидерство, предпринимательский успех, разрешение конфликтов, понимание прочитанного, принятие финансовых решений, понимание других точек зрения, творчество, результаты воспитания детей и, в конце концов, удовлетворённость жизнью.
Кроме того, человеческий интеллект — это рычаг, который мы использовали на протяжении тысячелетий для создания мира, в котором живем сегодня. Наука, технология, математика, физика, химия, медицина, энергетика, строительство, транспорт, связь, искусство, музыка, культура, философия, этика и мораль. Без применения интеллекта во всех этих областях мы бы всё ещё жили в землянках, влача жалкое существование за счёт натурального хозяйства. Вместо этого мы использовали свой интеллект, чтобы за последние 4000 лет повысить уровень жизни примерно в 10000 раз.
Что искусственный интеллект предлагает нам, так это возможность значительно повысить человеческий интеллект, чтобы улучшить все его достижения, начиная от создания новых лекарств до решения проблем изменения климата и технологий достижения звёзд.
Апгрейд человеческого интеллекта уже запущен. ИИ окружает нас в виде различных компьютерных систем управления, быстро расширяющихся за счёт больших языковых моделей, таких как ChatGPT, и если мы позволим, это ускорение приобретёт ещё более стремительный характер.
В эту новую эру искусственного интеллекта:
— У каждого ребенка будет наставник с искусственным интеллектом, бесконечно терпеливый, бесконечно сострадательный, бесконечно знающий и бесконечно помогающий. Наставник с искусственным интеллектом будет рядом с каждым ребенком на каждом этапе его развития, помогая ему максимально раскрыть свой потенциал с помощью машинной версии бесконечной любви.
— У каждого взрослого человека будет бесконечно терпеливый, бесконечно сострадательный, бесконечно знающий и бесконечно помогающий помощник/коуч/ментор/тренер/советник/терапевт. Такой помощник будет находиться рядом в любых жизненных ситуациях, максимизируя достижения каждого человека.
— У каждого учёного будет помощник/сотрудник/партнёр, который значительно расширит сферу его научных исследований и достижений. У каждого художника, у каждого инженера, у каждого бизнесмена, у каждого врача, у каждой сиделки будет то же самое.
— У каждого руководителя — генерального директора, государственного чиновника, президента некоммерческой организации, спортивного тренера, преподавателя — будет то же самое. Лучшие решения и идеи человеческих лидеров приобретут кумулятивный эффект, поэтому такое увеличение интеллекта может оказаться самым важным приложением ИИ.
— Рост производительности во всех экономических областях резко ускорится, стимулируя экономический рост, создание новых отраслей промышленности, новых рабочих мест и рост заработной платы, что приведёт к новой эре повышенного материального благосостояния на всей планете.
— Научные прорывы, новые технологии и медицина расцветут обильным цветом, ведь искусственный интеллект поможет нам расшифровывать новые законы природы и использовать их в свою пользу.
— Созидательные искусства вступят в золотой век, когда художники, музыканты, писатели и режиссёры благодаря искусственному интеллекту получат возможность реализовывать свои идеи гораздо быстрей и масштабней, чем когда-либо прежде.
— Я даже думаю, что ИИ улучшит приёмы ведения вооружённых конфликтов, резко снизив уровень смертности в военное время. Любая война ужасна и требует ужасных решений человеческих лидеров, зачастую принимаемых под сильным давлением с резко ограниченной информацией. Теперь у военачальников и политиков будут советники с искусственным интеллектом, которые помогут им принимать гораздо более взвешенные стратегические и тактические решения, сводя к минимуму риск, ошибки и ненужное кровопролитие.
— Короче говоря, всё, что люди сегодня делают с помощью своего естественного интеллекта, можно сделать намного лучше если заручиться дополнительно поддержкой искусственного. Так мы сможем подойти к решению новых задач, ранее недоступных нам, от лечения всех болезней до осуществления межзвёздных путешествий.
— И дело не только в интеллекте! Возможно, самым недооцененным качеством ИИ является то, насколько гуманным он может быть. Возможности искусственного интеллекта дают людям, у которых не было на это никаких шансов, свободу создавать и делиться своими художественными идеями. Разговор с чуткой дружественной машиной действительно может поддержать способность справляться с невзгодами. А медицинские чат-боты с искусственным интеллектом уже более чутки, чем их коллеги-люди. Вместо того, чтобы делать мир более суровым и механическим, бесконечно терпеливый и сочувствующий искусственный интеллект сделает мир теплей и приятней.
Здесь ставки высоки, а шансы велики. ИИ, возможно, самое важное и лучшее из того, что когда-либо создавала наша цивилизация, безусловно, наравне с электричеством и микрочипами.
Разработка и распространение ИИ — это далеко не та угроза, из-за которой нам следует переживать, — это моральное обязательство, которое мы несём перед собой, нашими детьми и нашим будущим.
Мы должны жить в гораздо лучшем мире с ИИ, и теперь мы можем это сделать.
Так что за паника?
В отличие от положительного взгляда, описанного выше, публичные разговоры об ИИ в настоящее время пронизаны истерическим страхом и паранойей.
Мы слышим заявления о том, что ИИ убьёт нас самыми различными способами, разрушит наше общество, лишит нас рабочих мест, приведёт к разрушительному неравенству и позволит плохим людям делать совершенно ужасные вещи.
Чем объясняется это расхождение в возможных исходах от почти утопии до шокирующей антиутопии?
Исторически сложилось так, что каждая важная новая технология, от электрического освещения до автомобилей, от радио до Интернета, порождала охоту на ведьм, социальную истерию, убеждающую людей в том, что она разрушит мир, или общество, или и то, и другое сразу. Участники «Архива пессимистов» (проект, призванный оживить коллективные воспоминания об истериях, технофобиях и панических настроениях, часто сопровождающих появление новых технологий, идей и трендов) задокументировали эти факты, а их история красочно проясняет картину. Оказывается, нынешняя паническая волна совсем не первая для искусственного интеллекта.
Конечно, многие новые технологии привели к плохим результатам — часто это были те же самые технологии, которые при другом подходе могли быть чрезвычайно полезными для нашего благосостояния. Так что само проявление истерии ещё не означает, что не о чем беспокоиться.
Но социальные истерики по самой своей природе иррациональны. Они раздувают из мухи слона и по иронии судьбы затрудняют противостояние действительно опасным явлениям, требующим серьёзного отношения.
И здрасьте, приехали! Прямо сейчас и развернулась очередная полномасштабная социальная истерия по этому поводу.
Эта паника уже используется в качестве мотивирующей силы различными субъектами, требующими политических действий — новых ограничений, правил и законов в отношении ИИ (как будто недостаточно, сформулированных Азимовым). Эти персонажи делают чрезвычайно драматичные публичные заявления об опасностях распространения искусственного интеллекта, подпитываясь этим и ещё больше разжигая костёр истерии, выставляя себя самоотверженными поборниками общественных благ.
Но так ли это? И правы они или нет?
Баптисты и бутлегеры искусственного интеллекта
Экономисты выявили давнюю закономерность подобных реформ. Участники таких движений делятся на две категории — «баптисты» и «бутлегеры» — опираясь на исторический пример введения «сухого» закона в Соединенных Штатах в 1920-х годах (такую концепцию в 1980-х выдвинул профессор экономики Брюс Яндл). Она основана на наблюдении, что принятые обязательства поддерживаются как группами, которые хотят достичь кажущейся цели регулирования, так и группами, которые получают прибыль от подрыва этой цели.
«Баптисты» — «юноши бледные со взором горящим», истинно верующие социальные реформаторы, что для предотвращения социальной катастрофы необходимо больше ограничений, больше правил и законов. Во времена запрета алкоголя эти персонажи часто встречались среди набожных христиан, чувствовавших как алкоголь разрушает саму моральную ткань общества. Что касается текущей опасности, эти ребята искренне верят в то, что искусственный интеллект действительно несёт потенциальную угрозу. Даже если привязать такого к полиграфу, и задать определённые вопросы, связанные с ИИ, то и прибор не обнаружит подвоха в его словах.
«Бутлегеры» — это корыстные оппортунисты, извлекающие финансовую выгоду от введения новых ограничений, правил и законов, изолирующих их от конкуренции. Что касается запрета на алкоголь, то это были буквально самогонщики, нажившие состояния, продавая незаконный алкоголь американцам во времена его официального запрета. Что касается нашей темы, то здесь «бутлегерами» будут компании, которые смогут заработать существенно больше денег, если будут возведены нормативные барьеры, формирующие картель одобренных правительством вендоров систем искусственного интеллекта, защищённых от стартапов и вариантов с открытым исходным кодом. Так называемые версии программного обеспечения по аналогии с банками, «слишком большими, чтобы обанкротиться».
Циничный человек наверняка предположил бы, что некоторые из самых громогласных «баптистов» являются скрытыми «бутлегерами». Особенно те из них, у кого ещё и приятно похрустывает свежими банкнотами в карманах от университетов, аналитических центров, групп активистов и средств массовой информации. Если вам платят зарплату или вы получаете гранты за разжигание этой паники… вы, вероятно, «бутлегер».
Проблема с «бутлегерами» заключается в том, что они всегда побеждают. «Баптисты» — наивные идеологи, «бутлегеры» — циничные махинаторы, поэтому результаты таких реформ почти всегда ведут к тому, что эти ловкие ребята получают то, что хотят: жёсткое регулирование, снижение конкуренции и картельные сделки, — а «баптисты» в итоге остаются в недоумении. Когда и где их стремление к социальным улучшениям пошло не так?
Недавно мы пережили потрясающий пример этого явления — банковскую реформу после мирового финансового кризиса 2008 года. «Баптисты» говорили, что нам нужны новые законы и постановления, чтобы разрушить гегемонию «слишком больших, чтобы обанкротиться» банков, для предотвращения повторения подобного кризиса. Поэтому Конгресс принял Закон Додда-Франка от 2010 года, который рекламировался как удовлетворяющий цели «баптистов», но на самом деле его поддержали «бутлегеры» — крупные банки. В результате те же самые банки, не подлежащие банкротству, сегодня стали намного больше.
Так что на практике, даже когда «баптисты» искренни — и даже когда они правы — «бутлегеры» используют их как прикрытие своим грязным делишкам. Как раз это сейчас и происходит в стремлении к регуляции и жёсткому контролю областей, затрагивающих искусственный интеллект.
Однако для прояснения ситуации недостаточно просто установить личности актёров, задействованных в данной постановке и подвергнуть сомнению их мотивы. Мы должны рассмотреть аргументацию каждой из сторон этого противодействия.
Угроза №1: Мы все умрём?
Перворождённая угроза заключается в том, что они киборги ИИ буквально решит уничтожить человечество.
Страх перед тем, что созданные нами технологии восстанут и уничтожат нас, глубоко закодирован в нашей культуре. Греки выразили этот страх в мифе о Прометее — он принес разрушительную силу огня и, в более общем смысле, технологию человеку, за что был осужден богами на вечные муки. Позже Мэри Шелли дала нам, современным, собственную версию этого мифа в своем романе «Франкенштейн, или Современный Прометей», в котором мы разрабатываем технологию вечной жизни, которая затем восстаёт и стремится нас уничтожить. И, конечно уж, ни одна паническая газетная статья об ИИ не будет полной без неподвижного изображения изувеченного Арни из фильмов Джеймса Кэмерона.
Предполагаемая эволюционная цель этого архетипа — побудить нас серьёзно задуматься о потенциальных рисках внедрения новых технологий. В конце концов, огонь действительно может быть использован в качестве средства уничтожения. Но точно так же, как огонь лёг в фундамент современной цивилизации, чтобы дать нам тепло и безопасность в холодном и враждебном мире, этот мифологический сюжет игнорирует важные положительные свойства новых технологий и на практике подливает масла в огонь деструктивных иррациональных эмоций, игнорируя аргументированный анализ. То, что доисторический человек так взбесился, никоим образом не заставляет нас поступать также. Вместо этого мы можем рационально подойти к решению этой проблемы.
Я считаю, что идея о том, что искусственный интеллект решит буквально изничтожить человечество, является глубокой категориальной ошибкой. ИИ — это не живое существо, которое было подготовлено миллиардами лет эволюции к участию в битве за выживание наиболее приспособленных. ИИ — это, прежде всего математика, код и компьютеры, созданные людьми для людей. Мысль о том, что в какой-то момент у него разовьётся собственный разум, и он вдруг решит, что у него есть какие-то побудительные мотивы для нашего уничтожения всего лишь набор дремучих суеверий.
Если коротко, то у искусственного интеллекта нет целей, нет желаний, потому что он не живой. Это машина, и вне зависимости от её сложности она не станет более живой, чем обычный тостер.
Сегодня вполне очевидно, что есть истинно верящие в смертоносные машины «баптисты», которые внезапно получают мощное лобби в СМИ и повсеместное освещение их ужасающих предупреждений. Некоторые из них даже утверждают, что изучали эту тему десятилетиями, и твердят, что теперь они напуганы до смерти результатами своих исследований. Некоторые из этих истово верующих даже являются одними из тех, кто работает на переднем крае технологического прогресса. Эти персонажи настаивают на множестве эксцентричных и экстремальных ограничений, начиная от простого запрета разработки и заканчивая военными авиаударами по центрам обработки данных и ядерной войне. Они утверждают, что, поскольку такие люди, как я, не могут исключить будущие катастрофические последствия, мы должны принять серьёзные меры предосторожности, которые могут потребовать большого количества насильственных действий и смертей для предотвращения потенциально критических экзистенциальных угроз.
Мой ответ таков — антинаучная ересь. Какова проверяемая гипотеза? Что может её опровергнуть? Как мы узнаем, что влипли? Эти вопросы в основном остаются без ответа, за исключением такого — «вы не можете доказать, что этого не произойдет!» На самом деле, позиция этих «баптистов» настолько ненаучна и экстремальна (своего рода математико-программная теория заговора), что уже призывает к физическому насилию, поэтому я сделаю то, чего обычно избегаю и заочно поставлю под сомнение их побуждающие мотивы.
Конкретно сейчас, я думаю, происходят три вещи:
Во-первых, вспомните, что Джон фон Нейман сказал по поводу известного заламывания рук Роберта Оппенгеймера от его роли в создании ядерного оружия: «Некоторые люди признают вину, чтобы заявить о себе во грехе». Каким ещё более драматическим способом можно заявить о важности своей работы, не выглядя откровенно хвастливым? Эта метафора объясняет несоответствие между словами и действиями «баптистов», которые на самом деле создают и финансируют искусственный интеллект. Тут нужно следить за ручками, а не за словами. (Трумэн был намного резче после встречи с Оппенгеймером: «Не пускайте сюда больше эту плаксу».)
Во-вторых, некоторые из «баптистов» на самом деле являются «бутлегерами». Есть ряд смежных профессий типа «эксперт по безопасности ИИ», «специалист по этике ИИ», «исследователь рисков ИИ». На самом деле их позиции проплачены, а все их заявления должны рассматриваться сквозь призму этого факта.
В-третьих, Калифорния по праву славится своими многотысячными сектами, от Эст-тренингов до Храма Народов, от Небесных Врат до Семьи Мэнсона. Многие, хотя и не все, из этих культов безвредны и, возможно, даже служат благим целям, в которых потерянные люди находят своё предназначение. Но некоторые из них действительно очень опасны, и печально известны фактами, пересекающими черту нормальности.
Реальность, которая очевидна для всех в районе Залива, но, вероятно, не заметна за его пределами, заключается в том, что «угроза искусственного интеллекта» превратилась в культ, который внезапно оказался в центре внимания мировой прессы и общественного обсуждения. Этот культ привлек не только второстепенных персонажей, но и некоторых настоящих отраслевых экспертов и немалое количество богатых меценатов, включая состоятельного, до недавнего времени, Сэма Бэнкмана-Фрида.
Именно из-за этого культа существует группа людей помешанных на угрозах распространения искусственного интеллекта, причём дело даже не в том, что они обладают какими-то секретными знаниями, оправдывающими их максимализм, а в том, что они сами довели себя до безумия.
Оказывается, у культов такого типа ноги растут из давней западной традиции милленаризма, порождающего апокалипсические культы. Угроза ИИ имеет все признаки такого культа.
Из Википедии, с моими дополнениями (М.А.):
«Милленаризм — это вера группы людей или движения [убеждённых в угрозе] в грядущую фундаментальную трансформацию общества [приход ИИ], после которой все изменится [утопия ИИ, антиутопия и/или конец света]. В качестве событий способных изменить мир [предотвратить развитии ИИ] рассматриваются только кардинальные меры [запрет, авиаудары по ЦОД, ядерные удары по неуправляемому ИИ]. В свою очередь ожидается, что эти изменения будут вызваны и пережиты только группой набожных и преданных своему делу людей. В большинстве милленаристских сценариев за грядущей катастрофой или битвой [апокалипсис ИИ или его предотвращение] последует новый, очищенный мир [запрет ИИ], в котором верующие будут вознаграждены [или, по крайней мере, будет признано, что они были правы все это время]».
Шаблон культа апокалипсиса настолько очевиден, что я удивлён, как многие люди его в упор не видят.
Не поймите меня неправильно, о некоторых сектах приятно слышать, их агитационные материалы часто креативны и увлекательны, а их члены участвуют в разных мероприятиях и мелькают на телевидении. Но очевидно, что их крайние убеждения не должны определять будущее законов и общества.
Угроза №2: Разрушит ли ИИ наше общество?
Вторая широко обсуждаемая угроза заключается в том, что искусственный интеллект разрушит наше общество, производя такие тлетворные результаты, что ущерб человечеству будет колоссален, даже если мы останемся в живых.
Если кратко, то даже если киборги они не доберутся до нас, это сделают разжигание ненависти и дезинформация.
Эта угроза относительно недавнее изобретение, отпочковавшееся от описанной выше, и в некоторой степени переняло некоторые его черты. Фактически, патетика буквального уничтожения сменилась на социальную деградацию. Пионеры движения опасности искусственного интеллекта оказались разочарованы таким смещением приоритетов, и теперь они агитируют за то, чтобы тема угрозы тотального уничтожения переформатировалась в более лёгкую форму, получившего название "notkilleveryoneism". Эти идеи ещё не получили широкого распространения, но по крайней мере понятны.
Подсказкой к характеру такого заявления о социальных угрозах является декларируемое согласование. Однако не совсем понятно с чем? С общечеловеческими ценностями? Чьи человеческие ценности? Ах, вот где всё усложняется.
Так случилось, что я был в первом ряду в аналогичной ситуации, так называемых войнах «доверия и безопасности» в социальных сетях. Как теперь очевидно, социальные сети в течение многих лет находились под массовым давлением со стороны правительств и разных активистов с целью запретить, ограничить, подвергнуть цензуре или иным образом запретить широкий спектр контента. Те же опасения по поводу «языка ненависти» (и его математического аналога, «алгоритмической предвзятости») и «дезинформации» напрямую переносятся из контекста социальных сетей на новый рубеж угрозы искусственного интеллекта.
Мои главные выводы из войн в социальных медиа:
С одной стороны, абсолютная свобода слова недостижима. Во-первых, каждая страна, включая Соединенные Штаты, считает незаконным любой запрещённый контент. Во-вторых, существуют определенные виды контента, которые почти повсеместно признаны запрещёнными. Таким образом, любая технологическая платформа, которая способствует или генерирует контент, по определению будет иметь некоторые ограничения.
С другой стороны, это очень скользкий путь, и это не заблуждение, а неизбежность. Как только будет создана реакционная структура для ограничения даже вопиюще ужасного контента — например, в отношении разжигания ненависти, оскорбления или дезинформации, заведомо ложных утверждений, таких как «Папа римский умер», — возникает шокирующе широкий спектр правительственных учреждений и давления со стороны каких-нибудь очередных активистов и неправительственных организаций. Они начнут действовать и потребуют ещё более жёсткой цензуры и подавления любых высказываний, которые они посчитают угрожающими обществу и/или их личным предпочтениям и будут делать это вплоть до откровенно уголовных преступлений. На практике это может продолжаться бесконечно при активной поддержке авторитарных механизмов, встроенных в элиты и властные структуры. В социальных сетях это происходит уже десятилетия, и, за некоторыми исключениями, становится всё более агрессивным.
Такова динамика, сформировавшаяся вокруг этой угрозы. Сторонники такого подхода заявляют, что разумно пользоваться результатами деятельности генеративных ИИ, которые полезны для общества, и необходимо запрещать те результаты работы ИИ, которые вредны для общества. Противники утверждают, что полиция мысли поразительно заносчива и самонадеянна, а часто и откровенно преступна, по крайней мере, в США, и на самом деле стремится стать новым видом симбиотической государственно-корпоративно-академической авторитарной диктатуры, вырванной прямо со страниц романа Джорджа Оруэлла.
Поскольку как сторонники, так и их оппоненты сосредоточены в чрезвычайно малой части человеческой популяции, которая характеризует прибрежную элиту Америки, в неё входят многие люди, работающие в технологической индустрии и пишущие о ней. Многие из моих читателей готовы утверждать, что необходимы кардинальные ограничения на производительность ИИ, чтобы избежать разрушения нашего общества. Я не буду пытаться отговорить вас, а просто заявлю, что такова жизнь, и большинство людей в мире не согласятся с вашей идеологией и не хотят, вашего триумфа.
Если вы не согласны с преобладающей местечковой моралью, которая навязывается как социальным сетям, так и искусственному интеллекту через постоянно усиливающиеся высказывания, вы также должны понимать, что борьба за то, что хорошо, а что плохо развернётся нешуточная и будет намного важней, чем борьба с цензурой в соцсетях. Рано или поздно искусственный интеллект, поднимется до наивысшего уровня управления, и то, как он будет работать, будет иметь, возможно, большее значение, чем что-либо ещё когда-либо имевшее значение. Вы должны знать, как небольшая и изолированная группа фанатичных социальных инженеров пытается определить это прямо сейчас, под прикрытием векового заявления о том, что они защищают нас.
Короче говоря, не позволяйте полиции мысли подавлять искусственный интеллект.
Угроза №3: Заберёт ли ИИ наши рабочие места?
Страх потерять работу из-за механизации, автоматизации, компьютеризации или искусственного интеллекта затянувшийся истерический рефрен на протяжении сотен лет, начиная с момента появления машин, таких, например, как механический ткацкий станок. Несмотря на то, что каждая новая мажорная технология на протяжении всей истории приводила к увеличению числа рабочих мест с более высокой заработной платой, каждая волна этой паники сопровождается заявлениями о том, что «на этот раз всё по-другому». Наконец это произойдет — эта технология нанесёт сокрушительный удар по человеческому труду. И, тем не менее, это никогда не происходит.
В недавнем прошлом мы пережили два таких этапа, вызванных технологиями: панику аутсорсинга в 2000-х и панику автоматизации в 2010-х. Несмотря на то, что многие «говорящие головы», эксперты и даже руководители в технологической отрасли били тапком по трибуне на протяжении обоих десятилетий, когда была близка массовая безработица, к концу 2019 года — прямо перед началом COVID в мире было больше рабочих мест с более высокой заработной платой, чем когда-либо в истории.
Тем не менее, эта ошибочная теория, как показывает история, никогда не умрёт.
И точно, опять она здесь.
На этот раз у нас наконец-то есть технология, которая заменит все рабочие места и сделает людей лишними — настоящий искусственный интеллект. Конечно, на этот раз история не повторится, и он вызовет массовую безработицу, а не быстрый рост экономики, рабочих мест и заработной платы, верно?
Вряд ли, этого не будет — и на самом деле ИИ, если позволить ему развиваться и распространяться по всей экономике, может вызвать самый эпичный и устойчивый экономический бум всех времён и народов с соответствующим рекордным ростом рабочих мест и заработной платы — с точностью до наоборот, вопреки опасениям. И вот почему.
Основная ошибка, которую продолжают совершать паникёры, называется «заблуждение о неизменном объёме работ». Это заблуждение состоит в неверном представлении о том, что в экономике в любой момент времени может быть выполнено фиксированное количество труда, и что его выполняют либо машины, либо люди, а если это делают машины, то людям делать нечего ..позабыты хлопоты, остановлен бег, вкалывают роботы, а не человек.
Это заблуждение естественно проистекает из наивного ощущения, но интуиция здесь ошибается. Когда технология применяется к производству, мы получаем рост производительности — увеличение выпуска продукции за счёт сокращения затрат. В результате снижаются цены на товары и услуги. Поскольку цены на товары и услуги падают, мы платим за них меньше, а это означает, что теперь у нас появляется дополнительная покупательная способность, на которую можно покупать что-нибудь ещё. Это увеличивает спрос в экономике, что стимулирует создание новых производств, включая новые продукты, — что в свою очередь создаёт новые рабочие места для людей, которых на прежних работах заменили машины. Результатом является более крупная экономика с более высоким материальным благосостоянием, большим количеством отраслей, большим количеством продукции и большим количеством рабочих мест.
Но хорошие новости на этом не заканчиваются. Мы также получаем более высокую заработную плату. Это связано с тем, что на уровне отдельного работника рынок устанавливает компенсацию в зависимости от предельной производительности работника. Работник в высокотехнологичном бизнесе станет более продуктивным, чем работник в традиционном бизнесе. Либо работодатель будет платить этому работнику больше денег, поскольку он стал более производительным, либо другой работодатель, исключительно из личных интересов. В результате технология, внедряемая в отрасль, как правило, не только увеличивает количество рабочих мест в отрасли, но и повышает заработную плату.
Подводя итог, можно сказать, что технологии позволяют людям работать более продуктивно. Это приводит к падению цен на существующие товары и услуги и повышению заработной платы. Это, в свою очередь, вызывает экономический рост и рост числа рабочих мест, а также стимулирует создание новых отраслей. Если позволить рыночной экономике нормально функционировать, а технологиям — свободно внедряться, это будет вечный восходящий цикл, который никогда не закончится. Ибо, как заметил Милтон Фридман, «человеческие желания и потребности безграничны» — мы всегда хотим больше, чем имеем. Рыночная экономика, наполненная технологиями, — это способ приблизиться к тому, чтобы предоставить всё, чего каждый мог бы желать, но не до конца. И именно поэтому технологии не уничтожают рабочие места и никогда не уничтожат.
Это настолько потрясающие идеи для людей, которые с ними не сталкивались, что вам может потребоваться некоторое время, чтобы обдумать их. Но клянусь, я их не выдумываю — на самом деле вы можете прочитать о них всё в стандартных учебниках по экономике. Я рекомендую главу «Проклятие машин» в книге Генри Хэзлитта «Экономика за один урок» и сатирическую «Петицию свечника» Фредерика Бастиа о том, чтобы затмить солнце из-за его несправедливой конкуренции с осветительной промышленностью, модернизированной для нашего времени.
Но на этот раз всё по-другому можете подумать вы. На этот раз с искусственным интеллектом у нас появляется технология, способная заменить ВЕСЬ человеческий труд.
Но, используя описанные выше принципы, подумайте о том, что будет означать замена буквально всего существующего человеческого труда машинами.
Это дало бы такой взлёт темпов роста экономической производительности, который запустил бы нас в стратосферу, намного дальше, чем в любых исторических прецедентах. Цены на существующие товары и услуги упадут практически до нуля. Благосостояние потребителей взлетит до небес. Покупательная способность потребителей резко возрастёт. Спрос в экономике взорвётся. Предприниматели будут создавать головокружительное множество новых отраслей, продуктов и услуг и как можно быстрее нанимать как можно больше людей и ИИ, чтобы удовлетворить этот новый спрос.
Предположим, ИИ снова заменит этот труд? Цикл будет повторяться, повышая благосостояние потребителей, экономический рост, а также рост рабочих мест и заработной платы. Это была бы прямая спираль, ведущая к материальной утопии, о которой ни Адам Смит, ни Карл Маркс, и мечтать не смели.
Нам должно повезти.
Угроза №4: Приведет ли ИИ к катастрофическому неравенству?
Говоря о Карле Марксе, беспокойство по поводу того, что ИИ отберёт рабочие места, напрямую переходит в следующую заявленную угрозу. Допустим, это произошло. Не приведет ли это к огромному и пагубному имущественному неравенству, поскольку владельцы ИИ получат все экономические выгоды, а обычные люди ничего не получат?
Как оказалось, это было центральным утверждением марксизма, что владельцы средств производства — буржуазия — неизбежно украдут все общественное богатство у людей, которые выполняют реальную работу — пролетариата. Вот ещё одно заблуждение, которое так просто не умрёт, как бы часто оно ни опровергалось реальностью. Но давайте на всякий случай ещё раз воткнём осиновый кол ему в сердце.
Недостаток этой теории заключается в том, что, как владельцу технологии, вам нет интереса держать её на коротком поводке — напротив, в ваших интересах продавать её как можно большему количеству клиентов. Самый большой рынок в мире для любого продукта — это весь мир, все 8 миллиардов нас. И поэтому в действительности каждая новая технология — даже та, которая начинается с единичных продаж богатеньким «буратинам» — быстро распространяется, пока не окажется в руках максимально возможного массового рынка, в конечном счёте, каждого человека на планете.
Классическим примером этого был так называемый «секретный план» Илона Маска — который он, естественно, открыто опубликовал — для Tesla в 2006 году:
Шаг 1. Создать [дорогую] спортивную машину.
Шаг 2. Использовать заработанные деньги, чтобы создать доступный автомобиль.
Шаг 3. Использовать вновь заработанные деньги, чтобы создать ещё более доступный автомобиль.
Шаг 4. Выполняя вышеуказанные действия, также предоставить варианты выработки электроэнергии с нулевым уровнем выбросов.
..никому не рассказывать.
…что, конечно же, он и сделал, став в результате самым богатым человеком в мире.
Третий пункт является ключевым. Стал бы Илон ещё богаче, если бы сегодня продавал машины только богатым людям? Нет. Был бы он еще богаче, если бы делал машины только для себя? Конечно, нет. Нет, он максимизирует собственную прибыль, продавая на самом большом рынке, на мировом.
Короче говоря, каждый получает своё — как мы видели в прошлом не только с автомобилями, но и с электричеством, радио, компьютерами, Интернетом, мобильными телефонами и поисковыми системами. Создатели таких технологий очень заинтересованы в снижении цен до тех пор, пока каждый на планете не сможет их себе позволить. Это именно то, что уже происходит в области искусственного интеллекта — именно поэтому, сегодня вы можете использовать современный генеративный ИИ не только дёшево, но и вообще бесплатно в виде Microsoft Bing и Google Bard — и это будет продолжаться. Не потому, что такие продавцы глупы или щедры, а именно потому, что они жадны — они хотят максимизировать размер своего рынка, что увеличит их прибыль.
То, что происходит, является противоположностью технологии, приводящей к централизации богатства: отдельные потребители технологии, в конечном итоге включая всех на планете, вместо этого получают больше возможностей и получают большую часть созданной стоимости. Как и в случае с предыдущими технологиями, компании, создающие ИИ — при условии, что они должны функционировать на свободном рынке будут яростно конкурировать, чтобы это произошло.
Маркс ошибался тогда, ошибается и сейчас.
Это не означает, что неравенство не является проблемой в нашем обществе. В этом виноваты не новые технологии, а наоборот, наиболее консервативные сектора экономики, в которые больше всего вмешиваются государства, чтобы предотвратить их внедрение. Таких как ИИ, в частности. Это обеспечение жильём, образование и здравоохранение. Фактическая угроза влияния искусственного интеллекта на неравенство заключается не в том, что он приведёт к ещё большему неравенству, а скорее в том, что никто не позволит использовать его для уменьшения этого самого неравенства.
Угроза № 5: Приведет ли ИИ к тому, что плохие люди будут делать плохие вещи?
До сих пор я объяснял, почему четыре из пяти наиболее часто предполагаемых угроз на самом деле не реальны: он не оживёт и не станет нас уничтожать, он не разрушит наше общество, не вызовет массовую безработицу и не приведёт к губительному росту неравенства. Теперь давайте обратимся к пятому, с которым я действительно согласен: ИИ облегчит плохим людям совершать плохие поступки.
В некотором смысле это тавтология. Технология — это инструмент. Инструменты, начиная с огня и камней, можно использовать для хороших дел — готовить еду и строить дома, и плохих — жечь людей и кидать в них камни. Любую технологию можно использовать во благо или во вред. Справедливо. А ИИ, без сомнения, облегчит преступникам, террористам и враждебным правительствам совершать плохие поступки.
Это заставляет некоторых людей предлагать такое: «ну, в таком случае, давайте не будем рисковать, давайте запретим ИИ сейчас, пока это не произошло». К сожалению, ИИ — это не какой-то эзотерический физический материал, который трудно достать, такой как плутоний. Наоборот, это самый простой материал в мире — математика и код.
Кот с искусственным интеллектом, очевидно, уже вылез из мешка. Вы можете узнать, как создавать ИИ, из тысяч бесплатных онлайн-курсов, книг, статей и видео, и уже есть выдающиеся реализации с открытым исходным кодом. Искусственный интеллект как воздух будет везде. Уровень тоталитарного угнетения, который потребуется для ареста, будет драконовским — мировое правительство, отслеживающее и контролирующее все компьютеры? Головорезы в армейских ботинках на чёрных вертолётах захватывают не поддающиеся контролю графические чипы?
Вместо этого есть два очень простых способа уменьшить риск того, что редиски совершат плохие поступки с помощью ИИ, и именно на них мы должны сосредоточиться.
Во-первых, у нас есть официальные законы, криминализирующие большинство таких вещей, которые кто-либо собирается делать с помощью ИИ. Взломать Пентагон? Это преступление. Украсть деньги из банка? Это преступление. Создать биологическое оружие? Это преступление. Совершить теракт? Это преступление. Мы можем просто сосредоточиться на предотвращении этих преступлений, когда можем, и на судебном преследовании их, когда не можем. Нам даже не нужны новые законы — я не знаю ни одного фактического плохого использования ИИ, которое было бы предложено, и которое еще не было бы незаконным. И если обнаруживается новое направление неправомерного использования, мы его просто запрещаем, что и требовалось доказать.
Но вы можете заметить, что я говорил о том, что мы должны сначала сосредоточиться на предотвращении преступлений с помощью ИИ, прежде чем они произойдут — разве такое предотвращение не будет означать запрет ИИ? Что ж, есть ещё один способ предотвратить такие действия — использовать ИИ в качестве защитного инструмента. Те же возможности, которые делают ИИ опасным в руках плохих парней, делают его мощным оружием в руках хороших парней — особенно хороших парней, чья работа заключается в предотвращении плохих вещей.
Например, если вы беспокоитесь о том, что ИИ будет генерировать поддельных людей и поддельные видео, ответом будет создание новых биометрических систем, в которых люди смогут проверять себя, а реальный контент с помощью криптографических подписей. Цифровое создание и изменение как реального, так и поддельного контента уже существовало до появления ИИ; ответ не в том, чтобы запретить текстовые редакторы и Photoshop или ИИ, а в том, чтобы использовать технологии для создания системы, которая действительно решает проблему.
Итак, во-вторых, давайте приложим все усилия, чтобы использовать ИИ в хороших, законных, оборонительных целях. Давайте задействуем ИИ в киберзащите, биологической защите, охоте на террористов и во всем остальном, что мы делаем, чтобы обеспечить безопасность самих себя, наших сообществ и наших стран.
Конечно, многие умные люди в правительстве и за его пределами делают именно это, но если мы приложим все усилия и умственные способности, которые в настоящее время сосредоточены на тщетной перспективе запрета ИИ, на использование ИИ для защиты от плохих людей, я думаю, нет сомнений, что мир, наполненный таким искусственным интеллектом, будет намного безопаснее, чем мир, в котором мы живем сегодня.
Реальный риск отбросить опасения и ограничения на ИИ
Есть ещё один последний и реальный риск ИИ, который, вероятно, страшнее всех:
ИИ разрабатывается не только в относительно свободных обществах Запада, но и Коммунистической партией Китайской Народной Республики.
У Китая совершенно иное видение ИИ, чем у нас — они рассматривают его как механизм авторитарного контроля над населением, и точка. Они даже не скрывают это, они очень чётко об этом говорят и уже преследуют свои цели. И они не намерены ограничивать свою стратегию только Китаем. Они намерены распространять её по всему миру, везде, где они поддерживают сети 5G, везде, где они одалживают деньги по своей инициативе «один пояс, один путь», везде, где они предоставляют дружественные потребительские приложения, такие как Tiktok, которые служат в качестве внешнего интерфейса для их централизованного управления и контроля ИИ.
Единственный самый большой риск ИИ заключается в том, что Китай завоюет глобальное господство ИИ, а мы — Соединенные Штаты и Запад — нет.
Я предлагаю простую стратегию того, что с этим делать — фактически ту же стратегию, которую использовал президент Рональд Рейган, чтобы выиграть первую холодную войну с Советским Союзом.
«Мы выигрываем, они проигрывают».
Вместо того, чтобы позволять цвести необоснованной истерии вокруг надуманных угроз распространения искусственного интеллекта, мы в Соединенных Штатах и на Западе должны опираться на ИИ настолько сильно, насколько это вообще возможно.
Мы должны стремиться выиграть гонку за глобальное технологическое превосходство в области искусственного интеллекта и сделать так, чтобы Китай этого не сделал раньше нас.
В процессе мы должны внедрять ИИ в нашу экономику и общество настолько быстро и активно, насколько это возможно, чтобы максимизировать его выгоды для экономической производительности и человеческого потенциала.
Это лучший способ как компенсировать реальные риски ИИ, так и гарантировать, что наш образ жизни не будет вытеснен гораздо более мрачным китайским видением.
Что для этого надо сделать?
Предлагаю простой план:
— Крупным ИИ-компаниям должно быть позволено, создавать ИИ так быстро и агрессивно, как они только могут, при этом нужно избежать захвата ими полного контроля. Нельзя допустить создания картеля под эгидой правительства, изолированного от рыночной конкуренции из-за ошибочных заявлений об угрозах. Это максимизирует технологическую и общественную отдачу от удивительных возможностей этих компаний, которые являются жемчужинами современного капитализма.
— Стартапам должно быть позволено, создавать ИИ так быстро и агрессивно, как они только могут. Они не должны ни противостоять предоставленной государством защите крупных компаний, ни получать государственную помощь. Их нужно просто допустить к соревнованиям. Если стартапы терпят неудачу, их присутствие на рынке также будет постоянно мотивировать крупные компании быть лучшими — наша экономика и общество выиграют от этого в любом случае.
— ИИ с открытым исходным кодом должен иметь возможность свободно распространяться и конкурировать как с крупными ИИ-компаниями, так и со стартапами. Не должно быть никаких нормативных барьеров для открытого исходного кода. Даже когда открытый исходный код не превосходит проприетарный, его широкая доступность является благом для студентов во всем мире, которые хотят научиться создавать и использовать ИИ, чтобы стать частью технологического будущего, и гарантируют, что ИИ будет доступен для всех, кто может извлечь из этого пользу независимо от того, кто они и сколько у них денег.
— Чтобы компенсировать риск того, что плохие парни будут делать плохие штуки с помощью ИИ, правительства, работающие в партнерстве с частным сектором, должны активно участвовать в каждой области потенциального риска, чтобы использовать ИИ для максимизации защитных возможностей общества. Это не должно ограничиваться рисками, связанными с искусственным интеллектом, но также применяться к более общим проблемам, таким как голод, болезни и климат. ИИ может быть невероятно мощным инструментом для решения проблем, и мы должны использовать его по максимуму.
— Чтобы предотвратить риск того, что Китай достигнет глобального господства ИИ, мы должны использовать всю мощь нашего частного сектора, нашего научного истеблишмента и наших правительств совместно, чтобы привести американский и западный ИИ к абсолютному глобальному господству, в том числе, в конечном счете, внутри самого Китая. Мы выигрываем, они проигрывают.
Именно так мы используем ИИ, чтобы спасти мир.
Пора строить.
Легенды и герои
Я заканчиваю двумя простыми утверждениями.
Развитие ИИ началось в 1940-х годах, одновременно с изобретением компьютера. Первая научная статья о нейронных сетях — архитектуре ИИ, которую мы имеем сегодня — была опубликована в 1943 году. Целые поколения учёных за последние 80 лет родились, учились, работали и во многих случаях ушли из жизни, так и не увидев отдачи, которую мы получаем сейчас. Они легенды, все до одного.
Сегодня множащиеся легионы инженеров, большинство которых молоды и, возможно, их бабушки и дедушки или даже прадедушки участвовали в создании идей, лежащих в основе ИИ, работают над тем, чтобы сделать ИИ реальностью, преодолевая стену, возведённую паникёрами, которые пытаются изобразить их безрассудными злодеями. Я не считаю их безрассудными или злодеями. Они герои, каждый. Моя фирма и я очень рады поддержать как можно большее их количество, и мы будем поддерживать их и их работу на 100%.
