В свое время Хуанг сделал ставку на новый вид чипов и поменял вектор развития компании. Теперь, когда Nvidia стала одной из крупнейших компаний в мире, что он будет делать дальше?
Местами вольный перевод текста о Джесене Хуанге, опубликованном в журнале New Yorker.
Появление новостей о том, что ChatGPT был обучен на суперкомпьютере Nvidia, привело к одному из крупнейших взлетов цены на акции за один день в истории фондового рынка. На момент открытия биржи Nasdaq 25 мая 2023 года капитализация Nvidia выросла примерно на двести миллиардов долларов. Несколькими месяцами ранее Дженсен Хуанг, исполнительный директор Nvidia, сообщил инвесторам, что Nvidia продала похожие суперкомпьютеры пятидесяти из ста крупнейших компаний Америки.
К концу торговой сессии Nvidia занимала шестое место среди самых дорогих корпораций планеты и стоила больше, чем Walmart и ExxonMobil вместе взятые. Положение Хуанга в бизнесе можно сравнить с положением Сэмюэля Брэннана, знаменитого торговца оборудованием для добычи золота в Сан-Франциско в конце сороковых годов девятнадцатого века. "В сфере ИИ идет война, и Nvidia - единственный торговец оружием", - сказал один из аналитиков с Уолл-стрит.
Хуанг - терпеливый монополист. В 1993 году в ресторане Denny's в Сан-Хосе он вместе с двумя другими людьми подписал документы для создания компании Nvidia и с тех пор руководит ею. В свои шестьдесят лет он саркастичен и самокритичен, и похож на медвежонка и седыми волосами. Основной продукт Nvidia - графические процессоры. Сначала Nvidia продавала эти графические процессоры геймерам, но в 2006 году Хуанг начал продавать их и специалистам по суперкомпьютерам.
Затем, в 2013 году, опираясь на многообещающие исследования научного сообщества, Хуанг сделал ставку на будущее Nvidia в области искусственного интеллекта. ИИ разочаровывал инвесторов на протяжении десятилетий, и Брайан Катанзаро, ведущий исследователь Nvidia в области deep-learning, в то время сомневался. «Я не хотел, чтобы он попал в ту же ловушку, в которую попала индустрия искусственного интеллекта в прошлом», - сказал мне Катанзаро. «Но спустя десять лет он оказался прав»
По прогнозам аналитиков, в ближайшем будущем искусственный интеллект будет создавать фильмы, обучать детей и учить автомобили самостоятельно водить. Все эти достижения будут реализованы при помощи графических процессоров Nvidia, а доля Хуанга в компании сейчас стоит более сорока миллиардов долларов.
В сентябре я встретился с Хуангом за завтраком в ресторане Denny's, где была основана компания Nvidia. (Генеральный директор Denny's вручал ему памятную табличку, и там присутствовала съемочная команда одного из телеканалов). Хуанг постоянно придерживается полукомичного стиля общения. Болтая с официанткой, он заказал несколько блюд, включая сэндвич «Super Bird» и жареный стейк с курицей. «Знаете, раньше я работал здесь посудомойщиком», - сказал он ей. «Но я много работал! Очень много. Поэтому я стал официантом».
Хуанг обладает прагматичным складом ума, не любит спекуляции и никогда не читал научно-фантастических романов. Он рассуждает, исходя из основных принципов, о том, что микрочипы могут делать сегодня, а затем с большой убежденностью делает ставку на то, что они будут делать завтра. «Я делаю все возможное, чтобы не выйти из бизнеса», - сказал он за завтраком. «Я делаю все возможное, чтобы не провалиться». Хуанг считает, что базовая архитектура цифровых вычислений, мало изменившаяся с тех пор, как она была представлена компанией IBM в шестидесятых, сейчас переосмысливается. «Deep learning - это не алгоритм», - сказал он недавно. «Deep learning - это метод. Это новый способ разработки программного обеспечения».
Вечером, накануне нашего завтрака, я смотрел видео, в котором робот, управляемый этим новым видом ПО, смотрел на свои руки, казалось, узнавая их, а затем сортировал коллекцию цветных кубиков. От этого видео у меня по коже побежали мурашки; казалось, что конец человечества близок. Хуанг, скатывающий пальцами блинчик в колбаску, отмахнулся от моих опасений. «Я знаю, как это работает, так что здесь нет ничего особенного», - сказал он. «Это ничем не отличается от работы микроволн». Я настаивал на том, что автономный робот, безусловно, представляет собой угрозу, которой нет у микроволновки. Он ответил, что никогда не беспокоился об этой технологии, ни разу. «Все, что он делает, - это обрабатывает данные», - сказал он. «Есть много других вещей, о которых стоит переживать».
В мае сотни лидеров индустрии подписали петицию, в которой риск распространения искусственного интеллекта приравнивался к риску ядерной войны. Хуанг не стал ее подписывать. Некоторые экономисты отмечают, что промышленная революция привела к относительному сокращению глобальной популяции лошадей, и задаются вопросом, не может ли ИИ сделать то же самое с людьми. «У лошадей ограниченные возможности для карьерного роста», - говорит Хуанг. «Например, лошади не умеют печатать».
Пока он заканчивал есть, я высказал свои опасения, что когда-нибудь в скором времени я загружу свои записи из нашего разговора в ИИ-сервис, а затем буду наблюдать, как он создает структурированную, превосходную прозу. Хуанг не отверг такую возможность, но заверил меня, что до момента, когда я стану Джоном Генри, пройдет еще несколько лет. «Сначала это произойдет с писателями-фантастами» - сказал он. Затем он дал официантке тысячу долларов и встал, чтобы получить свою награду.
Хуанг родился на Тайване в 1963 году, но когда ему было девять лет, его и старшего брата отправили в США без сопровождения взрослых. Они приземлились в Такоме, штат Вашингтон, чтобы жить у дяди, а затем их отправили в баптистский институт Онейда в Кентукки, который дядя Хуанга считал престижным образовательным учреждением. На самом деле это была религиозная реформаторская академия. Хуанга поселили с семнадцатилетним соседом по комнате.
В первую ночь его сосед поднял свою рубашку, чтобы показать Хуангу многочисленные места, куда его ударили ножом во время драк. «Все ученики курили, и, кажется, я был единственным мальчиком в школе без ножа», - сказал мне Хуанг. Его сосед по комнате был неграмотным; по словам Хуанга, в обмен на то, что он научил его читать, «он научил меня отжиматься от скамьи. В итоге каждый вечер перед сном я отжимался по сто раз».
Хотя Хуанг жил в академии, он был слишком юн, чтобы посещать занятия, поэтому ходил в близлежащую государственную школу. Там он подружился с Беном Бэйсом, который жил со своими пятью братьями и сестрами в старом доме без водопровода. «Большинство детей в школе были детьми табачных фермеров, - говорит Бэйс, - или просто бедняками, живущими в глуши». Хуанг приехал, когда учебный год уже начался, и Бэйс помнит, как директор представил ему низкорослого азиатского иммигранта с длинными волосами и сильным акцентом. «Он был идеальной мишенью», - говорит Бэйс.
Над Хуангом часто издевались. «В те времена китайцев называли "китаезами"», - сказал мне Хуанг без видимых эмоций. «Нас так называли каждый день». Чтобы попасть в школу, Хуангу приходилось переходить по ветхому пешеходному мосту через реку, который был собран из старых досок, большинство из которых отсутствовали. Иногда, когда Хуанг переходил мост, местные мальчишки хватались за веревки и пытались его сбросить. «Почему-то это никогда его не задевало», - говорит Бэйс. «Он просто отряхивался и шел дальше». К концу учебного года, сказал мне Бэйс, Хуанг уже вместе с этими детьми играть в лес. Бэйс вспоминает, как осторожно Хуанг обходил отсутствующие доски. «На самом деле все выглядело так, будто ему весело», - сказал он.
Хуанг считает, что время, проведенное в Онейде, помогло ему обрести стойкость. «Тогда не было человека, с которым можно было бы поговорить», - сказал он мне. «Нужно было просто смириться и жить дальше». В 2019 году он подарил школе здание и с любовью рассказывал о пешеходном мосте (теперь его нет), не упоминая о хулиганах, которые пытались сбросить его с него.
Через несколько лет родители Хуанга получили разрешение на въезд в США и поселились в Орегоне, а братья снова воссоединились с ними. Хуанг отлично учился в средней школе и занимал первое место в национальном чемпионате по настольному теннису. Он состоял в школьных математическом, компьютерном и научном клубах, перешагнул сразу через два класса и окончил школу в шестнадцать лет. «У меня не было девушки», - говорит он.
Хуанг поступил в Орегонский государственный университет, где изучал электротехнику. Его напарницей по лабораторным занятиям на вводных курсах была Лори Миллс, студентка с вьющимися каштановыми волосами. «На электротехническом факультете было около двухсот пятидесяти ребят и, может быть, три девушки», - сказал мне Хуанг. Между студентами мужского пола разгорелась борьба за внимание Миллс, и Хуанг почувствовал, что оказался в невыгодном положении. «Я был самым младшим в группе», - сказал он. «На вид мне было лет двенадцать».
Каждые выходные Хуанг звонил Миллс и уговаривал ее сделать с ней домашнее задание. «Я пытался произвести на нее впечатление - не своей внешностью, конечно, а тем, что могу сделать домашку», - говорит он. Миллс согласилась, и после шести месяцев совместного выполнения домашнего задания Хуанг набрался смелости и пригласил ее на свидание. Она приняла и это предложение.
После окончания университета Хуанг и Миллс нашли работу в Кремниевой долине в качестве конструкторов микрочипов. («На самом деле она зарабатывала больше меня», - говорит Хуанг.) Они поженились, и через несколько лет Миллс ушла с работы, чтобы воспитывать детей. К тому времени Хуанг уже руководил подразделением, а по ночам учился в аспирантуре Стэнфорда. Он основал Nvidia в 1993 году вместе с Крисом Малаховски и Кертисом Примом, двумя ветеранами-разработчиками микрочипов. Хотя Хуанг, которому тогда было тридцать лет, был моложе Малаховски и Прима, оба почувствовали, что он готов стать исполнительным директором. «Он быстро учился» - говорит Малаховски.
Малаховски и Прим хотели разработать графический чип, который, как они надеялись, заставит конкурентов, по словам Прима, «позеленеть от зависти». Они назвали свою компанию NVision, пока не узнали, что такое название носит производитель туалетной бумаги. Хуанг предложил Nvidia, отталкиваясь от латинского слова invidia, означающего «зависть». Он выбрал ресторан Denny's в качестве места для создания бизнеса, потому что там было тише, чем дома, и был дешевый кофе, а также из-за своего опыта работы в сети ресторанов в Орегоне в восьмидесятых. «Я понял, что лучше всего соображаю, когда нахожусь в трудной ситуации», - говорит Хуанг. «Мой пульс снижается. Любой, кто сталкивался с часом пик в ресторане, понимает, о чем я говорю».
Хуангу нравились видеоигры, и он подумал, что существует рынок более совершенных графических чипов. Вместо того чтобы рисовать пиксели вручную, художники начали собирать трехмерные полигоны из фигур, известных как «примитивы», что экономило время и силы, но требовало новых чипов. В примитивах конкурентов Nvidia использовались треугольники, но Хуанг и его сооснователи решили вместо них использовать четырехугольники. Это была ошибка, которая едва не погубила компанию: вскоре после выпуска первого продукта Nvidia компания Microsoft объявила, что ее графическое программное обеспечение будет поддерживать только треугольники.
Оставшись без денег, Хуанг решил, что его единственная надежда - использовать традиционный треугольный подход и попытаться опередить конкурентов на рынке. В 1996 году он уволил более половины из ста человек, работавших в Nvidia, а затем потратил оставшиеся средства компании на производство непроверенных микрочипов, в работоспособности которых он не был уверен. «Ставка была пятьдесят на пятьдесят», - сказал мне Хуанг.
Когда продукт, известный как Riva 128, поступил в продажу, у Nvidia было достаточно денег, чтобы выплатить зарплату только за один месяц. Но авантюра оправдала себя, и за четыре месяца Nvidia продала миллион Riva. Хуанг вдохновлял своих сотрудников на продолжение работы над продуктами с чувством отчаяния, и на протяжении многих лет он начинал презентации для сотрудников словами: «Наша компания находится в тридцати днях от того, чтобы разориться». Эта фраза до сих пор остается неофициальным корпоративным девизом.
В центре штаб-квартиры Nvidia в Санта-Кларе находятся два огромных здания, каждое из которых имеет форму треугольника с обрезанными углами. Эта форма в миниатюре повторяется во всех интерьерах здания, от диванов и ковров до защитных брызговиков в писсуарах. «Космические корабли» Nvidia, как сотрудники называют эти два здания, просторны и наполнены светом, но жутковаты и, в основном, пусты; после ковида в здесь появляется лишь треть сотрудников. Демографический состав сотрудников «разнообразен», вроде как... Этот вывод я сделал, основываясь на визуальном изучении кафетерия во время обеда, что примерно треть персонала - выходцы из Южной Азии, треть - из Восточной Азии и треть - белые. Сотрудники в подавляющем большинстве - мужчины.
Еще до взлета цен на акции компании, по результатам опросов сотрудников, Nvidia была признана одним из лучших работодателей в Америке. В каждом здании есть бар, где регулярно проводятся счастливые часы, а сотрудников поощряют относиться к своим офисам как к гибким пространствам, в которых можно есть, писать код и общаться. Тем не менее, интерьеры зданий безупречны - Nvidia наблюдает за сотрудниками в течение дня с помощью видеокамер и искусственного интеллекта. Если сотрудник ест за столом для переговоров, искусственный интеллект может в течение часа прислать уборщика, чтобы навести порядок. В ресторане Denny's Хуанг сказал мне, что стоит ожидать мир, в котором роботы отойдут на второй план, подобно бытовой технике. «В будущем все, что движется, будет автономным», - сказал он.
Единственные, кого я видел в Nvidia, кто не выглядел счастливым, были специалисты по контролю качества. В лабораториях без окон бледные молодые люди в берушах и футболках проверяли микрочипы Nvidia на предмет неисправностей. Шум стоял невыносимый, постоянный вой вентиляторов, пытающихся охладить перегретые кремниевые микросхемы. Именно эти чипы сделали возможной революцию в области искусственного интеллекта.
В стандартной компьютерной архитектуре большую часть работы выполняет микрочип, известный как «центральный процессор». Программисты пишут код, и эти программы передают математические задачи в CPU, который выдает по одному решению за раз. На протяжении десятилетий основным производителем центральных процессоров была компания Intel, и она неоднократно пыталась вытеснить Nvidia. «Я не собираюсь приближаться к Intel», - сказал мне Хуанг, описывая их отношения в стиле «Тома и Джерри». «Всякий раз, когда они приближаются к нам, я беру свои чипы и убегаю».
Nvidia выбрала альтернативный подход. В 1999 году, вскоре после выхода на биржу, компания представила видеокарту GeForce, которую Дэн Виволи, глава отдела маркетинга компании, назвал «графическим процессором». («Мы изобрели эту категорию, чтобы стать в ней лидером», - сказал Виволи.) В отличие от универсальных CPU, GPU разбивает сложные математические задачи на небольшие вычисления, а затем обрабатывает их все сразу, используя метод, известный как параллельные вычисления. CPU функционирует как курьерский грузовик, доставляющий по одной посылке за раз; GPU. больше похож на парк мотоциклов, разбросанных по городу.
Линейка GeForce имела успех. Ее популярность была обусловлена серией видеоигр Quake, в которых параллельные вычисления использовались для визуализации монстров, в которых игроки могли стрелять из гранатомета. (Quake II вышла, когда я учился на первом курсе колледжа, и стоила мне нескольких лет жизни). В серии Quake также был режим deathmatch для многопользовательских боев, и ПК-геймеры, желая получить преимущество, покупали новые карты GeForce при каждом обновлении. В 2000 году Ян Бак, аспирант, изучающий компьютерную графику в Стэнфорде, соединил тридцать две карты GeForce, чтобы играть в Quake с помощью восьми проекторов. «Это была первый игровой сетап, который работал в разрешении 8K, и он занимал целую стену», - сказал мне Бак, - «Это было прекрасно».
Бак задумался, не пригодятся ли карты GeForce для других задач, кроме запуска виртуальных гранат в его друзей. Карты поставлялись с примитивным инструментом программирования под названием шейдер. Получив грант от Darpa, исследовательского подразделения Министерства обороны, Бак взломал шейдеры, чтобы получить доступ к схемам параллельных вычислений и превратил GeForce в малобюджетный суперкомпьютер. Вскоре Бак уже работал на Хуанга.
С 2004 года Бак курировал разработку пакета программного обеспечения для супервычислений Nvidia, известного как Cuda. По замыслу Хуанга, Cuda должна была работать на каждой видеокарте GeForce. «Мы демократизировали супервычисления», - говорит Хуанг.
Пока Бак разрабатывал программное обеспечение, команда разработчиков аппаратного обеспечения Nvidia начала выделять место на микрочипах для суперкомпьютерных операций. Чипы содержали миллиарды электронных транзисторов, которые проводили электричество по лабиринтам схем, чтобы завершить вычисления с необычайной скоростью. Арджун Прабху, ведущий инженер Nvidia, сравнил дизайн микрочипов с градостроительством: разные зоны чипа отводятся под разные задачи. Как игроки в «Тетрис» видят падающие блоки, так и Прабху иногда видит транзисторы во сне. «У меня часто бывало так, что лучшие идеи приходили в пятницу вечером, когда они мне буквально снились», - говорит Прабху.
Когда в конце 2006 года была выпущена Cuda, Уолл-стрит отреагировала с тревогой. Хуанг нес суперкомпьютеры в массы, но массы не показывали никаких признаков того, что им это нужно. «Они тратили целое состояние на эту новую архитектуру чипов», - говорит Бен Гилберт, соведущий популярного подкаста Acquired. «Они тратили миллиарды долларов, целясь в малоизвестный уголок академических и научных вычислений, который в то время не был большим рынком». Хуанг утверждал, что простое существование Cuda увеличит сектор суперкомпьютеров. Это мнение не нашло широкого отклика, и к концу 2008 года стоимость акций Nvidia упала на семьдесят процентов.
Рассказывая об этой ситуации, Хуанг рассказывает историю, как он навестил Тинг-Вая Чиу, профессора физики из Национального тайваньского университета, которое тогда придало Хуангу уверенности. Чиу, стремясь смоделировать эволюцию материи после Большого взрыва, построил самодельный суперкомпьютер в лаборатории, примыкающей к его кабинету. Придя в лабораторию, Хуанг уведел, что она захламлена коробками GeForce, а компьютер охлаждается колеблющимися настольными вентиляторами. «Дженсен - пророк, - сказал мне Чиу. «Он сделал возможной работу всей моей жизни».
Чиу был образцовым клиентом, но таких, как он, было немного. Отгрузки Cuda достигли пика в 2009 году, а затем снижались в течение трех лет. Члены совета директоров были обеспокоены тем, что низкая цена на акции Nvidia сделают ее мишенью для корпоративных рейдеров. «Мы сделали все, что могли, чтобы защитить компанию от акционера-активиста, который мог прийти и попытаться ее развалить», — рассказал мне Джим Гейтер, давний член совета директоров. Дон Хадсон, бывшая глава отдела маркетинга НФЛ, вошла в совет директоров в 2013 году. «Это была явно стагнирующая компания», — сказала она.
При разработке маркетинговой стратегии Cuda на рынок Nvidia стремилась найти самых разных клиентов, включая биржевых трейдеров, нефтедобытчиков и молекулярных биологов. В какой-то момент компания заключила соглашение с General Mills, чтобы смоделировать теплофизику приготовления замороженной пиццы. Одним из приложений, над которым Nvidia размышляла, был искусственный интеллект. Казалось, что для него нет особого рынка.
В начале 2010-х годов искусственный интеллект был заброшенной дисциплиной. Прогресс в решении базовых задач, таких как распознавание изображений и речи, был незначительным. В рамках этой непопулярной академической области еще менее популярная подобласть решала задачи с помощью «нейронных сетей» - вычислительных структур, вдохновленных человеческим мозгом. Многие ученые считали нейронные сети дискредитированными. «Мои консультанты отговаривали меня от работы над нейронными сетями, - сказал мне Катанзаро, deep-learning-исследователь, - потому что в то время они считались устаревшими и не работали».
Катанзаро назвал исследователей, которые продолжали работать над нейронными сетями, «пророками в пустыне». Одним из таких пророков был Джеффри Хинтон, профессор Университета Торонто. В 2009 году исследовательская группа Хинтона использовала платформу Cuda от Nvidia для обучения нейронной сети распознаванию человеческой речи. Он был удивлен качеством результатов, которые представил на конференции в том же году. После этого он обратился в Nvidia. «Я отправил письмо со словами: "Слушайте, я только что рассказал исследователям машинного обучения, что они должны пойти и купить карты Nvidia. Не могли бы вы прислать мне одну бесплатно?» - сказал мне Хинтон. «Они ответили отказом».
Несмотря на пренебрежение, Хинтон поощрял своих учеников использовать Сuda, в том числе своего протеже украинского происхождения по имени Алекс Крижевский, которого Хинтон считал, пожалуй, лучшим программистом, которого он когда-либо встречал. В 2012 году Крижевский и его партнер по исследованиям Илья Суцкевер, работая в условиях ограниченного бюджета, купили на Amazon две карты GeForce. Затем Крижевский начал обучение нейронной сети для распознавания изображений на платформе параллельных вычислений Nvidia, передавая ей миллионы изображений за одну неделю. «У него в спальне жужжали два GPU», — сказал Хинтон. «Оплата счетов за электричество влетела тогда его родителям в копеечку».
Суцкевер и Крижевский были поражены возможностями карт. Ранее в том же году исследователи из Google обучили нейронную сеть, которая распознавала видео с кошками, и для этого потребовалось около шестнадцати тысяч CPU. Суцкевер и Крижевский добились результатов мирового уровня, используя всего две видеокарты Nvidia. «Появились графические процессоры, и это было похоже на чудо», — сказал мне Суцкевер.
AlexNet, нейросеть, которую Крижевский обучил в доме своих родителей, теперь можно упомянуть наряду с полетом братьев Райт и лампочкой Эдисона. В 2012 году Крижевский представил AlexNet на конкурсе по визуальному распознаванию ImageNet; нейронные сети были настолько непопулярны в то время, что он был единственным участником, использовавшим такую технологию. AlexNet настолько хорошо показала себя на конкурсе, что организаторы поначалу задавались вопросом, не жульничал ли Крижевский. «Это был своего рода момент Большого взрыва», — сказал Хинтон. «Это была смена парадигмы».
За десятилетие, прошедшее с момента публикации девятистраничного описания архитектуры AlexNet, работу Крижевского процитировал более ста тысяч раз, что делает ее одной из самых важных работ в истории информатики. (Среди прочего, AlexNet правильно идентифицировал фотографии скутера, леопарда и контейнеровоза). Крижевский стал первопроходцем в ряде важных методов программирования, но его ключевым открытием стало то, что специализированный графический процессор может обучать нейронные сети в сто раз быстрее, чем универсальный графический процессор. «Заниматься машинным обучением без Cuda было бы слишком сложно», - говорит Хинтон.
Уже через пару лет нейросети использовались каждым участником конкурса ImageNet. К середине двадцатых годов нейросети, обученные на GPU, идентифицировали изображения с точностью 96%, превосходя человека. Десятилетний крестовый поход Хуанга за демократизацию суперкомпьютеров увенчался успехом. Тот факт, что они могут решать задачи компьютерного зрения, которые совершенно не структурированы, заставляет задаться вопросом: «Чему еще вы можете его научить?» - сказал мне Хуанг.
Ответ был лаконичным: всему. Хуанг пришел к выводу, что нейросети произведут революцию в обществе и что он сможет использовать Cuda, чтобы монополизировать рынок необходимого оборудования. Он объявил, что снова меняет вектор развития компании. «В пятницу вечером он разослал электронное письмо, в котором сообщил, что все силы будут направлены на deep learning и что мы больше не являемся графической компанией», — рассказал мне Грег Эстес, вице-президент Nvidia. «К утру понедельника мы уже были компанией, занимающейся искусственным интеллектом. В буквальном смысле это было очень быстро».
Примерно в то же время, когда Хуанг отправил электронное письмо, он обратился к Катандзаро, ведущему исследователю искусственного интеллекта Nvidia, с мысленным экспериментом. «Он посоветовал мне представить, что он вывел на парковку все восемь тысяч сотрудников Nvidia», — сказал Катандзаро. «Затем он сказал мне, что я могу выбрать любого человека со стоянки, чтобы он присоединился к моей команде».
Хуанг редко дает интервью и старается отвлечь внимание от себя. «Я не думаю, что сделал здесь что-то особенное», - сказал он мне. «В основном это моя команда». («Он незаменим», - сказал мне член совета директоров Джим Гейтер.) «Я не уверен, почему именно меня выбрали на пост исполнительного директора», - сказал Хуанг. «У меня не было никакого особого стремления». («Он был полон решимости управлять бизнесом к тридцати годам», - сказал мне соучредитель NVidia Крис Малаховски). «Я не очень хороший оратор, потому что я довольно интровертен», - сказал Хуанг. («Он отличный артист», - сказал мне его друг Бен Бэйс.).
Хуан предпочитает гибкую корпоративную структуру без фиксированных подразделений или иерархии. Вместо этого сотрудники еженедельно представляют список пяти наиболее важных дел, над которыми они работают. Краткость приветствуется, поскольку Хуанг просматривает эти электронные письма до поздней ночи. Прогуливаясь по огромному кампусу Nvidia, он часто останавливается у столов младших сотрудников и расспрашивает их о работе. Визит Хуана может превратить комнату в камеру для допросов. «Обычно в Кремниевой долине ложь о работе может сойти с рук», — сказал мне отраслевой аналитик Ханс Мозесманн. «Но с Дженсоном это не сработает. Он быстро выйдет из себя».
Хуанг общается со своими сотрудниками, отправляя сотни электронных писем в день, часто всего в несколько слов. Один руководитель сравнил электронные письма с хайку. Хуанг также разработал набор управленческих афоризмов, на которые он регулярно ссылается. При составлении графика Хуан просит сотрудников учитывать «скорость света». Это не означает просто действовать быстро; скорее, сотрудники должны учитывать абсолютную скорость, с которой задача может быть выполнена, а затем двигаться в обратном направлении к достижимой цели. Их также поощряют стремиться к zero-billion-dollar market. Это относится к исследовательским продуктам, таким как Cuda, у которых нет не только конкурентов, но даже очевидных клиентов. (Хуанг иногда напоминал мне персонажа Кевина Костнера из фильма «Поле чудес», который строит бейсбольную площадку посреди кукурузного поля в Айове, а затем ждет прибытия игроков и болельщиков.)
Возможно, самым радикальным убеждением Хуанга является то, что «неудача должна быть общей». В начале двухтысячных годов Nvidia поставила бракованную видеокарту с громким, чрезмерно активным вентилятором. Вместо того чтобы уволить менеджеров по продуктам этой карты, Хуанг организовал встречу, на которой менеджеры рассказали нескольким сотням человек все решения, которые они приняли и которые привели к фиаско. (Nvidia также разослала прессе сатирический видеоролик с участием менеджеров по продукту, в котором карта была переделана в воздуходувку для листьев). Презентация своих неудач перед аудиторией стало любимым ритуалом в Nvidia, но такие корпоративные сессии подходят не всем. «Сразу видно, кто здесь задержится, а кто нет», - говорит Диркс. «Если кто-то начинает оправдываться, я знаю, что у него ничего не получится».
Сотрудники Хуанга иногда жалуются на его переменчивый характер. «Все дело в том, что происходит в моей голове, а не в том, что я говорю», - сказал мне Хуанг. «Когда мысли расходятся со словами это выливается в гнев». Даже когда он спокоен, активность Хуанга может зашкаливать. «Общаться с ним - все равно что сунуть палец в розетку», - сказал один из сотрудников. Тем не менее, Nvidia отличается высокой степенью удержания сотрудников. Джефф Фишер, возглавляющий потребительское подразделение компании, был одним из первых сотрудников. Сейчас он очень богат, но продолжает работать. «Многие из нас на данный момент являются финансовыми волонтерами, - говорит Фишер, - но мы верим в миссию».
Оба ребенка Хуанга в двадцатилетнем возрасте работали в гостиничном бизнесе; после долгих лет отцовских уговоров они теперь работают в Nvidia. Катанзаро в свое время ушел в другую компанию. Через несколько лет он вернулся. «Дженсен - человек, с которым нелегко постоянно ладить», - говорит Катанзаро. «Иногда я боюсь Дженсена, но я также знаю, что он любит меня».
После успеха AlexNet венчурные капиталисты начали вкладывать деньги в ИИ. «Мы инвестируем во множество стартапов, применяющих deep learning во многих областях, и каждый из них эффективно работает на платформе Nvidia», - заявил в 2016 году Марк Андреессен из компании Andreessen Horowitz. Примерно в то же время Nvidia поставила свой первый специализированный суперкомпьютер DGX-1 для исследовательской группы OpenAI. Хуанг сам доставил компьютер в офис OpenAI; Илон Маск, тогдашний председатель совета директоров, вскрыл упаковку с помощью обычного канцелярского ножа.
В 2017 году исследователи из Google представили новую архитектуру для обучения нейронных сетей под названием «трансформер». В следующем году исследователи из OpenAI использовали фреймворк Google для создания первого «генеративного предварительно обученного трансформатора», или GPT. Модели GPT обучались на суперкомпьютерах Nvidia, поглощая огромный массив текстов и обучаясь создавать человекоподобные взаимосвязи. В конце 2022 года, после несколько внутренних релизов, ChatGPT был выпущен в открытый доступ.
С этого момента Nvidia была завалена запросами клиентов. Последний обучающий модуль компании, известный как DGX H100, представляет собой металлическую коробку весом в 160 килограммов, стоимость которой может достигать пятисот тысяч долларов. Сейчас срок поставки модуля достигает нескольких месяцев. DGX H100 работает в пять раз быстрее, чем оборудование, на котором обучался ChatGPT, и мог бы обучить AlexNet менее чем за минуту. По прогнозам Nvidia, к концу года будет продано полмиллиона таких устройств.
Чем больше вычислительная мощность нейросети, тем более сложным становится ее результат. Для самых продвинутых моделей искусственного интеллекта Nvidia продает целую стойку из десятков DGX H100. Если этого недостаточно, Nvidia расставляет эти компьютеры, как библиотечные шкафы, заполняя центр обработки данных суперкомпьютерным оборудованием стоимостью в десятки миллионов долларов. Очевидных пределов возможностей ИИ не существует. «Если вы позволите себе поверить, что искусственный нейрон похож на биологический, то вы как будто обучаете мозг», - сказал мне Суцкевер. «Они должны делать все то, что можем делать мы».
Поначалу я скептически отнесся к утверждению Суцкевера - я не научился определять кошек, просмотрев десять миллионов изображений, и не научился писать, отсканировав все произведения человечества. Но данные об ископаемых свидетельствуют о том, что нервная система впервые возникла несколько сотен миллионов лет назад и с тех пор становилась все более совершенной. «На Земле уже давно существует множество живых существ, которые многому научились», - говорит Катанзаро, - «и многое из этого записано в физических структурах вашего мозга».
Новейшие ИИ обладают способностями, которые удивляют даже их создателей, и никто до конца не знает, на что они способны. (GPT-4, преемник ChatGPT, может превратить набросок на салфетке в функционирующий сайт и набрал восемьдесят восьмой процент баллов на экзамене LSAT). В ближайшие несколько лет железо от Nvidia, будет обучать всевозможные подобные модели искусственного интеллекта. Некоторые из них будут управлять инвестиционными портфелями, другие - летать на дронах. Одни будут красть и воспроизводить вашу внешность, другие - подражать голосам мертвых. Кто-то будет служить мозгом для автономных роботов, кто-то - создавать генетически адаптированные лекарства. Кто-то будет писать музыку, кто-то - стихи. Если мы не будем осторожны, то когда-нибудь один из них превзойдет нас.
Валовая рентабельность оборудования Nvidia приближается к семидесяти процентам. Такое соотношение привлекает конкурентов так же, как кета привлекает акул. Google и Tesla уже разрабатывают свои решения для обучения ИИ, а также этим занимаются множество стартапов. Один из таких стартапов - Cerebras, который производит "мегачип" размером с обычную обеденную тарелку. "Они просто вымогают деньги у своих клиентов, и никто не говорит об этом вслух", - сказал о Nvidia генеральный директор Cerebras Эндрю Фельдман. (Хуанг возразил, что хорошо обученная модель ИИ может снизить накладные расходы клиентов в других сферах бизнеса. "Чем больше вы покупаете, тем больше вы экономите", - сказал он).
Самый яростный соперник Nvidia - компания Advanced Micro Devices. С 2014 года компанией AMD руководит Лиза Су, еще один талантливый инженер, в юном возрасте иммигрировавшая в США из Тайваня. За годы, прошедшие с тех пор, как Су возглавила компанию, цена акций AMD выросла в тридцать раз, что делает ее вторым после Хуанга самым успешным руководителем полупроводниковой компании в эту эпоху. Су также приходится Хуангу двоюродной сестрой по отцу.
Хуанг рассказал мне, что не знал Су в детстве; он познакомился с ней только после того, как ее назначили генеральным директором. «Она потрясающая», - сказал он. «Мы не особо конкурируем». (Сотрудники Nvidia могут по памяти назвать относительную долю рынка видеокарт Nvidia и AMD). У них разные характеры: Су сдержанна и стоична, а Хуанг вспыльчив и экспрессивен. «У нее отличный покер-фейс», - говорит Мозесманн, аналитик отрасли. «У Дженсена - нет, хотя он все равно найдет способ обыграть вас».
Су предпочитает держаться на хвосте у конкурента и ждать, пока тот не оступится. В отличие от Хуанга, она не боится конкурировать с Intel, и за последнее десятилетие AMD захватила значительную часть процессорного бизнеса Intel - подвиг, который аналитики когда-то считали невозможным. Недавно Су обратила свое внимание на рынок искусственного интеллекта. «Дженсен не хочет проигрывать. Он целеустремленный парень», - сказал Форрест Норрод, руководитель, курирующий работу AMD. «Но мы думаем, что сможем конкурировать с Nvidia».
С 2018 года в видеокартах Nvidia появилась функция трассировки лучей, которая моделирует отражение света от объектов для создания фотореалистичных эффектов. В треугольнике из матового стекла в конференц-центре Nvidia специалист по демонстрации продуктов показал мне трехмерную визуализацию японской лапшичной. Когда камера переходила от одной точки обзора к другой, свет отражался от металлического прилавка, а пар поднимался от бурлящей кастрюли с бульоном. Ничто не указывало на то, что это смоделированное изображение.
Затем специалист показал мне «Диану», гиперреалистичный цифровой аватар, говорящий на пяти языках. Мощный генеративный искусственный интеллект изучил миллионы видеозаписей людей, чтобы создать образ человека. Больше всего поразили недостатки - у Дианы были угри на носу и следы волос на верхней губе. Единственным признаком того, что Диана не была настоящим человеком, было жуткое мерцание в белках ее глаз. «Мы работаем над этим», - сказал специалист.
По замыслу Хуанга, исследования Nvidia в области компьютерной графики должны быть объединены с исследованиями в области генеративных ИИ. По его мнению, ИИ, генерирующий изображения, скоро станет настолько сложным, что сможет создавать трехмерные обитаемые миры и населять их реалистично выглядящими людьми. В то же время ИИ, обрабатывающие язык, смогут мгновенно интерпретировать голосовые команды. («Язык программирования будущего будет "человеческим", - заявил Хуанг.)
Когда эти технологии будут объединены с трассировкой лучей, пользователи смогут создавать целые вселенные. Хуанг надеется использовать таких «цифровых двойников» для безопасного обучения роботов и автономных автомобилей. В сочетании с технологией VR Omniverse также может позволить пользователям жить в реальности, созданной по индивидуальному заказу.
После демонстрации продукта у меня закружилась голова. Я думал о научной фантастике; я думал о Книге Бытия. Я сидел на треугольном диване и пытался представить себе будущее, в котором будет жить моя дочь. Руководители Nvidia строили «Манхэттенский проект» в области компьютерных наук, но когда я спросил их о создании сверхчеловеческого интеллекта, они посмотрели на меня так, словно я сомневался в полезности стиральной машины.
Я вслух поинтересовался, может ли искусственный интеллект когда-нибудь убить человека. «Эх, электричество убивает людей каждый год», - сказал Катанзаро. Я задался вопросом, может ли оно уничтожить искусство. «Оно сделает искусство лучше!» сказал Диркс. Я задался вопросом, сможет ли когда-нибудь искусственный интеллект осознать себя. «Чтобы быть существом, вы должны быть сознательными. У вас должно быть какое-то знание о себе, верно?». сказал Хуанг. «Я не знаю, где это может произойти».
