Слева направо: Грег Брокман и Илья Суцкевер. Фон — картины Суцкевера. @gdb
Илью Суцкевера не уволили, официально не отстранили, но на рабочем месте его не видели всю прошлую неделю. В других случаях это был бы типичный прогульщик, если бы речь шла не про главного научного сотрудника OpenAI.
Почему Суцкевер не ходит в офис? Пока что сказать тяжело. Зато сейчас легко предположить, почему уволили Сэма Альтмана. Для этого нужно размотать клубок OpenAI до самого основания компании.
Название OpenAI прочно вошло в медиаповестку: у компании одни из лучших на рынке генеративные нейросетевые модели GPT-3.5, GPT-4 и DALL·E-2. На деле единой OpenAI не существует. Продают подписки на ChatGPT Plus и определяют стратегию развития разные организации.
В декабре 2015 года Илон Маск и Сэм Альтман основали OpenAI — некоммерческую организацию (Nonprofit). В первые месяцы на openai.com висел лишь пресс-релиз. На простой веб-странице с минималистичным дизайном была заявлена цель: создать безопасный и полезный для человечества универсальный искусственный интеллект.
Среди сооснователей было много именитых учёных сферы ИИ. К примеру, главным научным сотрудником назначили одного из ведущих мировых экспертов по машинному обучению Илью Суцкевера, израильско-канадского специалиста, родившегося в СССР. На пост технического директора взяли Грега Брокмана, бывшего технического директора платёжной системы Stripe.
Проекты, которые OpenAI выпускала в эти ранние годы, не имеют прикладного применения и предназначены в первую очередь для других исследователей. Это тулкит для разработки и сравнения алгоритмов обучения с подкреплением Gym (апрель 2016) и платформа для тренировки сильного ИИ Universe (декабрь 2016).
Поначалу OpenAI была крошечной. Даже через год, в январе 2017, там работало всего 45 человек. (Сегодня в OpenAI трудится около 770 человек.) Google вливала без отдачи сотни миллионов долларов в год в подразделение DeepMind. Суммы трат OpenAI были на порядок меньше.
Уже в 2016 году понимали, что цена на топового разработчика в отрасли ИИ сравнима со стоимостью футболиста. Тем не менее считалось, что для поддержания OpenAI на плаву хватит щедрых пожертвований.
Глава Nvidia лично передаёт Маску DGX-1 на 170 ТФЛОПС, 2016 год. Nvidia
Как и в идее OpenAI, так и в названии уникального было мало. За почти два года до этого, в январе 2014, словацкий предприниматель Марек Роса открыл организацию похожей направленности и с подозрительно похожим именем GoodAI. Зато OpenAI отличалась размахом: планировалось собрать миллиард долларов.
От кого-то брали натурой: Nvidia подарила суперкомпьютер DGX-1, Amazon и Microsoft бесплатно давали вычислительные мощности в своих облаках. За несколько десятков миллионов долларов спонсор мог даже получить кресло в совете директоров компании. К примеру, исследовательский фонд Open Philantropy так купил место в правлении на 3 года за какие-то $30 млн. Постоянные же места в совете директоров имели Маск, Альтман, Брокман, Суцкер и несколько других ключевых специалистов.
За три года суммарно удалось наскрести лишь $130,5 млн. А ещё в 2018 году из совета директоров вышел Илон Маск. Tesla на тот момент начала плотнее работать над автопилотом, поэтому предпринимателю пришлось уйти из OpenAI, чтобы не возникло конфликта интересов.
Маск — один из ключевых спонсоров OpenAI. Анализ издания TechCrunch показывает, что Маск занёс как минимум $15 млн, хотя сам он называет числа в $50 млн или $100 млн. Публично Илон заявил, что будет продолжать давать OpenAI деньги, но обещание не сдержал.
Необходимость привлекать дорогие кадры и платить за вычислительные мощности никто не отменял. Поэтому в марте 2019 года OpenAI отчиталась о формировании коммерческого отделения OpenAI LP. На пост руководителя поставили Сэма Альтмана — на тот момент он уже ушёл с поста президента Y Combinator.
OpenAI
Так и родилось нагромождение различных контролирующих органов. Конструкция намеренно выстроена так, чтобы все рычаги влияния оставались у некоммерческого отделения Nonprofit и членов её совета директоров. Коммерческая «дочка» юридически обязана следовать миссии Nonprofit. Дополнительно прописано ограничение по прибыли для инвесторов и сотрудников. Все деньги сверх лимита (обговаривается индивидуально для каждого партнёра) возвращаются в распоряжение Nonprofit, чтобы пойти на благо всего человечества.
Даже крупные инвесторы имеют мало контроля над тем, во что вкладываются. В июле 2019 года OpenAI объявила о заключении партнёрства с Microsoft. Масштаб этого сотрудничества увеличился до многомиллиардного в начале 2023 года. При этом Microsoft так и остаётся лишь наблюдателем без права голоса в совете директоров.
А решения правление иногда принимает важные. Когда 17 ноября совет директоров сместил Альтмана, Microsoft приходилось довольствоваться публичными заявлениями, что партнёрство с OpenAI продолжается, несмотря ни на что. В это же время за кулисами Microsoft и другие инвесторы просили вернуть Сэма на место. Через несколько дней переговоров с участием Сатьи Наделлы, главы Microsoft, и угроз уйти от сотрудников OpenAI Альтман вернулся на свой пост.
Возвращение Альтмана произошло не без перестановок в совете директоров. Сэм представил временный состав правления, где фамилия Суцкевера отсутствовала. Илья — один из поддержавших увольнение Альтмана членов правления. Поговаривали даже, что он в этом решении играл центральную роль.
Почему Альтмана уволили? Детали конфликта не разглашаются, но информация просачивается:
- В июле этого года Суцкевер сформировал в OpenAI команду Superalignment, которая занималась вопросами управления будущими сверхсильными системами ИИ. Об этом главный научный сотрудник рассказывал, например, в интервью для MIT Technology Review. И это проблема: комментарии в СМИ Ильи лишь подливали масла в огонь нарратива об опасности искусственного интеллекта, что создавало риски для коммерческих интересов OpenAI.
В октябре объём должностных обязанностей Ильи в компании внезапно уменьшили, как указывает инсайдер издания Bloomberg, из-за трений с Альтманом и Брокманом.
За несколько дней до смещения главы OpenAI команда исследователей представила доклад о Q* — про потенциального кандидата на статус универсального искусственного интеллекта.
AGI (artificial general intelligence) — основной интерес OpenAI. Под этим термином компания понимает автономные системы, которые превосходят человека в основных экономически ценных задачах. OpenAI буквально основана ради того, чтобы создать AGI.
Возможно, что этим докладом Суцкевер и/или его приспешники хотели вернуть фокус OpenAI назад на свои исследования, а не извлечение доходов от ChatGPT. - Другой источник называет вторую причину произошедшего: Суцкевер и примкнувшие к нему члены правления опасались, что Альтман хочет собрать инвестиции за счёт имени OpenAI и изменить структуру организации.
Действительно, незадолго до этого Сэм пытался найти десятки миллиардов на компанию по производству микросхем-ускорителей для ИИ. План очевиден: оторвать кусок пирога, на котором Nvidia подняла свою капитализацию выше триллиона долларов. В поисках денег на этот проект Tigris Альтман много летал на Ближний Восток. - Наконец, дело не только в Суцкевере. Альтман конфликтовал с другими.
Сэм — далеко не сахар: его харатеризуют как человека манипулятивного. Рассказывают, что Сэм имеет привычку создавать нездоровые конфликты между сотрудниками. За негатив в фидбэке Альтман может отреагировать резко.
К примеру, Хелен Тонер, ещё один член правления, недавно написала в соавторстве научную статью про безопасность ИИ, где слегка критиковалась компания OpenAI. Альтман обвинил её во вреде для организации и инициировал её увольнение из совета директоров, подговаривая людей у неё за спиной, с ложью и манипуляциями. Что ещё хуже, подобное поведение — не исключение, а норма лучшего главного исполнительного директора за 2023 год по версии журнала Time.
После возвращения Сэма из правления убрали также и Хелен. Сама она отказывается пояснять, почему поддержала увольнение Альтмана.
Во внутренней переписке увольнение главы OpenAI Суцкевер охарактеризовал как корректные действия совета директоров, для которых и создавали некоммерческую организацию. От этих слов он отказался всего через несколько дней: после возвращения Сэма Илья раскаялся и извинился.
Офис OpenAI реагирует на новость о том, что старый глава восстановлен на своей должности. @gdb
В открытом письме Сэм объясняет, что зла не держит, но в совете директоров Суцкевер принимать участия больше не будет. Как писал 29 ноября глава OpenAI, на обсуждение поставлен вопрос, в каком виде главный научный сотрудник будет продолжать работать в компании.
По случаю возвращения Альтмана в OpenAI закатили вечеринку такой силы, что от генератора тумана сработала пожарная сигнализация, и под окнами офиса появились пожарные автомобили. В тот день Илья тоже испытывал, как он писал в твите, «невыразимую радость» от возвращения Альтмана, но на мероприятии почему-то отсутствовал.
Более того, Илья Суцкевер внезапно обзавёлся адвокатом. На запрос Business Insider, почему главный научный сотрудник OpenAI не пришёл отмечать возвращение главы компании, юрист Ильи сухо посоветовал не придавать этому никакого значения.
Прошлую рабочую неделю (с 4 декабря) Суцкевер в офисе OpenAI в Сан-Франциско не показывался, рассказали два источника Business Insider в компании. Никто не обрубал доступ Суцкевера к корпоративным системам: он всё так же доступен в Slack. Не было попыток стереть его присутствие: стены офиса украшают художества Ильи. Однако без какого-либо официального решения Суцкевер почему-то не ходит на работу.
Как говорит источник Business Insider, роль Суцкевера всегда была огромной, но со временем его обязанности разбирают остальные сотрудники. Второй источник утверждает, что для Ильи готовят новую должность, поскольку ему хотят подыскать другую роль в компании.
На положительные намерения может намекать фотография [размещена до ката] с подписью «❤️», которую выложил сооснователь OpenAI Грег Брокман. На снимке Брокман и Суцкевер улыбаются и обнимаются так, будто за два дня до этого Суцкевера не исключили публично из совета директоров OpenAI.
Впрочем, не всё так гладко. В прошлую среду, 6 декабря, Суцкевер опубликовал твит с текстом: «За последний месяц я усвоил много уроков. Один из них: фраза „бить будут до тех пор, пока боевой дух не улучшится“ применяется куда чаще, чем ей следовало бы». Твит провисел около суток, но затем был удалён.
Другой намёк Илья стирать не стал: это чёрно-белый набросок от того же дня, где изображено лицо с некоей, вероятно, негативной эмоцией.
Ссылаясь на источник в Microsoft, Business Insider утверждает, что Альтман, Брокман и Суцкевер вряд ли смогут работать вместе, поскольку в Кремниевой долине считается морально недопустимым, когда сооснователи ополчаются друг против друга. Опасения подтверждает один из бывших сотрудников OpenAI, который считает, что верные Альтману сотрудники с трудом будут работать с Суцкевером.
Инсайдеры характеризуют Суцкевера как человека интеллектуально глубокого, погружённого в свои мысли. Манеру работы Ильи называют визионерской, и якобы этот «академический» стиль не помогал выиграть расположение Альтмана, Брокмана и команды инженеров. С другой стороны, вклад Суцкевера в компанию всё равно уважают.
Как разрешатся проблемы в отношениях этих людей, покажут ближайшие недели. В других случаях это был бы типичный рабочий конфликт, если бы на кону не стояла уникальная ИИ-компания c потенциальной оценкой в 86 миллиардов долларов.
