Смещение Сэма Альтмана

17 ноября 2023 года совет директоров OpenAI отстранил от должности соучредителя и генерального директора Сэма Альтмана, заявив, что не доверяет его руководству.

Спустя примерно 107 часов, под давлением со стороны инвесторов и угрозы массового увольнения сотрудников, OpenAI объявила о достижении принципиального соглашения о возвращении Альтмана на пост генерального директора с реорганизованным советом директоров некоммерческой организации^[1], контролирующей деятельность коммерческой компании. Объявление о возвращении Альтмана стало третьей сменой генерального директора за 4,5 дня^[2]^[1].

Предыстория

Open AI

OpenAI была основана в декабре 2015 года как некоммерческая организация, целью которой было проведение исследований в области искусственного интеллекта для улучшения жизни человечества^[3]. Среди её основателей были Илон Маск, Сэм Альтман, Грег Брокман и компьютерный ученый Илья Суцкевер.

В 2019 году, отделившись от Маска и столкнувшись с необходимостью собрать деньги на дорогостоящие вычислительные мощности, OpenAI создала коммерческое подразделение, которое получило инвестиции от Microsoft в виде миллиарда долларов наличными и компьютерных кредитов. Коммерческое подразделение подчинялось совету директоров первоначальной некоммерческой организации^[4].

30 ноября 2022 года коммерческое подразделение организации выпустило чат-бота ChatGPT^[5], который стал самым быстрорастущим потребительским продуктом в истории, способствуя возрождению интереса к генеративному искусственному интеллекту^[6]. К октябрю 2023 года компания, по имеющимся данным, получала сумму, по некоторым оценкам превышающую 80 млрд долларов США^[7], и собиралась приносить 1 млрд долларов США ежегодного дохода^[8].

На момент увольнения Альтмана в совет директоров контролирующей некоммерческой организации входили Брокман, занимавший пост председателя, Альтман, Суцкевер, Адам Д’Анджело, исполнительный директор Quora, предприниматель Таша Макколи и Хелен Тонер, директор по стратегии Центра безопасности и новейших технологий.

OpenAI намеренно имеет нестандартную организационную структуру, позволяющую избегать контроля со стороны инвесторов. Совет директоров контролирует некоммерческую компанию OpenAI, Inc. Некоммерческая компания сама владеет и контролирует коммерческую компанию, контролирующую компанию с ограниченной прибылью OpenAI Global, LLC, и холдинговую компанию, принадлежащую сотрудникам и другим инвесторам. Холдинговая компания является мажоритарным владельцем OpenAI Global, LLC; Microsoft владеет миноритарной долей в компании с ограниченной ответственностью. Устав OpenAI, принятый в январе 2016 года, позволяет большинству членов совета директоров сместить любого директора без предварительного предупреждения или официального собрания с письменного согласия.

Сэм Альтман

Сэм Альтман — сооснователь компании OpenAI, ранее — её генеральный директор; Альтман возглавил компанию после отставки сопредседателя Илона Маска в 2018 году. При Альтмане OpenAI стала коммерческой структурой, ему же приписывают убеждение главы Microsoft Сатьи Наделлы инвестировать в OpenAI 10 млрд долларов наличными и вычислительными кредитами и то, что он возглавил несколько сделок по тендерному предложению, которые втрое увеличили оценку компании. Альтман давал показания в Конгрессе США, критически отзываясь об искусственном интеллекте^[9], и выступал на саммите 2023 AI Safety Summit.

Незадолго до снятия с должности Альтман сделал несколько публичных заявлений: анонс платформы GPT-4 Turbo на конференции DevDay компании OpenAI и принятие участия в конференции APEC United States 2023, а также выступление на мероприятии, связанном с Burning Man.

Происходящее перед увольнением

Выход из состава совета соучредителя LinkedIn Рида Хоффмана, венчурного капиталиста Шивона Зилиса и бывшего представителя республиканцев Уилла Херда позволил оставшимся членам совета исключить Альтмана. По мнению Кары Свишер из The Wall Street Journal, Суцкевер сыграл важную роль в исключении Альтмана. Разногласия по поводу безопасности искусственного интеллекта разделяли сотрудников до исключения Альтмана. Релиз ChatGPT вызвал разногласия между OpenAI как коммерческой компанией, не заботящейся о безопасности искусственного интеллекта, и некоммерческой, осторожно относящейся к возможностям искусственного интеллекта; в электронном письме сотрудников, отправленном в 2019 году и полученном The Atlantic, Альтман назвал эти подразделения «племенами».

Reuters и The Information сообщили, что некоторые исследователи OpenAI были обеспокоены возможностями новой модели ИИ, над которой работали в компании до увольнения генерального директора. По данным The Information, модель «Q*» была способна решать математические задачи, с которыми ранее не сталкивалась, что представляло собой потенциальный прорыв в технологии. Несколько штатных исследователей написали совету директоров письмо с предупреждением об открытии мощного искусственного интеллекта, который, по их мнению, может угрожать человечеству. Источники ссылались на это письмо как на один из факторов в длинном списке претензий совета директоров, приведших к увольнению Альтмана, среди которых были опасения по поводу коммерциализации достижений до понимания их последствий. Представитель OpenAI Линдси Хелд Болтон (Lindsey Held Bolton) в своём заявлении, переданном The Verge, оспорила эту точку зрения, заявив: «Мира [Мурати] рассказала сотрудникам, о чём шла речь в СМИ, но не стала комментировать достоверность информации». Кроме того, источник, знакомый с ситуацией, сообщил The Verge, что совет директоров никогда не получал письма о такой новаторской разработке, а ход исследований компании не повлиял на резкое увольнение Альтмана.

До своего отстранения Альтман искал миллиарды долларов у ближневосточных суверенных фондов для разработки чипа искусственного интеллекта, чтобы конкурировать с Nvidia, и обхаживал председателя SoftBank Масаёси Сона для разработки аппаратного обеспечения искусственного интеллекта вместе с бывшим дизайнером Apple Джони Айвом. Суцкевер и его единомышленники выступили против этих усилий, расценив их как использование имени OpenAI. В октябре 2023 года Альтман сократил роль Суцкевера, что усилило разногласия; Суцкевер успешно подал апелляцию нескольким членам совета директоров. Свишер и журналист The Verge Алекс Хит заявили, что противодействие стратегии Альтмана, ориентированной на получение прибыли, достигло кульминации на конференции DevDay, на которой Альтман анонсировал пользовательские экземпляры ChatGPT. По мнению Axios, причиной отстранения стало растущее недовольство и недоверие к Альтману^[10].

Увольнение

17 ноября 2023 года, примерно в полдень по тихоокеанскому времени, совет директоров OpenAI немедленно отстранил Альтмана от должности после «совещательного процесса рассмотрения», заменив его на директора по технологиям Миру Мурати. В своем блоге совет директоров сообщил, что пришел к выводу о том, что Альтман не был «последовательно откровенен в своих сообщениях». Одновременно совет директоров объявил, что председатель совета директоров Брокман будет отстранён от должности, но останется президентом компании, подчиняясь новому генеральному директору.

Вечером 16 ноября Альтман получил от Суцкевера сообщение в Google Meet с просьбой прийти на встречу в полдень на следующий день. О теме встречи Альтман узнал только за 30 минут до её начала. Суцкевер сообщил ему об отстранении от должности за 5-10 минут до него во время Google Meet с советом директоров, пока Альтман смотрел Гран-при Лас-Вегаса. Вскоре после этого в Google Meet пригласили председателя совета директоров и президента OpenAI Грега Брокмана, где сообщили о снятии Альтмана. Совет директоров публично объявил о снятии Альтмана тридцатью минутами позже в блоге и на сайте X, при этом основной инвестор Microsoft был уведомлен лишь незадолго до этого. Новость была подхвачена новостными издательствами по всему миру.

Через несколько часов после отстранения Альтмана Брокман покинул компанию, к нему присоединились директор по исследованиям Якуб Пачоцки, исследователи Александр Мадри и Шимон Сидор.

Причины отстранения от должности остались загадкой, но быстро были объяснены разногласиями между Альтманом и членами совета директоров по поводу того, насколько быстро OpenAI должна коммерциализировать свои продукты ИИ без надлежащих мер предосторожности. Согласно внутренней служебной записке, направленной директором по стратегии OpenAI Джейсоном Квоном, в ходе обсуждения с советом директоров выяснилось, что отстранение Альтмана не было связано с «неправомерными действиями».

На собрании с сотрудниками в день отстранения Суцкевер выступил в защиту отстранения и отверг обвинения во враждебном поглощении. Представитель OpenAI попросил присутствовать бывшего члена совета директоров Уилла Херда^[11].

Восстановление в должности

В течение нескольких часов после этого заявления крупные инвесторы OpenAI начали кампании по восстановлению Альтмана в должности.

По данным Bloomberg News, возвращения Альтмана добивались Microsoft и Thrive Capital. По данным The Information, к ним присоединились Tiger Global Management и Sequoia Capital.

В течение одного дня совет директоров OpenAI начал переговоры о восстановлении Альтмана, хотя у него были требования по управлению. Совет директоров в принципе согласился на отставку и возвращение Альтмана, но пропустил установленный срок^[12]. По данным The Verge, Альтман неоднозначно отнесся к возвращению и будет добиваться существенных изменений в компании^[13], включая замену совета директоров.

Инвесторы подготовили список возможных новых директоров на случай выхода из состава совета, в том числе бывшего руководителя Salesforce Брета Тейлора^[14]. По словам главного стратега Джейсона Квона, OpenAI была уверена, что сможет вернуть Альтмана, Брокмана и других сотрудников.

19 ноября Альтман и Брокман явились в штаб-квартиру OpenAI для проведения переговоров при посредничестве генерального директора Microsoft Сатьи Наделлы. По данным Bloomberg News, Мурати, Квон и главный операционный директор Брэд Лайткэп настаивали на создании нового совета директоров; для восстановления Альтмана в должности требовалось, чтобы совет признал его невиновность.

Предполагалось, что в новый совет войдет Тейлор, а Microsoft также пыталась получить в нём место.

The Wall Street Journal сообщил, что в качестве кандидатов рассматривались также глава Airbnb Брайан Чески и предпринимательница Лорен Пауэлл Джобс. Мурати намеревалась вновь нанять Альтмана и Брокмана, обсудив этот шаг с Адамом Д’Анджело. The Verge сообщил, что Альтман намеревался вернуться в OpenAI при поддержке Суцкевера.

Неожиданным шагом в воскресенье вечером, примерно через 60 часов после первоначального исключения, совет директоров решил назначить бывшего исполнительного директора Twitch Эммета Шира, связанного с движением альтруистов, исполнительным директором OpenAI вместо того, чтобы восстановить Альтмана. Бывший руководитель GitHub Нэт Фридман и руководитель Scale AI Алекс Ванг отклонили предложения совета директоров занять эту должность. Руководитель Anthropic Дарио Амодеи, который первоначально работал в OpenAI, а затем отделился, отказался вести переговоры о сделке, которая могла бы привести к слиянию двух компаний.

В ответ Microsoft объявила, что Альтман переходит в Microsoft и возглавит новую группу по исследованию искусственного интеллекта, к которой присоединились Брокман, Пачоки, Сидор и Мэдри.

Шир заявил, что отстранение Альтмана не было связано с разногласиями по поводу безопасности, и он не согласился бы на эту должность, если бы совет директоров не поддержал коммерциализацию. В рамках своего 30-дневного плана он заявил о намерении начать расследование причин отстранения Альтмана.

На следующий день в письме, подписанном 745 из 770 сотрудников OpenAI, прозвучала угроза массовых увольнений, если совет директоров не уйдёт в отставку.

Среди подписавших письмо был и член совета директоров Суцкевер, который вышел из состава совета и публично извинился за свое участие в предыдущих действиях совета.

21 ноября OpenAI объявила о достижении принципиального соглашения о восстановлении Альтмана в должности вместе с Тейлором, Д’Анджело и экономистом Лоуренсом Саммерсом во временном совете директоров, председателем которого стал Тейлор.

В рамках компромиссного соглашения Альтман и Брокман не будут возвращать себе места в совете директоров. Альтман согласился на проведение внутреннего расследования в отношении его предполагаемого поведения^[15].