11月18日に報道されたニュースは世界に衝撃を与えました。ChatGPT などのサービス提供を行っている OpenAI の創業者、サム・アルトマン氏について、突如、取締役会により、OpenAI のCEOを解任させられたのです。これは株式の49%を保有しているMicrosoft 側も把握できていないことで、アルトマン氏もわずか1日前に、APECサミットのカンファレンスに登壇しており、多くの人にとって「寝耳に水」の出来事でした。
アルトマン氏の解任をうけて、グレッグ氏も退任を決断しました。元々の取締役会は6人で構成されていたため、サム・アルトマン氏、グレッグ・ブロックマン氏を除く、以下の4人全員がこの決断を支持したことを意味します。
- イリヤ・スツケヴァー氏
- アダム・ダンジェロ氏
- ターシャ・マッコーリー氏
- ヘレン・トナー氏
後任の暫定CEOとして、当初の発表では、元CTOのミラ・ムラーティが就任すると発表されたばかりですが、The Information による 2023年11月20日（月）日本時間の最新ニュースによると、エメット・シアが暫定CEOに就くとされています。
【2023/11/20 16:00 速報】サム・アルトマン氏は復帰しないという報道
サム・アルトマン氏は復帰せず、数十人の従業員が退社するという衝撃的なニュースが報道されています。
https://www.theinformation.com/articles/dozens-of-staffers-quit-openai-after-sutskever-says-altman-wont-return
【2023/11/20 17:05 速報】サム・アルトマン氏、マイクロソフトのAI研究チームに所属と発表。
【速報】サム・アルトマン、Microsoft のAI研究チームに参画。CEO サティア・ナデラがツイートで公表。OpenAI の退社予定の従業員らも追随の動きか
これらの騒動の裏に、OpenAI 社の研究者・エンジニアによって、すでにAGI（完全に自律可能なAI＝汎用人工知能）が完成しているのではないか、という過激な見方もあります。
これまでの出来事を整理してみましょう。
2023年11月17日、OpenAI の公式ブログで突然、サム・アルトマン氏の解任が告知
https://openai.com/blog/openai-announces-leadership-transition
以下は、サム・アルトマン氏の取締役解任について、OpenAI公式ブログの翻訳文です。
最高技術責任者ミラ・ムラーティがOpenAIを率いる暫定CEOに就任；サム・アルトマンが会社を去る。
恒久的な後任者を見つけるためのプロセスが進行中。
非営利団体501(c)(3)として活動するOpenAI, Inc.の取締役会は、本日、サム・アルトマンがCEOを辞任し、取締役会を離れることを発表しました。同社の最高技術責任者であるミラ・ムラーティが、即日効力を持って暫定CEOを務めることになります。
OpenAIのリーダーシップチームのメンバーとして5年間、ミラはOpenAIがグローバルなAIリーダーに進化する上で重要な役割を果たしてきました。彼女は独自のスキルセット、会社の価値観、運営、ビジネスへの理解を持ち、すでに会社の研究、製品、安全機能を率いています。長期にわたる在籍期間と会社のすべての側面、特にAIのガバナンスとポリシーに関する経験に密接に関わってきたことから、取締役会は彼女がこの役割に特に適任であると考え、恒久的なCEOを正式に探す間、スムーズな移行が行われることを期待しています。
アルトマン氏の退職は、取締役会による慎重なレビュープロセスの後に行われ、彼が取締役会とのコミュニケーションで一貫して率直でなかったため、取締役会がその責任を果たす能力が妨げられたと結論づけられました。取締役会は、彼がOpenAIを引き続き率いる能力を信頼していません。
取締役会は声明で次のように述べています。「OpenAIは、人工汎用知能が全人類に利益をもたらすことを確実にするための使命を推進するために意図的に構築されました。取締役会はこの使命を果たすために完全にコミットしています。私たちは、OpenAIの設立と成長へのサムの多大な貢献に感謝しています。同時に、私たちは前進するにあたり新たなリーダーシップが必要であると考えています。会社の研究、製品、安全機能のリーダーとして、ミラは暫定CEOとしての役割を担うのに非常に適任です。私たちは彼女がこの移行期間中にOpenAIを率いる能力を最大限に信頼しています。」
OpenAIの取締役会は、OpenAIの最高科学責任者イリヤ・スツケヴァー、独立した取締役であるQuoraのCEOアダム・ダンジェロ、技術起業家のターシャ・マッコーリー、ジョージタウンセンター・フォー・セキュリティ・アンド・エマージング・テクノロジーのヘレン・トナーで構成されています。
この移行の一環として、グレッグ・ブロックマンは取締役会の議長を退任し、CEOに報告する役職で会社に留まります。
OpenAIは2015年に非営利団体として設立され、人工汎用知能が全人類に利益をもたらすことを核とする使命を持っています。2019年、OpenAIはこの使命を追求するために資金を調達できるように構造を変更し、非営利団体の使命、ガバナンス、監督を維持しました。取締役会の過半数は独立しており、独立した取締役はOpenAIの株式を保有していません。会社は劇的な成長を遂げていますが、OpenAIの使命を推進し、その憲章の原則を守ることは、取締役会の基本的なガバナンス責任のままです。
執筆者
OpenAI
OpenAI の取締役会は、OpenAIの最高科学責任者「イリヤ・スツケヴァー氏」、独立した取締役である「アダム・ダンジェロ」「ターシャ・マッコーリー」「ヘレン・トナー」で構成されています。
これらのメンバーのもと、サム・アルトマン氏の取締役からの事実上の追放が言い渡されました。理由は「コミュニケーションで一貫して率直ではなかったため」とされていますが、具体的な真相は不明です。
OpenAI の独特な組織構造: 非営利組織の下に営利組織がある
Microsoft にとっても寝耳に水の出来事： なぜ主要株主が知り得ないのか?
Microsoft が 49%もの株式を保有しているにも関わらず、今回の取締役会の議案に参加していないのか、疑問に思います。これは、OpenAI の特有な、非営利と営利組織を共存させる、複雑な組織構造によるものです。
以下は、OpenAI によって公表されている組織図です。
OpenAI は本来、「非営利」の組織として、全人類の利益のために安全で有益な汎用人工知能（AGI）の構築を目指しました。LLM（大規模言語モデル）と呼ばれる新たな技術を用いて、GPT の開発は数年続きます。
2019年、OpenAI は大きな決断が２つ行われます。それは世界的企業、マイクロソフトによる資本受け入れと、「キャップ付き利益」という構造をもった、非営利組織の下に営利子会社としての OpenAIが共存する構造です。
SF映画でも度々テーマとして描かれるように、「AI」（人工知能）の研究開発は、非常にデリケートなものです。雇用を奪い、人類が紛争によって滅びてしまう可能性も示唆されています。
そのため、自らの暴走を止めるためにも、営利だけを追求とせず、非営利組織としてのOpenAIがあくまでのトップ（親会社）の統治機関として存在し、 ChatGPT などのサービス提供での企業ソリューションでの収益事業を通じて営利活動を行う OpenAI 社が、監視されるという役割となっていました。
営利子会社は、非営利組織の使命を「法的に追求する責任」を負い、AGIの研究、開発、商業化を担当しています。2023年になって ChatGPT を始めとした生成AIサービスの世界的なヒットによって、収益構造に変化が生じ、莫大な収益が生まれます。（利益が出ているかどうかに関わらず、1億人以上のユーザーが AI を使うことになり、開発会社の営利子会社OpenAIは、多くの経済的なインパクトと共に、自社の存続の方向性に意味合いをもたらすことになったのは間違いありません）
ここで重要なポイントとなるのは、営利子会社の株式構造に、投資家と従業員への「財務リターンの上限」が設定されていることです。
—
サムアルトマン／グレッグ・ブロックマンの発言：
OpenAI CEO サム・アルトマン氏の X(Twitter) での発言
(6:46 AM · Nov 18, 2023)
OpenAIでの時間は本当に愛おしかったです。それは私自身にとって変革的な体験であり、願わくば世界にも少し影響を与えたことでしょう。何よりも、才能ある人々と一緒に働けたことが最も素晴らしかったです。次に何をするかについては、後ほど詳しくお話しします。
🫡
(2:05 PM · Nov 18, 2023)
皆さん、愛しています。今日は多くの意味で奇妙な体験でした。しかし、予期せぬことの一つは、まるで自分がまだ生きているうちに自分の追悼文を読んでいるような感じでした。愛情の表現は素晴らしいものです。
一つの教訓：友達にどれほど素晴らしいと思っているか伝えてみてください。
(2:32 PM · Nov 18, 2023)
もし私が暴れだしたら、OpenAIの取締役会は私の株を全額買い取るよう求めてくるはずだ。
2023年6月のサムアルトマンのインタビューでの発言
ここでは誰も信用すべきではありません。私は特別な投票権を持っていません。解雇される可能性があることを望んでいます。それが重要だと思います。長い目で見れば、取締役会は人類全体に民主化されるべきだと思います。それを実現する方法はたくさんあります
元取締役会議長、グレッグ・ブロックマンの発言
(9:09 AM · Nov 18, 2023)
·今日ニュースを知って、私がOpenAIのチームに送ったメッセージはこれです：
みなさんこんにちは、私たちが一緒に築き上げてきたものに、私はとても誇りを感じています。8年前、私のアパートで始めて以来、厳しい時も素晴らしい時も共に過ごし、不可能だと思われた多くのことを成し遂げてきました。
しかし、今日のニュースを受けて、私は辞めます。
心から、皆さんの幸せを願っています。人類全てに利益をもたらす安全なAGIを創造するというミッションを信じ続けています。
https://x.com/gdb/status/1725667410387378559
(1:42 PM · Nov 18, 2023)
私たちサムと私は、今日取締役会が行ったことに衝撃を受け、悲しんでいます。まず最初に、OpenAIで共に働いたすばらしい人々、私たちの顧客、投資家の皆さん、そして連絡を取ってくださったすべての方々に感謝を申し上げたいと思います。
私たちもまだ、実際に何が起こったのかを理解しようとしています。ここに私たちが知っていることをお伝えします：
– 昨夜、サムはイリヤから金曜日の正午に話をしようというテキストを受け取りました。サムはGoogle Meetに参加し、グレッグを除く全取締役がそこにいました。イリヤはサムに、彼が解雇され、そのニュースが非常に間もなく発表されると伝えました。
– 午後12時19分に、グレッグはイリヤから簡単な通話のためのテキストを受け取りました。12時23分には、イリヤからGoogle Meetのリンクが送られてきました。グレッグは、彼が取締役会から外されること（しかし会社にとって重要で役割は維持される）と、サムが解雇されたことを告げられました。ほぼ同じ時刻に、OpenAIはブログ投稿を公開しました。
– 私たちの知る限り、経営陣はこれをすぐに知らされたようですが、ミラだけは前の夜に知らされました。
サポートの嵐が本当に心強いです。ありがとうございますが、心配する時間を使わないでください。私たちは大丈夫です。もっと素晴らしいことがもうすぐやってきます。
https://x.com/gdb/status/1725736242137182594
Microsoft からの声明
Microsoft もこの退任劇については、直前に知らされたということになっています。Microsoft CEO の Satya Nadella氏は、Sam Altman 氏の理解者であるとされてきました。彼は、OpenAIのブログが発表されたのちに、以下の声明を発表しています。
今週のMicrosoft Igniteでご覧いただいたように、私たちはこのAIの時代のために急速に革新を続けており、AzureのAIシステム、モデル、ツールからCopilotに至るまで、技術スタック全体で100以上の発表を行っています。最も重要なことは、私たちはこれらすべてをお客様に提供すると同時に、将来のために構築することにコミットしているということです。私たちはOpenAIとの長期的な合意を結んでおり、私たちの革新アジェンダを遂行し、エキサイティングな製品ロードマップを提供するために必要なすべてに完全にアクセスできます。そして、私たちは私たちのパートナーシップ、そしてミラとそのチームに対して引き続きコミットしています。共に、私たちはこの技術の意義深い利益を世界に届け続けるでしょう。
この騒動により、サム・アルトマン氏の解任をうけて退社を表明した重要な従業員
以下の3名は、X(Twitter) での発信などを通じて、今回の騒動の結果、OpenAI を退社すると見られています。
・ヤクブ・パコキ（Jakub Pachocki）： 研究部門ディレクター
・アレクサンダー・マドリー（Aleksander Madry）：AIリスク評価チームのリーダー
・シモン・シドー（Szymon Sidor）：7年OpenAIに携わる研究者
この先どうなるんだろうと思っている人たちへ、答えは、我々は開発を続けるということだ。サムと、グレッグはマイクロマネージャーではなかった。それは、ここにいる多くの天才的な研究者たちによるものです。私たちはより大きな使命のためにここにいるのだという、リーダーたちの明確な内部統一があります。
解任劇を主導したと言われている “最高科学責任者” イリヤ・スツケヴァー（Ilya Sutskever） とは何者か ─ AGI に対する警鐘も
イリヤ・スツケヴァーは、AIとディープラーニング分野で著名なイスラエル系カナダ人のコンピュータ科学者です。彼は、1985/86年にロシアのニジニ・ノヴゴロドで生まれ、トロント大学でコンピュータサイエンスの博士号を取得しました。その後、スタンフォード大学でアンドリュー・エングのグループで博士研究員として働きました。彼は、OpenAIの共同創業者であり、現在はそのチーフサイエンティストを務めています。OpenAIは、人工汎用知能（AGI）を構築し、人類全体に利益をもたらすことを目指す研究機関です。スツケヴァーは、GPTモデルの主要な設計者の一人として、この野心的なプロジェクトに重要な役割を果たしています。
彼の職歴には、グーグルの「Google Brain Team」での3年間の研究科学者としての経験も含まれます。そこでは、AlexNet、Sequence to Sequence Learning、AlphaGo、そしてTensorFlowの開発に貢献しました。これらの業績は、ディープラーニング、ニューラルネットワーク、自然言語処理（NLP）、コンピュータビジョンなどの分野での進歩に大きく貢献しています。スツケヴァーは、リカレントニューラルネットワーク（RNN）、長短期記憶（LSTM）などのアーキテクチャの研究で特に知られており、これらのアーキテクチャは現代のAI技術の基盤となっています。彼の研究は、AIの潜在的なリスクを理解し、AIの倫理と安全性に関するガイドラインの策定にも影響を与えています。
イリヤ・スツケヴァーの業績は、AIコミュニティにおいて高く評価されており、彼はディープラーニングとAI分野における重要な革新者と見なされています。彼の研究と指導は、AIの長期的な発展に大きく寄与しており、今後もこの分野における重要な進歩に影響を与え続けると考えられています。
The Guardian によるイリヤ・スツケヴァー氏のインタビュー動画
以下の The Guardian のイリヤ・スツケヴァー氏のインタビュー動画は「ChatGPT」がリリースされる前に撮影されたもので、今回の騒動をうけて SNS で拡散され話題になっているものです。
動画に付属する翻訳文とともに紹介します。
AIは素晴らしいものです。
なぜなら、AIは私たちが今直面しているすべての問題を解決するでしょう。
雇用を解決し、病気を解決し、貧困を解決します。
しかし、新しい問題も生み出すでしょう。
偽ニュースの問題は100万倍悪化するでしょう。
サイバー攻撃ははるかに激しくなります。
完全自動化されたAI兵器が登場するでしょう。
AIは無限に安定した独裁政権を生み出す可能性があると思います。
今朝、人工知能の力に関する警告がありました。
1,300人以上の技術業界のリーダー、研究者、その他の人々が、リスクを考慮するために人工知能の開発を一時停止するよう求めています。
神を演じることについて、科学者たちはしばらくの間、神を演じていると非難されてきましたが、私たちはこれまでに作り出したものとは全く異なる何かを創造しているという実感があります。
ええ、私たちは間違いなく、自分自身の目標を持つ完全に自律的な存在を創り出すことができるでしょう。
これらの存在が人間よりもずっと賢くなるにつれて、これらの存在の目標が私たちの目標と一致することが非常に重要になるでしょう。
何に刺激を受けるかと言えば？
私は非常に基本的な、根本的なことについて考えるのが好きです。
私たちのシステムができないが、人間は確実に行っていることは何か？
ほとんど哲学的にアプローチします。
「学習とは何か？」「経験とは何か？」「思考とは何か？」
「脳はどのように機能するのか？」といった質問です。
技術は自然の力だと感じています。
技術と生物学的進化の間には多くの類似点があると思います。
生物学的進化の仕組みは理解しやすいです。
突然変異があり、自然選択があります。
生き残った良いものを保ち、このプロセスを通じてあなたの生物に膨大な複雑さが生まれます。人間の体の仕組みを理解できなくても、進化のプロセスはおおよそ理解できます。
そして、私は今、機械学習、特にディープラーニングが同じ状態にあると思います。
非常に単純なルールが、データから情報を取り出し、モデルに入れ、このプロセスを繰り返し続けます。
その結果、データの複雑さがモデルの複雑さに転移します。
その結果生じたモデルは非常に複雑で、それが正確にどのように機能しているかはわかりません。調査が必要ですが、それを行ったアルゴリズムは非常に単純です。
ChatGPT、聞いたことがあるかもしれませんね。
もし聞いたことがなければ、覚悟してください。
これは大雨の前の最初の雨粒と表現されています。
私たちは非常に意識していなければならないと思います。
なぜなら、これは画期的な瞬間だと私も同意しているからです。
ChatGPTはゲームチェンジャーとして讃えられており、多くの点でそうです。その最新の勝利は人間を上回りました。
マイクロソフトリサーチによる最近の研究では、GPT4は初期段階でありながらも未完成の人工一般知能システムであると結論付けられています。
一般人工知能、AGI、人間が行うあらゆる仕事やタスクを、人間よりも上手くこなすコンピューターシステムです。
AGIがかなりすぐに起こる可能性があるということもありますし、はるかに時間がかかる可能性もあります。
しかし、私の立場は、AGIがすぐに起こる可能性が十分に高いため、真剣に受け止めるべきだということです。
そして、非常に賢く能力のあるこれらのシステムを、私たちの最善の利益に沿って行動させることが非常に重要になるでしょう。
最初のAGIは、基本的に非常に大きなデータセンターになるでしょう。
並列動作する専用のニューラルネットワークプロセッサで満たされます。
コンパクトで熱く、電力を食うパッケージ、家庭用の電力の1000万倍を消費します。はるかに賢いシステムが登場するでしょう。
そして、それらのシステムは社会に完全に天文学的な影響を与える可能性が高いと思います。
人間は実際に利益を得るでしょうか？
誰が利益を得て、誰が得ないのでしょうか？
最初のAGIの信念と願望は非常に重要です。
だから、それらを正しくプログラムすることが重要です。
これが行われなければ、自然選択の進化の性質が、それらのシステムが自己の生存を何よりも優先するようになるでしょう。それが積極的に人間を憎んで害を加えたいというわけではありませんが、それはあまりにも強力になります。
人間が動物を扱う方法に似た良い例えがあると思います。
人間が動物を嫌っているわけではないと思います。
人間は動物を愛し、それに多くの愛情を持っていますが、二つの都市間に高速道路を建設する時が来たら、動物たちの許可を求めずにそれを行います。
なぜなら、それは私たちにとって重要だからです。デフォルトでは、私たちと完全に自律的で自己のために動作するAGIとの関係が、このような種類のものになるだろうと思っています。多くの機械学習の専門家、非常に知識があり経験豊かな人々は、AGIに対して多くの懐疑的な見方を持っています。それがいつ起こり得るのか、そしてそもそも起こり得るのかについてです。現在、これはまだそれほど多くの人々が気付いていないことです。ニューラルネットワーク用、AI用のコンピュータの速度が、数年のうちにおそらく100,000倍速くなるだろうということです。
複数のチームが最初にAGIを構築しようとするアームズレースのようなダイナミクスがある場合、彼らは構築するAGIが人間を深く気遣うようにするために、より少ない時間を持つことになります。私が想像する方法では、それは雪崩のようなものです、AGI開発の雪崩のようなものです。それは、この巨大な止められない力を想像してください。そして、私は、地球の表面全体がソーラーパネルとデータセンターで覆われる可能性がかなり高いと思います。
こうした種類の懸念を考えると、AGIが複数の国々の間での協力によって何らかの形で構築されることが重要になるでしょう。未来はいずれにせよAIにとって良いものになるでしょう。それが人間にとっても良いものであればいいのですが。
これらの突然の解任撃や、「最高科学責任者」が主導したとみられる追放劇は、「OpenAI が内部的にAGIを達成したのかもしれない」という過激な意見も出ています。
しかし、その信憑性を高める、関係者による示唆的なツイートが話題になっています。
イリヤ・スツケヴァー氏の発言 : 10月7日
もし他のどんな人間の資質よりも知性を重んじるなら、苦しい時期を過ごすことになるでしょう。
AGI の完成が目前であるかのような発言: 11月3日
【解任直前の11月17日】サムアルトマン氏、APECサミット発言
OpenAIの歴史において、これまでに4回——最近ではここ数週間のうちに——私は、無知のヴェールを取り払い、発見のフロンティアを前進させる瞬間に立ち会うことができました。
数々のインサイダー情報を当ててきた Jimmy Apples 氏による発言
重要なのはAGIとASIだけです。他のことは何も重要ではありません。
