アルトマンの解任を主導したと言われる“最高科学責任者”、イリヤ・スツケヴァー（Ilya Sutskever）とは何者か　─ AGI に対する強い警鐘も

2023年11月20日

イリヤ・スツケヴァーは、AIとディープラーニング分野で著名なイスラエル系カナダ人のコンピュータ科学者です。彼は、1985/86年にロシアのニジニ・ノヴゴロドで生まれ、トロント大学でコンピュータサイエンスの博士号を取得しました。その後、スタンフォード大学でアンドリュー・エングのグループで博士研究員として働きました。彼は、OpenAIの共同創業者であり、現在はそのチーフサイエンティストを務めています。OpenAIは、人工汎用知能（AGI）を構築し、人類全体に利益をもたらすことを目指す研究機関です。スツケヴァーは、GPTモデルの主要な設計者の一人として、この野心的なプロジェクトに重要な役割を果たしています。

彼の職歴には、グーグルの「Google Brain Team」での3年間の研究科学者としての経験も含まれます。そこでは、AlexNet、Sequence to Sequence Learning、AlphaGo、そしてTensorFlowの開発に貢献しました。これらの業績は、ディープラーニング、ニューラルネットワーク、自然言語処理（NLP）、コンピュータビジョンなどの分野での進歩に大きく貢献しています。スツケヴァーは、リカレントニューラルネットワーク（RNN）、長短期記憶（LSTM）などのアーキテクチャの研究で特に知られており、これらのアーキテクチャは現代のAI技術の基盤となっています。彼の研究は、AIの潜在的なリスクを理解し、AIの倫理と安全性に関するガイドラインの策定にも影響を与えています。

イリヤ・スツケヴァーの業績は、AIコミュニティにおいて高く評価されており、彼はディープラーニングとAI分野における重要な革新者と見なされています。彼の研究と指導は、AIの長期的な発展に大きく寄与しており、今後もこの分野における重要な進歩に影響を与え続けると考えられています。

【関連記事】サム・アルトマン氏、マイクロソフトのAI研究チームに所属と発表。

【速報】サム・アルトマン、Microsoft のAI研究チームに参画。CEO サティア・ナデラがツイートで公表。OpenAI の退社予定の従業員らも追随の動きか

The Guardian によるイリヤ・スツケヴァー氏のインタビュー動画

以下の The Guardian のイリヤ・スツケヴァー氏のインタビュー動画は「ChatGPT」がリリースされる前に撮影されたもので、今回の騒動をうけて SNS で拡散され話題になっているものです。

動画に付属する翻訳文とともに紹介します。

AIは素晴らしいものです。
なぜなら、AIは私たちが今直面しているすべての問題を解決するでしょう。
雇用を解決し、病気を解決し、貧困を解決します。
しかし、新しい問題も生み出すでしょう。
偽ニュースの問題は100万倍悪化するでしょう。
サイバー攻撃ははるかに激しくなります。
完全自動化されたAI兵器が登場するでしょう。
AIは無限に安定した独裁政権を生み出す可能性があると思います。
今朝、人工知能の力に関する警告がありました。
1,300人以上の技術業界のリーダー、研究者、その他の人々が、リスクを考慮するために人工知能の開発を一時停止するよう求めています。
神を演じることについて、科学者たちはしばらくの間、神を演じていると非難されてきましたが、私たちはこれまでに作り出したものとは全く異なる何かを創造しているという実感があります。
ええ、私たちは間違いなく、自分自身の目標を持つ完全に自律的な存在を創り出すことができるでしょう。
これらの存在が人間よりもずっと賢くなるにつれて、これらの存在の目標が私たちの目標と一致することが非常に重要になるでしょう。
何に刺激を受けるかと言えば？
私は非常に基本的な、根本的なことについて考えるのが好きです。
私たちのシステムができないが、人間は確実に行っていることは何か？
ほとんど哲学的にアプローチします。
「学習とは何か？」「経験とは何か？」「思考とは何か？」
「脳はどのように機能するのか？」といった質問です。
技術は自然の力だと感じています。
技術と生物学的進化の間には多くの類似点があると思います。
生物学的進化の仕組みは理解しやすいです。
突然変異があり、自然選択があります。
生き残った良いものを保ち、このプロセスを通じてあなたの生物に膨大な複雑さが生まれます。人間の体の仕組みを理解できなくても、進化のプロセスはおおよそ理解できます。
そして、私は今、機械学習、特にディープラーニングが同じ状態にあると思います。
非常に単純なルールが、データから情報を取り出し、モデルに入れ、このプロセスを繰り返し続けます。
その結果、データの複雑さがモデルの複雑さに転移します。
その結果生じたモデルは非常に複雑で、それが正確にどのように機能しているかはわかりません。調査が必要ですが、それを行ったアルゴリズムは非常に単純です。
ChatGPT、聞いたことがあるかもしれませんね。
もし聞いたことがなければ、覚悟してください。
これは大雨の前の最初の雨粒と表現されています。
私たちは非常に意識していなければならないと思います。
なぜなら、これは画期的な瞬間だと私も同意しているからです。
ChatGPTはゲームチェンジャーとして讃えられており、多くの点でそうです。その最新の勝利は人間を上回りました。
マイクロソフトリサーチによる最近の研究では、GPT4は初期段階でありながらも未完成の人工一般知能システムであると結論付けられています。
一般人工知能、AGI、人間が行うあらゆる仕事やタスクを、人間よりも上手くこなすコンピューターシステムです。
AGIがかなりすぐに起こる可能性があるということもありますし、はるかに時間がかかる可能性もあります。
しかし、私の立場は、AGIがすぐに起こる可能性が十分に高いため、真剣に受け止めるべきだということです。
そして、非常に賢く能力のあるこれらのシステムを、私たちの最善の利益に沿って行動させることが非常に重要になるでしょう。
最初のAGIは、基本的に非常に大きなデータセンターになるでしょう。
並列動作する専用のニューラルネットワークプロセッサで満たされます。
コンパクトで熱く、電力を食うパッケージ、家庭用の電力の1000万倍を消費します。

はるかに賢いシステムが登場するでしょう。
そして、それらのシステムは社会に完全に天文学的な影響を与える可能性が高いと思います。
人間は実際に利益を得るでしょうか？
誰が利益を得て、誰が得ないのでしょうか？
最初のAGIの信念と願望は非常に重要です。
だから、それらを正しくプログラムすることが重要です。

これが行われなければ、自然選択の進化の性質が、それらのシステムが自己の生存を何よりも優先するようになるでしょう。

それが積極的に人間を憎んで害を加えたいというわけではありませんが、それはあまりにも強力になります。
人間が動物を扱う方法に似た良い例えがあると思います。
人間が動物を嫌っているわけではないと思います。
人間は動物を愛し、それに多くの愛情を持っていますが、二つの都市間に高速道路を建設する時が来たら、動物たちの許可を求めずにそれを行います。
なぜなら、それは私たちにとって重要だからです。

デフォルトでは、私たちと完全に自律的で自己のために動作するAGIとの関係が、このような種類のものになるだろうと思っています。多くの機械学習の専門家、非常に知識があり経験豊かな人々は、AGIに対して多くの懐疑的な見方を持っています。それがいつ起こり得るのか、そしてそもそも起こり得るのかについてです。現在、これはまだそれほど多くの人々が気付いていないことです。ニューラルネットワーク用、AI用のコンピュータの速度が、数年のうちにおそらく100,000倍速くなるだろうということです。

複数のチームが最初にAGIを構築しようとするアームズレースのようなダイナミクスがある場合、彼らは構築するAGIが人間を深く気遣うようにするために、より少ない時間を持つことになります。私が想像する方法では、それは雪崩のようなものです、AGI開発の雪崩のようなものです。それは、この巨大な止められない力を想像してください。そして、私は、地球の表面全体がソーラーパネルとデータセンターで覆われる可能性がかなり高いと思います。

こうした種類の懸念を考えると、AGIが複数の国々の間での協力によって何らかの形で構築されることが重要になるでしょう。未来はいずれにせよAIにとって良いものになるでしょう。それが人間にとっても良いものであればいいのですが。