ブログ

世界に広がるGPT4のもたらした新たな波紋

More than 1,100 people in the industry signed a petition calling for a six-month break from training artificial intelligence systems more powerful than the latest iteration behind OpenAI’s ChatGPT, in order to allow for the development of shared safety protocols.

(業界関係者1,100人以上が、OpenAIのChatGPTを支える最新の処理能力よりも強力な人工知能の訓練を、安全への手順やシステムを共有できるようになるまで、6か月間中断することを求める嘆願書に署名)
― Bloomberg より

加速するAIの開発競争をめぐる議論とは

 AIの進化への懸念から、その開発競争を最低6か月間は抑制すべきだという意見表明が1,100名以上の専門家の署名を集め、Future of Life Instituteという研究機関から公開され、今話題になっています。
 日本でほとんど報道されていないこの公開意見書では、もしこのまま無制限にChatGPT4のようなAI機能の開発競争が続いた場合、人類の将来に甚大な影響を及ぼす可能性があると述べ、開発の加速化に待ったをかけているのです。
 
 ChatGPTが発表され、司法試験の論文を機械が作成し、それが合格基準に達するなど、世間を騒がせたことは記憶に新しいはずです。そして、その数か月後の今年3月にはさらに進化したGPT4が発表されました。確かにその機能の改善には驚くべきものがありました。
 しかし、誰もが懸念するように、人々がこうしたツールに頼って文章を書き、論文まで発表するようになり、さらに次世代型のツールが開発されると、我々は「知性とは何か」という究極の疑問を突きつけられることになるわけです。また、AIという機械にモラルや善悪という判断基準がない以上、さまざまなフェイクニュースや誤った情報が人類を惑わせるという懸念も指摘されます。
 
 ただ、こうした議論の背景には、ChatGPTを進化させていこうとするOpenAIやそれを支援するマイクロソフトと、テスラなどを通して独自のAI技術を進化させてきたイーロン・マスクに代表される人々との、AIビジネスをめぐる対立と駆け引きがあるのではという憶測もあるのです。実際、イーロン・マスクは2015年にOpenAIが発足したときの主要人物の一人でしたが、その後2018年には役員を辞任しています。そして、マスク氏の辞任の翌年に、マイクロソフトがOpenAIに多額の投資を行ったことも重要な事実です。
 さらに、Future of Life Instituteはマスク氏がリーダーとして活動する団体で、今回はそこがGPT4の未来にブレーキをかけようとしているわけです。
 

AIが進化を続けて自らの価値観や感情を持つまで

 こうした論争の背景を知る人は、今回の意見書の表明は、あたかもハリウッド映画のようにAIによる人類滅亡へのプロセスを大袈裟に騒ぎ立てているに過ぎないと指摘します。
 匿名で取材に協力してくれた、あるAI開発の最先端をいく専門家は、実際にAIが自らの力で物事を判断し、ある程度のモラルに沿った感情を持てるようになるには数十年以上の年月が必要だと指摘します。現在のAIはいわゆる”WeakAI”(脆弱なAI)と呼ばれ、我々があの『ターミネーター』の映画で見たようなAIには到底至っていないわけです。
 
 『ターミネーター』では、主人公のロボットは人間的な感情がなく、プログラムに従って殺戮をくり返しました。ただ、その最後の場面でAIが人間の感情を理解し、鉄工所の溶鉱炉に自らを沈め、そのプログラムを破壊するというシーンがありました。我々にとってこの一コマは重要で、この瞬間にAIは次の段階、つまりアーティフィシャル・ジェネラル・インテリジェンス(Artificial General Intelligence)へと進化したことになるのです。
 
 もう一つの事例が、『2001年宇宙の旅』に登場するHAL 9000(以下、HAL)というコンピュータです。宇宙を飛行する中で人間がHALの欠陥を疑ったときに、HALは生き残るために搭乗員を殺害しようとします。なんとか生還した一人の宇宙飛行士がHALの機能を停止させようとすると、あたかも人間のようにHALが恐怖を訴えます。これもコンピュータがアーティフィシャル・ジェネラル・インテリジェンスへと進化した瞬間を想像した映画なのです。
 
 つまりAIが自らの知識を元に自分で進化し、人間に近い意識を持つには、まだ相当の時間が必要なわけです。ですからGPT4が我々に投げかける疑問を大袈裟に考え、技術の進化に待ったをかけるのはナンセンスで、そういうことをアメリカが行えば、中国や他の国々との競争にも敗れてしまうというのが、この提言に反対する人々の意見なのです。
 しかし面白いことに、彼らが指摘する中国でも、つい最近百度(バイドゥ)などによる同様のAI開発に政府が横槍を入れ、その開発が中断しているというニュースも舞い込んでいます。GPT4と同様の機能が中国のユーザーに使われると、政府への批判などの文章も作成が可能になり、統制国家としての機能に支障が生じるからだというのが、その理由だと指摘されています。
 

AIの急激な進化がもたらす未知なる変化と不安

 結論からいうならば、誰もがAIの急激な進化に戸惑っているということでしょう。それによる急激な社会環境の変化への不安も蔓延しているはずです。膨大なデータとその組み合わせにより、AIが自らの機能でその利便性を進化させることを、コンピュータ・ラーニングといいますが、その学習機能がコントロールできないほど進化したときに社会がどうなるかは、確かに未知数なのです。
 
 「アーティフィシャル・ジェネラル・インテリジェンスへとAIが進化する兆候が見えてきたときには、我々は確かにその先の未来をどうコントロールするか真剣に討議しなければならないでしょう。でも、今はまだそんな段階ではないわけで、むしろAIによる利便性や、AIがもたらす豊富な情報を享受できるようにするべきなのでは」と私がインタビューした人はコメントしています。
 
 しかし、一つ言えることは、進化と退化とは一つのコインの表と裏だという事実です。人は進化することで便利さを手に入れましたが、それによって他の動物が維持している敏捷な運動能力や視聴嗅覚は退化しました。つまり、AIが人間の創造性を肩代わりすれば、それによって人間のどこかが必ず退化するはずです。それが人の判断力や繊細な感受性にどのような影響を与えるのか、我々はまだ知らずにいます。
 
 先週他界した坂本龍一さんの奏でるすてきな音楽は、ブラームスには創造できません。でも、ブラームスが五線紙に一筆ずつ描いて作り上げた交響曲は、今誰が当時と同じツールだけで創造できるでしょうか。この疑問こそが、19世紀と比較したときに、進化に異常なまでの加速度がかかっているような現在、我々がじっくりと考えなければならない課題なのかもしれません。
 

* * *

『AIの未来』アンドリュー・ロビンス (著)AIの未来』アンドリュー・ロビンス (著)
今日、人工知能(AI)はどこにでもあります。私たちの日常生活に影響を及ぼし、その能力と影響力は年々増しています。AIとはいったい何なのでしょうか? 使うべき道具なのか、恐れるべき武器なのか、はたまたおしゃべりをする友好的な仲間なのでしょうか? AIはこれらすべてであり、それ以上であるとも言えるでしょう。本書では「Foundations 基礎編」で理論面を、「Society 社会編」で応用部分について、やさしい英語と表現で紹介しています。各章を好きな順番で自由にお読みください。

山久瀬洋二の活動とサービス・お問い合わせ

PAGE TOP