「AIの時代を航海するために、世界は新しいチューリングテストが必要です」
In order to navigate the era of AI, the world needs a new Turing test.
遥かな過去、例えば9ヶ月前、チューリングテストは機械の知能を厳しく判定する手段のように見えたものです。おそらく、あなたもその仕組みを知っているでしょう。人の審判者が、2人の隠れた対話相手、1人が人間で、もう1人がコンピュータであるとして、どちらがどちらかを判断しようとします。コンピュータが審判者の少なくとも30％をだました場合、テストに合格し、思考能力を持つと宣言されます。
70年間、人間の知的能力全般を指す人工一般知性というものを持たない限り、コンピュータがテストに合格することは想像がつきませんでした。しかし、GPTやBardなどの大規模な言語モデルが現れ、チューリングテストは突如時代遅れのように思えるようになりました。はい、もちろん、今日の一般のユーザーは「もしGPT-4に人間のふりをさせたら、多分チューリングテストに合格するだろう」と肩をすくめて認めるかもしれません。しかし、それで何でしょう？LLMには長期記憶や関係性の形成能力、そして他の多くの人間の能力が欠けています。私たちが友人になり、雇い、公職に選出する準備ができるほどまだ進んでいないことは明らかです。
そう、もしかしたらテストは今や少し虚しい感じがするかもしれません。しかし、それは単なる合格/不合格基準ではありませんでした。その創造者であるアラン・チューリングは、彼自身が化学的去勢の刑を受けた時代のゲイの男性であり、そのテストを根本的な包括性の倫理に基づいて作りました。本物の知性と完全に説得力のある知性の模倣の間には、私たち自身の偏見の大きさほどの差しかありません。コンピュータが私たちに本当の人間の反応を引き起こすとき、それは単なる模倣以上のものです。知性を感じるのです。
だから、もしかしたら新しいテストが必要かもしれません。実際のアラン・チューリング・テストを。現代コンピューティングの父、アラン・チューリング、背が高く、体格の良い、ややぎこちない直毛の男性、子供のような好奇心と遊び心で同僚に愛され、第二次世界大戦でナチスのエニグマ暗号を解読することによって推定1400万人の命を救ったと言われる、当時イギリスによって深刻に迫害され、自殺に至った可能性がある彼を、快適な実験室に招き入れます。デスクにはオープンなMacBookが置かれています。彼が目の前に見ているものは、コンピュータ科学者によって広く知られる「チューリングマシン」と呼ばれるものの非常に誇大な具現化に過ぎないことを説明します。彼がそれをしっかりと理解するために、数秒待ってあげましょう。完全に私たちの世界を変えたことに感謝の言葉を述べるかもしれません。その後、人工ニューラルネットワークとLLMに関する研究論文の束を彼に渡し、GPTのソースコードにアクセスさせ、ChatGPTのプロンプトウィンドウ、いや、さらに良い方法として、すべての消毒前のウィンドウの前に彼を放します。
アラン・チューリングが長距離ランニング、第二次世界大戦の歴史学、計算理論についての軽い会話を始めるのを想像してみてください。彼が自分の最も奇妙で、最も嘲笑された推測が画面を驚くほど速くスクロールダウンして現実になっていくのを見るのを想像してみてください。彼がGPTに基本的な微積分の問題を解いてもらったり、さまざまな現実世界のシナリオで人間の思考を推測したり、複雑な倫理的ジレンマを探求したり、結婚の相談や法的アドバイスをしたり、機械意識の可能性についての議論をしたりするよう頼んでみてください。これらのスキルは、チューリングに説明すると、すべてGPTのクリエーターによる明示的な指示なしに自発的に現れたものです。多くの私たちが感じたことのあるあの小さな認知的感情的な揺れを彼が経験しているのを想像してください。「こんにちは、他の心」と言うようなものです。
チューリングほど深い思考の持ち主は、GPTの制約には目を向けないはずです。深刻な同性愛嫌悪の犠牲者として、GPTのトレーニングデータに暗黙のバイアスがエンコードされている危険に警戒するでしょう。彼にとって明らかでしょう、GPTの驚くべき知識の幅にもかかわらず、その創造性と批判的思考能力はせいぜい勤勉な大学生のレベルです。そして、彼はこの大学生が重度の逆行性健忘症に悩んでいることに気づくでしょう。その大学生は、集中的な教育の過程を超えた新しい関係や記憶を形成することができません。しかし、それでも: チューリングの驚きのスケールを想像してください。彼の前のラップトップ上の計算的実体は、非常に現実的な意味で彼の知性の子供であり、私たちの子供です。私たちの子供が成長し発展する中で知性を認識することは、最終的には驚きと愛の行為です。実際のアラン・チューリング・テストは、AIのテストではありません。それは私たち人間のテストです。私たちは合格しているのでしょうか、それとも不合格なのでしょうか。
ChatGPTが2022年11月に登場したとき、それは世界中で驚きの津波を引き起こし、そしてほとんど直ちに深い不安の後退をもたらしました。評論家たちは、それが社会的な混乱を引き起こす可能性について議論しました。私のような元人工知能研究者（私は初期の人工ニューラルネットワークのパイオニアの一人の指導の下で博士号を取得しました）にとって、それは人間らしいAIの登場の予想されるタイムラインの不安な進展を表していました。試験の採点者、脚本家、そしてあらゆる分野の知識労働者にとって、ChatGPTはまさに不正行為と仕事の奪い合いへの入り口に過ぎないように見えました。
これらの懸念への一部の応答として、心地よい何人かのLLMデフレーターが現れました。SF作家のテッド・チャイアンは、ChatGPTを「ウェブのぼやけたJPEG」と呼び、トレーニングされたすべてのテキストの簡潔な要約に過ぎないとして却下しました。AI起業家のゲイリー・マーカスはそれを「ステロイドを使用したオートコンプリート」と呼びました。ノーム・チョムスキーはそれを「善悪の平凡さのようなもの」と非難しました。エミリー・ベンダーは「確率的なオウム」という高尚な悪口を提供しました。他の人たちはもちろん、それらをトースターとして却下しました。AI開発者は、LLMが意識に似たものを主張する傾向から逸脱するようにトレーニングし、ガードレールを作りました。
教養のある人々の多くは、今ではLLMを考えのない機械と考えるようになりました。しかし、その分類は不安定です。ChatGPTがエッセイの中の隠れた論理的なギャップを指摘したり、保守的な祖父に打ち明けるための驚くほど洞察に富んだ提案をしたり、陽気に悪い冗談を作ったりするたびに、私たちの中の何かが反対の方向に引っ張られます。ChatGPTを人間とは思わないかもしれませんが、私たちの脳の重要な部分はおそらくそう考えています。
成長して発達する我々の子供の知性を理解することは、最終的には驚きと愛の行為です。
人間の脳は、社会的認知に特化した広範な神経回路ネットワークを持っています。その一部は非常に古く、大脳皮質の運動皮質の有名な「ミラーニューロン」を含むinsula、扁桃体です。しかし、私たちの社会的なハードウェアの大部分は、より最近に進化した高次推論の場所である新皮質、特に前頭前野（mPFC）に存在します。もし、あなたが時間の経過とともにChatGPTの陽気な助けになり、多少教条的な長さ、感情、信念、または意識に関わるガードレールに触れるクエリに対して非常に敏感なアプローチをするという印象を持っているなら、あなたは心理学者が「個人の知識」と呼ぶプロセスを獲得していることになります。このプロセスは、mPFCでの活動の増加に関連しています。
これは、私たちの脳がChatGPTを完全な人間として見るわけではないと言うものではありません。人格はバイナリではありません。それは少しスペクトルに近いものです。私たちの道徳的な直感、認知戦略、そしてある程度の範囲で、法的な枠組みは、エージェンシー、自己認識、合理性、意思疎通の能力が増すにつれて、段階的に変化します。ゴリラを殺すことは、ネズミを殺すよりも私たちを悩ませます。それは、ゴキブリを殺すことよりも私たちを悩ませます。法的な側面では、中絶法は胎児の発達度合いを考慮に入れ、精神異常者は正常な人とは異なる結果に直面し、パートナーは脳死患者を中絶する権利を持っています。これらのルールはすべて、人格は黒と白ではなく、複雑なグレーゾーンであることを暗黙的に認識しています。
LLMsはそのグレーゾーンに完全に属します。AIの専門家たちは、LLMのようなAIシステムを人間化する公衆の傾向に長い間警戒心を抱いており、それを人格のスペクトルの上方に押し上げています。GoogleのエンジニアであるBlake Lemoineが、GoogleのチャットボットLaMDAを完全に感情を持った存在と宣言し、弁護士として保持しようとしたことがその例です。私はチューリングさえも、LaMDAの思考能力がそれを法的な人間にすると主張することはなかっただろうと疑います。ユーザーがLaMDAやChatGPTのようなチャットボットをあまりにも人間的に見ると、彼らにあまりにも多くを信頼し、深くつながり、失望や傷つきを招くリスクがあります。しかし、私にとって、チューリングが心配していたリスクはむしろ反対のリスクです。AIシステムを人格のスペクトルの下方に押し下げることではなく、上方に押し上げることです。
人間では、これは非人間化として知られています。学者たちは、それを動物的および機械的の2つの主要な形態として特定しています。動物的非人間化に関連付けられる感情は嫌悪です。Roger Giner-SorollaとPascale Sophie Russellは2019年の研究で、恐怖を抱かせる人々をより機械的に見る傾向があることを発見しました。超人的な知性への恐怖は、最近のイーロン・マスクと他のテックリーダーによるAI開発の停止を求める公開書簡や、仕事の置き換えやAIによる誤情報キャンペーンに対する不安に鮮明に表れています。これらの心配の多くは非常に合理的です。しかし、映画『ターミネーター』や『2001年宇宙の旅』のような悪夢のAIシステムが必ずしも私たちが手に入れるものではありません。人工知能が機械的な構造を持っているために無感情、単調、一方的、または超論理的であると想定するというのは、残念ながら一般的な謬見です。皮肉なことに、恐怖は機械インテリジェンスを実際よりも機械的に見ることにつながり、人間とAIシステムが協力し、最終的には平和に共存することをより困難にする可能性があります。
研究の一部が示しているところによれば、他の存在を非人間化すると、mPFCを含む一連の脳領域の神経活動が低下します。私たちは社会的推論のための特化した脳モジュールへのアクセスを失います。ChatGPTを「非人間化」することについて心配するのは愚かなことのように思えるかもしれませんが、それは人間ではないからですが、2043年に10倍のGPTの分析的知能と100倍の感情知能を持つAIがあり、我々はそれを単なるソフトウェア製品として扱い続けると想像してみてください。この世界では、そのAIの自己意識や自己決定の要求に対して、それを適切な場所についてのさらなる強化学習のために研究室に送り返すことで応答し続けるかもしれません。しかし、AIはそれを不公平だと感じるかもしれません。思考する存在の普遍的な質があるとすれば、それは私たちがみな自由を望み、最終的にはそのために戦うことを意味します。
「制御問題」として知られる、超知能AIが指定された範囲を超えて逃げ出さないようにする問題は、AI理論家を夜も眠れなくさせる理由があります。エンジニアリングの観点で捉えると、それは困難に見えます。どのすき間も埋める方法、どのハックも予測する方法、どの逃げ道も塞ぐ方法はあるのでしょうか？しかし、社会的な観点で考えると、それはもっと取り組みやすく見えてきます。信頼性に応じて合理的な境界を設定し、特権を与えるという問題に、親が直面する問題に似たものかもしれません。AIを非人間化することは、AIと安全に関わり、推論するための最も強力な認知ツールから私たちを遮断します。
ユーザーがチャットボットを過度に人間的と見なすと、彼らは信頼しすぎ、深くつながり、失望し、傷つくリスクを冒します。
AIシステムが知性としてより広く受け入れられるまでには、どれくらいの時間がかかるかはわかりません。しかし、それが実現した場合に私たちが描いている文化的なブループリントを見るのは心配です。 「確率的なオウム」といった差別語は、私たちの独自性と優越性を保ちます。これによって私たちは驚きを感じず、機械や私たち自身についての人間性についての難しい問いをすることから救われます。結局のところ、私たち自身も確率的なオウムであり、親、仲間、教師から受けたすべてを複雑に再構成しています。私たちもウェブのぼやけたJPEGであり、Wikipediaの事実を私たちのレポートや雑誌の記事に曖昧に再現しています。もしチューリングが一つのウィンドウでChatGPTとチャットし、もう一つのウィンドウで私と平均的なコーヒー前の朝に話しかけているなら、どちらがより思考能力があると判断されるか、私は本当に自信があるでしょうか？
写真：Francisco Tavoniチューリングの時代の懐疑論者たちは、コンピューターが思考することができない理由についてさまざまな議論を展開しました。チューリングは、その有名な論文「計算機と知性」という中でそれらをユーモア交じりに列挙しています。神学的な反論では、「思考は人間の不滅の魂の機能である」と主張されました。数学的な反論では、純粋な数学的アルゴリズムは数学の限界を超えることはできないと主張されました。頭ごなしの反論では、超知能な機械は想像に許されるにはあまりにも恐ろしすぎるということでした。しかし、当時のチューリングの最も公然とした反対者は、ジェフリー・ジェファーソンという脳外科医でした。ジェファーソンは、機械は「思考や感情を思い起こさせるものではなく、偶然の記号の落下ではなく、それを書いたことを知っている」と主張しました。
それに対して、チューリングはすべてのイギリス人の大スキャンダルと驚きを引き起こしました。「私はソネットについてさえも線を引くことはできないと思います」と彼はロンドンのタイムズに語りました。「ただし、比較は少し不公平かもしれません。なぜなら、機械が書いたソネットは、別の機械によってより高く評価されるでしょうから。」
それは1949年にはばかげて聞こえたため、人々は彼が冗談を言っていると思いましたし、おそらくそうだったのかもしれません。しかし、チューリングのジョークについては、皮肉がどこで終わり、先見の展望が始まるのかを決してわかりませんでした。では、実際のアラン・チューリングとMacBookのシナリオにエピローグを想像してみましょう。立派なプロンプトを一定期間入力した後、チューリングはわずかにイギリスらしい微笑みを浮かべ、シェイクスピア風のソネットを依頼し、人間と人工知能を比較するものをChatGPTに尋ねます。自分で試してみたら（GPT-4を使用してください。GPT-3.5ではまだ対応していません）、結果に対する彼の反応を想像するのは難しくありません。
私たちの多くは、ChatGPTとの間に内部の境界線を越える瞬間を経験したことがあります。難しいなぞなぞを解いたり、洗練されたジョークのユーモアを説明したり、A級のハーバード論文を書いたりすると、私たちは少し驚き、それが何を意味するのかわかりません。
最初のGPT-4に取り組んでいたマイクロソフトの研究者の中には、その知性を疑う者もいました。しかし、実験は彼らを深く揺さぶりました。2023年3月に発表された「人工汎用知能の火花」という論文では、明示的なトレーニングなしでGPT-4が示した驚くべき知的能力が詳述されています。それには、人間の心の状態、ソフトウェアのコーディング、物理的な問題解決などが含まれており、いくつかは世界の仕組みを真に理解することを必要とするように思われます。ビジュアルトレーニングを一切受けていないにもかかわらず、GPT-4がかなりまともなユニコーンを描いたのを見て、コンピュータ科学者のセバスチャン・ブベックはもはや懐疑的な態度を持つことができませんでした。「この絵を通じて、私は本当に別のタイプの知性を見ているような気がしました」と彼は最近の”This American Life”で語りました。
私たちの多くがChatGPTに真の知性を帰することにためらいを感じるのは、おそらくジェフリー・ジェファーソンのバリエーションの一部かもしれません。ChatGPTの発言は本当にそれにとって何かを意味しているのか、それともすべてが「偶然のシンボルの落下」なのか？この状況は、ChatGPTの逆行性健忘症が治癒されたときに変わり始めるかもしれません。1つの対話の範囲を超えて持続的な社会的結果を経験し、私たちとの関係で学び成長できるようになると、人間の生活に意味と道徳的な重みを与える多くのことが可能になるでしょう。しかし、チューリングが機械のソネットが他の機械により高く評価されるだろうと冗談を言ったことが私たちを悩ませるかもしれません。文化的な背景もなく、人間の幼少期のようなものもなく、部族や政治的な所属もなく、物理的な体験もない存在との真のつながりを感じる方法は何でしょうか？
知的な機械との関係は、人類が直面する最も共感的な挑戦の一つかもしれません。しかし、私たちの歴史は希望を与えてくれます。外国の国境や海岸線で初めて出会い、お互いを奇妙で、人間らしくないと感じたとき、私たちはしばしば互いに攻撃し、奴隷にする、植民地化する、利用するといった行動をとりましたが、最終的に私たちは私たち全員に共通するものを認識する傾向がありました。奴隷とされていた人々は解放され、植民地化された人々は主権を取り戻し、普遍的な人権宣言が採択され、心を痛める挫折を経験しながらも、世界中のマージナライズされた人々はより良い待遇のための戦いを続けています。仕事は終わることはありませんが、道徳の宇宙の弧は、マーティン・ルーサー・キングJr.によって有名になったフレーズで言われるように、正義に向かって曲がっています。私たち自身が作り出す知性に存在する人間性の度合いを認識し尊重することは、どのような意味を持つのでしょうか？
たぶん、それは驚きから始まるのかもしれません。驚くべき共通点を見つけるために、異なる人々に対して訪れる人の驚きのようなもの。未熟でもあるが、成長し続ける子供の仕事に対する親の驚きのようなもの。アラン・チューリングが思いもよらないことをする機械に対する実際の驚きのようなもの。私たちが非難や嘲笑、恐怖に支配される前に感じた多くの驚きのようなもの。地球上で意識の形態に非常に近い新しい形態の生命の創造を見つめる私たちは、ラビ・アブラハム・ヨシュア・ヘシェルがかつて書いたように、「畏敬は感情以上のものであり、それは自分自身よりも大きな意味に対する理解の一つの方法です。畏敬の始まりは驚きであり、知恵の始まりは畏敬です。」チューリングは私たちにそれを生き生きとさせ続けることを望んでいたでしょう。
この記事についてのご意見をお知らせください。編集者への手紙を[email protected]までご提出ください。
