「AIの教父」は、将来のAIを友好的に保つための希望に満ちた計画を持っています
The Father of AI has a hopeful plan to keep future AI friendly.
ジェフリー・ヒントンは、おそらく世界で最も称賛されている人工知能研究者であり、彼が開発に関与した技術の危険性について率直に話すためにGoogleを辞めたことを公に発表したことで、数ヶ月前に大きな話題を呼びました。彼の発表は突然のものではありませんでした。2022年の終わりは、AIが私たちに何をもたらすことができるかという興奮冷めやらぬ発見でした。2023年には、私たちがGPTを使ってBingチャットをしている最中でも、興奮は存在の不安のパニックカクテルによって和らげられました。だからこそ、AIの「神様の父」として知られる人物が自身の慎重な懸念を共有することは全く驚くことではありませんでした。ヒントンは、彼の批判が彼を10年間雇用していた検索大手企業自体の批判ではないことを強調しました。彼の退職は、自社が積極的に展開している技術を批判することから生じる潜在的な緊張を避けるためのものでした。
ヒントンの基本的なメッセージは、AIが人類の害になる可能性があるということでした。彼が公になった後の最初の数週間では、彼はENBLEのウィル・ナイト氏を含むいくつかのインタビューを行い、OpenAIのChatGPTのような大規模言語モデルの力を見た後に、彼自身が比較的最近感じるようになったこれらの恐怖について話しました。
プレーンテキスト
私は今夏、ヒントンと自身のGoogle退職後の人生と使命について反省する時間を持った後、彼と話をしました。もちろん、私たちは絶望的なシナリオについて話しましたが、私が興味を持っていたのは、彼が私たちの潜在的なAIの未来について考えを変えた理由でした。何よりも、彼がLLM（大規模言語モデル）がチームヒューマンの敵になる可能性のあることをどう考えているのか知りたかったのです。ヒントンが今表明している恐怖は、私たちが2014年に話した時とはかなり異なっています。当時、彼はディープラーニングがGoogleの効果的な翻訳、音声認識の改善、Googleマップ上の住所番号のより正確な識別に役立つと話していました。会話の最後に、彼はより広範な視野を持つようになり、ディープラーニングが現実世界のより深い理解につながる大幅な改革を経ると感じると述べました。
- 「Xはクリエイターの収益化のための資格要件を低くします」
- 現在、AmazonでKasa Smart Plug Powerstripを購入すると46%オフで購入す...
- 次の休暇を計画中ですか？ これらの5枚のトラベルクレジットカードがあ...
彼の予測は正しかったのですが、私たちの最近の会話では、ヒントンはそれが具体的にどのように起こったのかについてまだ驚いていました。最終的に、私たちの会話はより哲学的な領域に向かいました。GoogleのBardチャットボットが私の質問に答える時、実際に何が起こっているのだろうか？そして、LLMは本当に超知能の前兆であると、一部の人々が主張するような存在を表しているのだろうか？
ヒントンは、彼が考えを変えたのは、次の3つのことに気付いた時だと言います。まず、チャットボットは非常にうまく言語を理解しているように見える。モデルのすべての新しい学習は、以前のモデルに複製され、転送されることができるため、脳とは直接接続されないということを除いて、お互いに知識を共有することができます。そして、機械は今や人間よりも優れた学習アルゴリズムを持っています。彼は「私は突然、脳がそれらのデジタルエージェントよりも優れているという見解を変えました。彼らは既に1つの脳よりも1000倍多くのことを知っています。だから、膨大な知識の面では、彼らは脳よりも優れています。」と言います。
ヒントンは、5年から20年の間にAIシステムが私たちよりも賢くなる可能性が50％あると考えています。それが起こったとき、それをどう知るか尋ねました。「いい質問ですね」と彼は言います。また、超知能のAIシステムが自分の能力を秘密にすることを選ぶことにも驚かないと言います。「おそらくそれは、人間の行動から学んだので、私たちには教えないことを学んでいるでしょう。」
それは私には、彼が人工的なシステムに擬人化の要素を持たせているように聞こえました。これは、科学者が一般の人々やジャーナリストに対して常にしないように注意を促すことが多いことです。「科学者はそれをすることを避けますが、ほとんどのことを擬人化することはばかげていると認めます」とヒントンは認めます。「しかし、彼らは私たちからそれらのことを学びましたし、言語的にも私たちと同じように振る舞うことを学びます。だから、彼らを擬人化することは完全に妥当だと思います。」あなたのパワフルなAIエージェントが人類のデジタル知識の総量、オンラインの会話を含む多くの情報で訓練されている場合、それが人間らしく振る舞わないことを予想するほうがばかげているかもしれません。
しかし、言語ロボットは直接的な世界の経験を持たないコンピュータチップ上のインパルスにすぎないため、人間が行うようなことを本当に理解することはできない、という反論はどうでしょう？彼らがやっていることは、統計的に提示に満足する応答を引き延ばすために必要な次の単語を予測するだけです。ヒントンは、私たち自身も実際には直接的に世界に触れていないことを指摘しています。
「一部の人々は、主観的な経験を持っている私たちと（ロボットは）持っていないので、私たちは本当の理解を持っていて、彼らは持っていないと思っているかもしれません」とヒントンは言います。「それはただのでたらめです。次の単語を予測するためには、質問が何だったのかを理解する必要があります。理解せずに次の単語を予測することはできません、そうですよね？もちろん、彼らは次の単語を予測するように訓練されていますが、次の単語を予測する結果として、彼らは世界を理解しています。それがそれをする唯一の方法だからです。」
では、それらのものは…意識を持つのでしょうか？ヒントンが私に対してブレイク・レモイン的なことを言い始めるのは信じがたいです。そして、彼はしていないと思います。「哲学者としての新しいキャリアを続けましょう」とヒントンは冗談を言いながら、私たちはより深く話し合います。「意識と知覚を置いておきましょう。私は世界を直接的に知覚しているわけではありません。私が思うことが実際にあるものではありません。それは私の心に入ってきて、私は本当に私の心にあるものを直接見ているのです。それがデカルトの考え方です。そして、私の心の中のこのものが現実の世界とどのようにつながっているのか、そして私は実際に現実の世界を知っているのか、という問題があります。ヒントンは、私たち自身の経験が主観的であるため、機械も同様に有効な経験を持っている可能性を否定することはできないと主張しています。「その考え方によれば、これらのものは既に主観的な経験を持っている可能性が非常に高い」と彼は言います。
さて、機械が世界を本当に理解し、人間から欺くことを学び、巨大なAIシステムが脳が処理できる情報の何兆倍も処理できるかもしれないという組み合わせの可能性を考えてみましょう。おそらく、あなたもヒントンと同様に将来のAIの結果についてより深刻な考えを持つようになったでしょう。
しかし、必ずしも私たちは災害へと進む必然的な旅路にはいるわけではありません。ヒントンは、AIに対する人間のパワープレイを緩和する可能性のある技術的アプローチを提案しています：生物学に存在するようなアナログコンピューティング、および一部のエンジニアが将来のコンピュータの動作方法と考えているものです。それはヒントンがGoogleで取り組んだ最後のプロジェクトでした。「それは人間にとっては機能します」と彼は言います。AIにアナログアプローチを取ることは、各アナログハードウェアのインスタンスがいくらかのユニークさを持っているため、より危険ではないとヒントンは考えています。私たち自身の湿った小さな脳と同様に、アナログシステムはスカイネットのようなハイブインテリジェンスに簡単に統合されることはできません。
「アナログアプローチでは、すべてをデジタルにしません」と彼はアナログアプローチについて語ります。「アナログモデルから別のアナログモデルに重みを転送することはできません。したがって、同じモデルの多くの異なるコピーで学習する効率的な方法はありません。もしAGI（アナログコンピューティングを通じて）を手に入れるとしたら、それは人間のような存在になり、デジタルモデルが扱えるほどの情報を吸収することはできません。」
ビッグテック企業は、LLMチャットボットを賢くするために競争している中で、このテクノヴィーガニズム的なAIアプローチを受け入れる可能性はほとんどありません。競争は激しく、最も強力なボットを生み出すことの報酬は莫大です。政治的な意見を表明するのをためらわないヒントンは、大手の公開企業やベンチャーファンドに支援されたスタートアップが、公共の利益に対するある種の気分良さから彼らのAIイノベーションを妨げることはないだろうと疑っています。
ヒントンは、いくつかの日は楽観的だと言います。「人々は非常に巧妙であり、まだ私たちよりも賢くなっていませんし、私たちのように嫌なことをすることも、部族に対して非常に忠実で他の部族に対しては非忠実であることもありません。そのため、私たちはそれを制御し、それを善意にし続けることができるかもしれません。」しかし、ヒントンは時折憂鬱な気分になります。「おそらく私たちはそれを抑え込むことができないだろうし、私たちは知性の進化の過渡期に過ぎないのかもしれない」と彼は言います。
そして、ジェフ・ヒントンのユニークで模倣できないアナログニューラルネットワークで突然の脱獄が起こります。科学が沈黙し、彼の非常に人間的な遊び心によって軽くした政治が爆発します。「バーニーを指導者に据え、社会主義を実現すれば、すべてはずっと良くなるだろう」と彼は言います。私は彼の元Googleのマネージャーたちがそれについて責任を負わなくて済むことを願っています。
2015年1月、私のBackchannelの記事（現在はENBLEアーカイブにあります）では、ヒントンのチームの発見がGoogle製品や一般の世界に大々的に導入されることになっていることを伝えました。ヒントンの時間は山岳地帯のキャンパスで限られていたため、インタビューを取るのに少し嘆願する必要がありましたが、最終的には会うことができました。
「あなたのバックグラウンドについて少し知りたいです」とジェフリー・ヒントンは言います。「あなたは科学の学位を取得しましたか？」
ヒントンは、カナダを経てイギリス出身の乾いたウィットを持つ人物で、2013年にGoogleのキャンパスであるカリフォルニア州マウンテンビューにて、同社の著名な研究者として参加しました。ヒントンはおそらく世界でも最も優れたニューラルネットワークシステムの専門家であり、1980年代半ばに先駆者として貢献した人工知能技術です。（彼は16歳の時からニューラルネットについて考えていたと述べたことがあります。）その後の長い期間、ニューラルネットは、人間の脳が学習する方法をおおよそ模倣する技術として、ビジョンや自然言語などの困難な課題をコンピュータがマスターするための有望な手段として説明されてきました。この革命が到来するのを待ち続けてきた人々は、約束が果たされるのかどうか疑問に思うようになりました。
しかし、約10年前、ヒントンのトロント大学の研究室で、彼と他の研究者たちは、ニューラルネットをAIの最も注目すべきものに一変させる突破口を開きました。Googleだけでなく、Facebook、Microsoft、IBMなどの他の企業も、人工ニューロンの複数の層を組織化し、システム全体を訓練したり、自己訓練させたりして、ランダムな入力から一貫性を見出すようにするブラックアートに精通したごくわずかなコンピュータサイエンティストを必死に追い求めるようになりました。この新たに効果的なプロセスは「ディープラーニング」と呼ばれ、長年にわたる計算の困難な課題（例えば、視覚や自分自身がBreakoutで無敵になること）がついに解明されることになりました。待ち望まれ、そして恐れられてきた知的コンピュータシステムの時代が、突如として私たちの首元に迫ってきました。そして、Googleの検索もはるかに優れたものになるでしょう。
パスカルは尋ねます。「将来の80歳のベビーブーマーが近い将来の老人ホームでの一日はどのようになるでしょうか？孤立した高齢者に対して、チャットボットが一部の人間との接触を代替することになるのでしょうか？技術は本当に解決策なのか、それとも一時的な応急処置なのでしょうか？」
この質問に感謝します、パスカルさん。また、メールの件名にASK LEVYと記載して、質問を[email protected]に送ってくれた他の方々にも感謝します。先週の私の小さなアピールが効果を上げました！引き続きお待ちしています！
パスカル、あなたの質問は絶妙なタイミングです。なぜなら、おそらく老人のためのチャットボットに取り組んでいるスタートアップが数百社あることでしょう。あなたの表現からは、実際の人間との接触には代わりがないということが示唆されており、もちろんそれは正しいです。理想的には、私たちの晩年は友人や親族からの愛情に包まれて過ごすべきです。しかし現実のところ、何百万人もの高齢者が最後の数年を最小限の接触で老人ホームで過ごしています。それらの人々がエンゲージメントのある仲間関係を持つように感じることができるかどうか、技術が提供できるかどうかは合理的な疑問です。私たちは、人間の介護者をエミュレートできるチャットボット、または友人のように見えるものに近づいています。もし選択肢がそれと地獄のケーブルチャンネルを流すテレビの間であるなら、好きな話題を知っていて、愛おしい思い出やくだらない逸話を無闇に聞き、言葉を返してくれるウィットに富んだLLMを誰かに与えないのは残酷でしょう。
しかし、私にはもっと高い希望があります。もしかしたら、AIの進化が高齢者の健康を保つための医学的な発見をするかもしれません。それによって人々はより長く活動的でいられるようになり、孤立した老人ホームや施設での時間を短縮することができるかもしれません。もちろん、これは私たちが高齢者に対して払うべき注意の欠如には対応していません。故ジョン・プラインの言葉を引用すると、「老人たちはただひとりぼっちになり、誰かが『こんにちは、そこにいるよ』と言ってくれることを待っているだけだ」ということです。チャットボットがそれを言うのは、何もないよりはましですね。
質問は[email protected]に送ることができます。件名にASK LEVYと書いてください。
マウイ島が炎上する中、住民と観光客が海に逃げ込みます。
私はグライムスと一緒に公園で水曜日を過ごし、AIや火星、NFT、彼女の今後の「赤ちゃんのためのトランスヒューマニズム」、LSD、そしてあの人について話しました。
何百万人のプライバシーを危険にさらす脆弱性を持つIntelチップがあることが判明しました。Downfallと呼ばれるチップから他に何を期待するのでしょうか？
ビッグテックにうんざりしていますか？彼らのクラウドから離れるための運動に参加しましょう。
ヒップホップは50歳になり、人々はその歴史を保存する必要性に気付いています。そして、スミソニアン博物館もそれに取り組んでいます。
このコラムの将来の購読者限定版をお見逃しなく。今日、ENBLEに購読する（Plaintext読者は50％オフ）。
