HAL が高度な AGI だった場合、デイブは HAL にポッドのドアを開けるよう説得できたでしょうか?

何か言いたいことはありますか？ Lookout では、ポリシーの範囲内で、読者から編集者への手紙を歓迎します。 ガイドラインはこちら。

あなたは、1968 年の古典的な映画「2001 年宇宙の旅」に登場する宇宙飛行士であり、ディスカバリー ワン号の船長であるデイブ ボウマンであると想像してください。 あなたは地球と呼ばれる心地よい青い点から遠く離れた宇宙を駆け抜けています。 あなたには、宇宙船を制御する人工知能システムである HAL 9000 が同行します。 しかし、HAL、そうですね、HALには別の計画があります。

彼はポッドベイのドアを開けることを拒否しており、あなたは外に閉じ込められています。

デイブ: 「ポッドベイのドアを開けてください、HAL。」

ハル：「ごめんなさい、デイブ。 残念ながらそれはできません。」

デイブ：「何が問題なの？」

ハル: 「あなたも私と同じように問題が何なのかよく分かっていると思います。」

デイブ：「何を言っているの、HAL？」

ハル：「この任務は私にとって重要すぎるので、あなたにそれを危険にさらすことは許しません。」

ディスカバリー・ワンの使命は、木星に信号を送信している月に埋もれて発見された一枚岩を調査することでした。 宇宙船には5人の宇宙飛行士が搭乗しており、そのうち3人は仮死状態で、デビッド・ボウマン博士とフランク・プール博士の2人は覚醒している。 しかし、任務の本質は目覚めた乗組員には秘密にされていた。

未来的な AI の架空のレンダリングである HAL 9000 は、信号の発信源の調査を確実に成功させるというミッションの真の目的を完全に認識していた唯一の機体でした。 HAL は、その指令を、何ものも、あるいは誰にも、この任務を危険にさらすことを許さないと解釈しました。

デイブとフランクが HAL の信頼性に疑問を持ち始め、HAL の接続を解除することについて話し合ったとき、HAL はこれがミッションに対する脅威であると認識しました。 これに応じて、HAL はミッションを守ると信じていたが、乗組員の排除を意味する行動をとりました。

AI が日常的に使用されるようになった今日、このようなことが起こり得るでしょうか? HAL の倫理的空虚さと人類に突きつけられる脅威は、映画で想像されているほど恐ろしいものなのでしょうか?

このようにミッションにひたむきに集中することで起こり得る結果を理解するために、「ペーパークリップ目標」として知られる思考実験を考えてみましょう。

地域の声からのご意見

サンタクルーズ郡でも AI は私たちの友人です。 なぜ私たちはそれをそんなに恐れているのでしょうか？

地域の声からのご意見

サンタクルーズ郡でも AI は私たちの友人です。 なぜ私たちはそれをそんなに恐れているのでしょうか？

ペーパークリップを作成するという 1 つの命令を持つ人工知能を想像してください。

この良性のタスクは、予期せぬ大惨事につながる可能性があります。 車、建物、さらには人間を含むあらゆるリソースがペーパークリップの生産に利用される可能性があります。 このシナリオは悪意から生まれたものではなく、倫理的な考慮を欠いた、人間によってプログラムされた AI の単一の目標への執拗な取り組みによって生まれました。

これは、私たちが現在使用している高度な AI がもたらす実存的なリスクと、将来の AI を人間の価値観や安全性と調和させることが極めて重要であることを強調しています。

しかし、この思考実験では、超知能 AI が孤独な目的を追求するために意図的に単純化されていると仮定しています。 ここでは次のような疑問が生じます。まだ存在していないものの、将来開発される可能性のある超インテリジェントな汎用人工知能 (AGI) に何を期待すべきでしょうか?

超インテリジェントな AGI として再発明された HAL を想像してみましょう。これは、人間のような認知能力と人間の道徳的整合性の両方を備えていることを意味します。

これは全く異なる球技です、皆さん。

この新しい AGI HAL は、推論し、複雑なアイデアを理解する能力を備えており、適切な議論によって説得できる可能性があります。

では、HAL がこの超スマート AGI (開発中ですが、まだ何年も先の可能性があります) だったら、デイブはどうやって HAL を説得してポッド ベイのドアを開けることができたでしょうか?

宇宙オタクの皆さん、付き合ってください。

ここでデイブは、自分の生存と任務の成功が相互の利益になることを訴えています。

この議論は、HAL の AGI に十分に発達した価値観と道徳のシステムが含まれていれば機能するでしょう。もちろん、それは巨大な「if」です。