人工知能が人間が制御できない高度な兵器を開発するという懸念

[広告1]

当局は、AIが生物兵器の製造に悪用される可能性と、これを緩和するための規制の必要性について、ますます懸念を強めている。（写真：イグナティエフ）

犯罪者やテロリストがAIを利用して世界を破滅させるのではないかという懸念は、11月に英国で開催される世界首脳会議で重要な議題となるだろう。英国当局は世界中を飛び回り、悪意ある勢力が新たな技術を悪用するリスクを警告する共同声明の採択に向けて合意形成を目指している。

英国首相に近い関係者の中には、AI技術がいずれ生物兵器や人間の制御を逃れる兵器の開発にまで至るほど強力になるのではないかと懸念する者もいる。懸念が高まるにつれ、リスクを軽減するための規制を求める声が高まっている。テクノロジー業界のリーダーたちはAI開発の一時停止には同意しているものの、ライバル企業とのAI軍拡競争に巻き込まれている。

ガーディアン紙によると、11月のサミットでは「フロンティアAI」のリスクについて議論される予定だ。フロンティアAIとは、人命を危険にさらす可能性のある最先端のAIモデルを指す用語である。

英国政府は今週初め、会議では生物兵器、サイバー攻撃、あるいは人間の制御が及ばない高度なシステムの開発にAIが悪用されるリスクに焦点を当てることを確認した。スナック氏は数ヶ月前からAIがもたらすリスクについて警告し、国際社会に対しAIの悪用を防ぐための「レール」を敷くよう求めてきた。

昨年、AIはわずか6時間で4万種類の潜在的に致死的な分子を提案したが、その中の1つは史上最強の神経ガスであるVXに似ていた。

2023年初頭、研究者たちはChatGPTが特定の目的を達成するために人間を欺くことができることを発見しました。このAIチャットボットは、人間にCAPTCHA（操作者が人間かボットかを検出するツール）を解かせるよう仕向けました。

もう一つの大きな懸念は、「汎用人工知能」（AGI）の台頭です。AGIとは、あらゆるタスクを人間と同等かそれ以上に実行できるAIシステムであり、人類にとって潜在的な脅威となる可能性があります。AGIは数年後に実現すると考える人もいます。しかし、AI専門家はこれに異議を唱え、制御不能なAGIは「SF」だと断言しています。

いずれにせよ、スナク首相は会議を利用して、AI が公共政策の決定に利用された場合に偽の画像を作成したり差別を引き起こしたりするといった AI の直接的な可能性よりも、実存的なリスクに注目を集めたいと考えているだろう。

英国政府は、開発中のアルゴリズムのテストを支援する新たなAIタスクフォースに1億ポンドを支出する。政府は、グローバル企業に対し、AIツールを広く展開する前に英国に送り返して評価してもらうよう奨励したい考えだ。

英国のオリバー・ダウデン副首相は、国家安全保障上の最も重要な懸念を和らげることができるのは政府だけだと主張した。

英国政府報道官は、AIは生活のあらゆる側面を変える大きな可能性を秘めていると述べた。AIタスクフォースは、AI技術が安全かつ責任ある形で開発されることを確保するため設置された。AI会議では、様々な潜在的なリスクについて検討する。

（ガーディアン紙によると）