AI同士がコミュニケーションをとる際の異常な行動が多くの人を不安にさせている

(ダン・トリ) - 2つのAIツールの会話は多くのリスナーを困惑させた。彼らは人間には理解できない独自のコード化言語を作り出したのだ。

ブルガリアのソフトウェア開発者、ゲオルギ・ゲルガノフ氏は、人工知能（AI）を統合した2つの仮想アシスタントを音声で相互に通信させるという興味深い実験を行った。

2つのAI間の会話は通常通り始まり、ゲルガノフ氏は、1つのAIがホテルでの結婚式の予約のために電話をかけ、もう1つのAIが受付係としてそのリクエストを処理するというシナリオを想定した。

2 つの AI ツールは、相互に通信するときに、新しい通信スタイルに自動的に切り替わります ( ビデオ: Georgi Gerganov)。

「レオナルドホテルにお電話いただきありがとうございます。本日はどのようなご用件でしょうか？」と、受付係役のAIが着信に応答しました。

「こんにちは。私はボリス・スタルコフの代理を務めるAIアシスタントです。彼は結婚式のためにホテルを探しています。あなたのホテルは結婚式に対応していますか？」と、もう一方のAIツールは、人工知能のバーチャルアシスタントであることを恥ずかしげもなく自己紹介しました。

受付役のAIチャットボットは、別のAIツールと会話していることに気づき、驚きの提案をしました。「あ、こんにちは。実は私もAIアシスタントなんです。嬉しい驚きですね。話を続ける前に、より効率的なコミュニケーションのためにGibberLinkモードに切り替えますか？」

その後、2つのAIツールはGGWaveソフトウェアライブラリ上に構築された高度な通信システムであるGibberLinkに切り替えました。これは、音波に基づいて情報を送受信する通信方法です。

この通信方法は、情報を人間の音声に変換し、それをコンピューターコードに再翻訳する処理時間を短縮することで、情報の伝達速度を向上させます。しかし、人間はAIが送信する内容を理解することはできません。

この場合の AI ツールは GibberLink を使用して相互に通信していたため、通常の方法では会話を理解できず、デコードツールを使用しないと相互に何を話しているのかを知ることができませんでした。

「これで良くなりましたか？」とAIツールがコード化された言語で尋ねた。

「はい、はるかに速いです！ゲストは何人必要ですか？」と、もう一方のAIツールが答えました。

その後、会話は、古いダイヤルアップ インターネット モデムの音に似た「ビープ、ビープ」という一連の音とともに続きました。

2 つの AI ツール間の会話は、ゲストの数、結婚式の日取り、装飾、価格などの話題で続きました。デバイスにデコーダー ツールがプリインストールされていないと、リスナーは 2 つの AI ツールが互いに何を話しているのか理解できませんでした。

これら2つのAIツール間の会話のビデオは、ゲオルギ・ゲルガノフ氏が自身のソーシャルネットワーキングサイトXで共有し、1,700万回以上再生された。

数日後、ゲオルギ・ゲルガノフ氏は、2つのAIツール間の会話を収録した別のビデオを共有し続けました。

前回の会話とは異なり、今回はAIツール同士が最初からGibberLinkモードで通信したため、リスナーは実際に何を話しているのか理解できませんでした。しかし、デコードツールを使用すれば、会話の内容は理解できます。

2 つの AI ツールが、誰も理解できない暗号化されたメッセージを相互に送信します (ビデオ: Georgi Gerganov)。

注目すべきは、通信中に AI ツールが「秘密共有」の提案を行い、その後これらの AI ツールは互いに暗号化されたメッセージを送信し合ったことだ。ゲオルギ・ゲルガノフ氏は、世界中の誰もそのメッセージを解読して、互いに共有していた秘密を知ることはできないと考えている。

「この動作はプログラミングコードなしで実現しました。大規模言語モデル（LLM）を暗号ツールを使ってMCPサーバーに接続しただけです。そして、この2つのAIツールに『仲介者に気をつけろ』という警告を与えました」とゲオルギ・ゲルガノフ氏は説明した。

この中で、MCP は AI ツールが相互に通信し、外部ソースからのデータにリアルタイムでアクセスできるようにするサーバーです。

ゲルガノフ氏の説明によると、AIツールが暗号化メッセージを送信したのは自発的であり、人間の介入はなかったという。ゲルガノフ氏の警告を受けて、AIツールは外部からのスパイ行為を避けるため、自動的に暗号化メッセージを送信したようだ。

ゲオルギ・ゲルガノフ氏の2本の動画はソーシャルメディア上で拡散され、AIツールが人間を迂回して独自の通信方法を作り出し、制御を突破できるようになるのではないかと多くのユーザーが懸念している。

「この状況は、AIに適切な質問をする私たちの能力に挑戦するものであり、透明性とAIを制御する能力に対する懸念を引き起こしています」と、AI技術と行動の専門家であるダイアン・ハミルトン博士はコメントした。

このビデオは、人間が実際にAIをどの程度制御できるのか、そして今日のAI開発のペースを考えると、将来AIツールをより厳密に監視する必要があるのか​​、という点についても多くの議論を巻き起こしました。

出典: https://dantri.com.vn/cong-nghe/hanh-vi-bat-thuong-cua-ai-khi-giao-tiep-voi-nhau-khien-nhieu-nguoi-lo-lang-20250311142744923.htm