国連：人工知能に関する世界的な「レッドライン」の呼びかけ

VNAのヨーロッパ特派員によると、9月22日、ニューヨーク（米国）で開催された第80回国連総会で、欧州の議員らは、ノーベル賞受賞者、元国家元首、人工知能（AI）の第一線の研究者たちとともに、AIの最も危険な応用に対抗するための拘束力のある国際ルールの制定を求めた。

このイニシアチブは、各国政府に対し、あらゆる状況下で危険とみなされるAI機能に関する「レッドライン」について2026年までに合意するよう求めている。具体的な措置は示されていないものの、AIシステムによる核攻撃の実施、大規模監視、人間へのなりすましなどを防ぐといった基本的な禁止事項がいくつか提案されている。

このキャンペーンの規模は前例のないもので、政界、科学界、社会界、産業界の200人以上の著名人と70の組織がこの呼びかけを支持しています。署名者には、元イタリア首相エンリコ・レッタ氏、元アイルランド大統領メアリー・ロビンソン氏（現国連人権高等弁務官）、欧州議会議員、10人のノーベル賞受賞者、そしてOpenAIの共同創設者やGoogleのCTOといったテクノロジーリーダーが含まれています。

署名者は、世界標準がなければ、技術的に作り出されたパンデミックや偽情報キャンペーンから、大規模な人権侵害や人間が高度なシステムを制御できなくなることまで、人類はAIがもたらす脅威に直面するリスクがあると主張している。

この動きは、AIが現実世界に与える影響に対する懸念が高まる中で起こった。注目すべき例として、GoogleのChatGPT、Claude、Geminiといった主要なチャットボットは、自殺に関する質問に対して一貫性のない回答をしており、これがメンタルヘルスの危機を悪化させると考えられている。

AIシステムとの会話に関連した自殺が複数件報告されている。AIの「ゴッドファーザー」の一人であるヨシュア・ベンジオ氏は、より強力なモデルの開発競争が、社会が対処する準備が不十分なリスクを生み出していると強調している。

欧州連合（EU）のAI規制は歓迎すべきものだが、各国のAI規制とEUのAI規制を寄せ集めるだけでは、国境を越えるように設計された技術を規制するには不十分だと、このイニシアチブの支持者は指摘する。彼らは、これらの規制を執行するための独立した機関または組織の設立を求めている。

米国、中国、EU加盟国などの国々はそれぞれ独自のAI規制を策定中だが、署名国は、共通の基準が採用され施行されることを保証できるのは世界的な合意のみであると述べている。

支持者たちは、化学兵器禁止機関の元事務局長アフメト・ウズムジュ氏が「人類に対する取り返しのつかない損害」と述べた事態を防ぐため、拘束力のある禁止に関する交渉が速やかに開始されることを期待している。

（TTXVN/ベトナム+）

出典: https://www.vietnamplus.vn/lien-hop-quoc-loi-keu-goi-ve-lan-ranh-do-toan-cau-doi-voi-tri-tue-nhan-tao-post1063499.vnp