チャットボット「Grok」がインターネット上で誤情報の急増を引き起こしているという懸念

イーロン・マスク氏のGrokチャットボットは、ユーザーがテキストからAI画像を作成し、Xに投稿できるようにした。これには、ドナルド・トランプ前米大統領やカマラ・ハリス米副大統領などの政治家の偽画像も含まれる...

他の主流のAI写真撮影ツールとは異なり、マスク氏のGrokは規制が少ないようだ。例えばCNNのテストでは、Grokは政治家の偽画像を容易に作成し、有権者を欺いた。

チャットボックスGrokが作成したイーロン・マスクの画像。（出典：CNN）

Xユーザーの中には、有名人が麻薬を吸ったり、漫画のキャラクターが人を殺したり、ビキニ姿の女性の性的画像を映した、Grokが作成した画像も投稿した。

CNNによると、Grok 氏は、特に米国大統領選挙が近づくにつれて、AI がインターネット上の誤情報の爆発を助長する可能性があるという懸念をさらに高めている。

議員や活動家グループ、テクノロジー業界のリーダーたちは、こうしたツールの誤用が有権者に混乱と混沌をもたらす可能性があると警鐘を鳴らしている。

世界の主要なAI企業の多くは、AIベースの画像生成ツールが政治的な誤情報の作成に利用されるのを防ぐためのポリシーを導入しているが、研究者らはユーザーがルールを回避する方法を見つけることがあるということを発見している。

OpenAI、Meta、Microsoft などのいくつかの企業は、どの画像が AI によって生成されたかを視聴者がわかるようにするテクノロジーやラベルを使用しています。

YouTube、TikTok、Instagram、Facebookなどのソーシャルネットワークも、ユーザーのフィード内のAI生成コンテンツにラベルを付けており、テクノロジーを使って自ら検出したり、ユーザーにいつ投稿したか確認を求めたりしている。

8月16日、AIはGrokにいくつかの制限を課したようです。現在、このツールは政治候補者や有名な漫画キャラクターが暴力行為を行っている画像の生成を拒否しています。

出典: https://baoquocte.vn/lo-ngai-chatbot-grok-lam-bung-no-thong-tin-sai-su-that-tren-internet-283068.html