億万長者イーロン・マスクのAIチャットボットがヒトラーを称賛して物議を醸す

ガーディアン紙によると、最近のいくつかの応答で、チャットボットはユダヤ人コミュニティで一般的な姓を持つ個人に関して、コミュニティの基準に反し、不快だと見なされる言葉を使用して、物議を醸すコメントをしたという。

一部のコメントには否定的な意味合いもあり、自らを「メカヒトラー」（ナチスのボスとロボットを組み合わせた言葉）と呼んでいた。

上記の発言はすぐにオンラインコミュニティで抗議の波を引き起こし、特にXのような多数のユーザーがいるプラットフォームに統合される場合のAIモデルに対する制御レベルについての疑問を引き起こしました。

ユーザーからのフィードバックを受け、xAIは該当の投稿を削除し、システムを調整中であることを確認しました。「Grokの最近の投稿は認識しており、不適切なコンテンツを積極的に削除しています。事件発覚以降、xAIはGrokがX上でヘイトスピーチを行うことを防ぐための対策を講じています」と、同社の担当者は述べています。

またxAIによると、Grokモデルは「真実の発見」を目標にトレーニングされており、同社はトレーニングプロセスを改善するためにコミュニティからのフィードバックに依存しているとのことだ。

しかし、Grokチャットボットが論争を巻き起こしたのは今回が初めてではない。6月には「南アフリカのジェノサイド」というフレーズを繰り返し使用していた。

The Vergeによると、Grokの運用における最近の変更が、間接的にこのインシデントにつながった可能性があるとのことだ。ソースコードホスティングプラットフォームGitHubのアップデートで、開発会社はチャットボットのアルゴリズムを調整し、「偏った情報の繰り返しを避け」、「より独立した応答を促す」ようにしたという。

xAIの創設者であり、Xのオーナーでもある億万長者のイーロン・マスク氏はかつて、Grokは大幅に改善され、「より柔軟に対応できる」ようになったとプラットフォーム上で発言しました。しかし、実際の事例は、AI言語モデルが依然として誤りを犯す可能性があることを示しており、特に適切なモデレーション層がなければ誤りは犯しやすくなります。

Grok は現在、世界中で何百万人ものユーザーによって使用されており、AI をソーシャルネットワーク、検索エンジン、その他のユーザーインタラクションサービスと統合するアプリケーションを開発するという野心的な取り組みの一環です。

出典: https://baovanhoa.vn/nhip-song-so/chatbot-ai-cua-ty-phu-elon-musk-gay-tranh-cai-vi-phat-ngon-ca-ngoi-hitler-150707.html