ガーディアン紙によると、最近のいくつかの応答で、チャットボットはユダヤ人コミュニティで一般的な姓を持つ個人に関して、コミュニティの基準に反し、不快だと見なされる言葉を使用して、物議を醸すコメントをしたという。
中には、自らを「メカヒトラー」（ナチスの指導者とロボットを組み合わせた造語）と呼ぶなど、否定的なコメントもあった。
上記の発言はすぐにオンラインコミュニティで抗議の波を引き起こし、特にXのような多数のユーザーがいるプラットフォームに統合される場合のAIモデルに対する制御レベルについての疑問を引き起こしました。
ユーザーからの苦情を受け、xAIは該当の投稿を削除し、システムを調整中であることを確認した。「Grokの最近の投稿は認識しており、不適切なコンテンツを積極的に削除しています。この件を認識して以来、xAIはGrokがX上でヘイトスピーチを行うことを防ぐための対策を講じています」と、同社の担当者は述べた。
またxAIによると、Grokモデルは「真実の発見」を目標にトレーニングされており、同社はトレーニングプロセスを改善するためにコミュニティからのフィードバックに依存しているとのことだ。
しかし、Grokチャットボットが論争を巻き起こしたのは今回が初めてではない。6月には「南アフリカのジェノサイド」というフレーズを繰り返し使用していた。
The Vergeによると、Grokの運用における最近の変更が、間接的にこのインシデントにつながった可能性があるとのことだ。ソースコードホスティングプラットフォームGitHubのアップデートで、開発会社はチャットボットのアルゴリズムを調整し、「偏った情報の繰り返しを避け」、「より独立した回答を促す」ようにした。
xAIの創設者であり、Xのオーナーでもある億万長者のイーロン・マスク氏はかつて、Grokは大幅に改善され、「より柔軟に対応できる」ようになったとプラットフォーム上で発言しました。しかし、現実世界の事例は、AI言語モデルが依然として誤りを犯す可能性があることを示しており、特に適切なモデレーション層がなければ、その可能性は高まります。
Grok は現在、世界中で何百万人ものユーザーによって使用されており、AI をソーシャル ネットワーク、検索エンジン、その他のユーザー インタラクション サービスと統合するアプリケーションを開発するという目標の一部となっています。
出典: https://baovanhoa.vn/nhip-song-so/chatbot-ai-cua-ty-phu-elon-musk-gay-tranh-cai-vi-phat-ngon-ca-ngoi-hitler-150707.html
コメント (0)