AIがオンラインでの発言内容を決定するとき

AI - Ảnh 1. — AIがソーシャルメディア上のコメントをスキャンして削除している

YouTube 動画、Facebookの投稿、あるいはオンライン記事にコメントを残すとき、それが誰かに届くかどうかは誰にもわかりません。スペルミスや違法行為が原因ではなく、自動フィルタリングアルゴリズムによってブロックされているだけです。

テクノロジープラットフォームは現在、ヘイトスピーチ、ポルノ、暴力、分断を煽る発言を削除するためにコメントフィルタリングシステムを導入しています。その目的は「コミュニティの安全を守る」ことですが、これらのツールはあまりにもサニタリー化が進み、無神経になってしまっているのでしょうか？

AIが言論の門番となるとき

インターネット黎明期には「生々しい」コメントが自由に投稿されていましたが、今ではほとんどの主要プラットフォームがコンテンツフィルタリングの責任を人工知能に委ねています。機械学習のおかげで、システムは毎日何百万行ものテキストをスキャンし、言語、トーン、さらには「文脈」までも評価して、残すか削除するかを判断できます。

ただし、このシステムは必ずしも正確ではありません。

Ngoc Vy さん (HCMC) は次のようにコメントしました。「商品に関する私のコメントが、何らかの理由で非表示になっていました。悪口やスパムコメントではなく、ただ数秒後に消えたコメントです。」

多くのコンテンツは、全く普通の文脈でセンシティブな言葉が使われているというだけの理由で削除されています。「貧困」「飢餓」「政策」「システム」といったフレーズは、機械が文の本質を「読み取る」ことができない場合、否定的な意味合いと誤解されることがあります。

批判をフィルタリングするか、排除するか?

ドイツの組織「アルゴリズムウォッチ」の警告によれば、自動検閲システムは、文化や視点の点で十分に多様ではない多数派の行動から学習するため、特に恵まれない人々や少数派のグループからの反対意見を意図せず排除してしまう可能性があるという。

ベトナムでは、ソーシャルメディアプラットフォーム、特にインタラクティブ性の高いニュースサイトによるコンテンツの厳格な管理が一般的になりつつあります。時事問題や社会問題に関するコメントは表示が制限されることが多く、あるいは「事前承認」が必要となるため、多くの人が「サイバースペースに言論の自由はまだあるのか？」と疑問を抱いています。

懸念されるのは、ユーザーがコメントが非表示または削除された理由をほとんど知らないことです。通知も、透明性のあるフィードバックの仕組みもありません。すべてが静かに行われ、アルゴリズムによって運営される世界では、沈黙は最も巧妙な検閲になり得ます。