多くの新聞社にとって、コメント欄は読者が多様な考えや経験、視点を投稿できる素晴らしいスペースですが、議論や攻撃的な言葉が溢れ、貴重な意見がかき消されてしまうような否定的な意見の温床になる可能性もあります。
これは、フィナンシャル・タイムズのコミュニティエディター、ルーシー・ワーウィック＝チン氏が直面した課題でした。フィナンシャル・タイムズには専任のモデレーターチームがいますが、毎週数百もの記事が公開されるため、ペースに追いつくことができず、ほとんどの記事はコメントを受け付けていません。また、誰も席にいない週末には、有害な議論が制御不能に陥るのを防ぐため、すべてのコメント欄を閉鎖することにも決めました。
追加のモデレーターを雇うのは費用がかかりすぎ、独自のモデレーションシステムを構築するのは面倒すぎました。そこでワーウィック＝チン氏のチームは、Utopia Analyticsの既製のモデレーションツールを導入しました。このツールは、20万件もの実際の読者コメントで学習させ、礼儀正しく、議論を交わさず、話題から外れた議論を認識できるようにしました。
AIツールは、複雑な言語であっても性差別的・人種差別的なコメントを識別できる。写真：Eidosmedia
このツールが初めて導入された当初、FTは承認するコメントをすべて手作業で確認する必要がありました。このツールが適切なモデレーション判断を下せるようになるまでには数ヶ月かかりました。現在では、FTの読者が複雑な言葉遣いをするにもかかわらず、性差別的および人種差別的なコメントのほとんどを検知しています。
「完璧ではないし、まだ進行中だ」とワーウィック・チン氏は6カ月後に語った。
それでも、その影響は甚大です。以前は、モデレーターはほとんどの時間を否定的なコメントのフィルタリングに費やしていました。今ではAIが多くの重労働を担ってくれるので、モデレーターはコミュニティの構築に集中できます。
AIツールはコメントのモデレーションに効果的であるだけでなく、感情的に有害なコメントへの対応においても人間に代わって機能します。AIはコメントから生じるネガティブな感情の多くを吸収し、人間をネガティブな感情から守っています。
最も重要なのは、ワーウィック＝チン氏によると、AIツールの導入によってモデレーターの職が失われることはないという点です。「モデレーションツールを導入した当初から、これは人員削減ではなく、モデレーターが仕事をするための環境を作ることであることを明確にしていました。」
これまでのところ、AIツールは良好な結果をもたらしています。読者からは、コメント欄の礼儀正しさが向上したとメールで報告があり、コメントが不当に拒否されたという重大な苦情は寄せられていません。
ジャーナリストもまた、コメントのメリットが大幅に増加したことを実感しています。読者からの貴重な意見が記事を豊かにするからです。また、AIを活用することで、モデレーターは本来の業務である、誰にとっても居心地が良く有益な情報空間を育むことに集中できるようになったことも分かりました。
ホアイ・フオン氏（ジャーナリズムによる）
[広告2]
出典: https://www.congluan.vn/cong-cu-ai-co-the-giup-cac-toa-soan-kiem-duyet-binh-luan-nhu-the-nao-post298847.html
コメント (0)