AIのダークサイドに注意

人工知能（AI）法案の完成に向けてアイデアを提供するワークショップ。（写真：フオン・グエン）

最近の偏見や文書の偽造に関わる事件により、研究者は研究における AI の関与の適切なレベルを再考するようになりました。

最近、言語学博士のグエン・ヴァン・ヒエップ教授が自身の個人ページで、読者に衝撃を与えるエピソードを公開しました。友人から送られてきた情報から、AIが自身の文書を偽造していたことが判明したのです。また、理学博士のトラン・ヴァン・コー准教授の論文もAIによって偽造されていたことを偶然発見したのです。

AIは人間の生活に不可欠な要素となっていますが、専門家は常にAIを補助ツールとしてのみ捉えるべきだと強調しています。AIユーザーは、AIと「協力」した上で得られたデータを処理し、その結果を評価するために、常に注意を払い、十分な知識を身につける必要があります。特に科学研究においては、多くの研究で、データとモデルの偏りが最大の問題であることが示されています。適切に管理されていない場合、AIは偏り、分析結果を歪め、偏見や差別を生み出し、情報を操作する可能性があります。

特に、社会科学研究におけるAIの活用には、より一層の注意が必要です。哲学、言語学、民族学、歴史学といった社会科学の分野は、人間の行動、文化、行動様式を研究対象とするため、データはベトナムの社会文化的背景に深く深く結びついていることが多いのです。AIの学習データが歴史的偏見を反映している場合、AIが性別、階級、人種、あるいは地域間の不平等を悪化させるような結論を導き出す危険性があります。AIが人間の行動分析、公開調査への回答、あるいはメディアコンテンツへの参加に利用される場合、そのリスクはさらに大きくなります。

一部の社会科学の専門家によると、AIは現在、著作権で保護されたデータソースや有料のデータソースにアクセスするのが難しく、その結果、情報が不完全に更新されるという。

もっともらしい物語を作り出すために文書を捏造する現象は、あまり人気のないトピックや、ベトナム語のようにデータソースが限られている言語でよく見られるため、ユーザーに警告する必要があります。AIシステムは一般的に、社会的・文化的文脈を理解する能力が非常に限られているため、曖昧で比喩に富んだ社会科学知識の解釈を支援することは、実際には信頼できるものではありません。

AI は科学研究に大きな可能性をもたらしますが、その応用には細心の注意を払う必要があり、限界があり、常に研究者の批判的思考能力と連携して行われなければなりません。

AIは科学研究に大きな可能性をもたらすものの、その応用には慎重かつ限定的なアプローチが必要であり、研究者の批判的思考能力が常に伴う必要があることがわかります。AIを利用する主体は、AIの利用におけるこれらの限界を明確に認識し、AIが科学の中核的価値観を変えないようにする必要があります。科学研究の完全性を守るためには、科学者の役割と責任を新たなレベルに引き上げる必要があります。さらに、ベトナムの文化、伝統、社会規範を踏まえ、法的拘束力のあるAI倫理枠組みを提案する必要があります。

中国には、科学技術部が提唱する、安全で責任あるAIシステムの研究開発を促進し、悪影響を制限し、リスクを制御するための9つの原則体系があり、データのセキュリティ、ならびに人権と尊厳の尊重、AIユーザーの説明責任を重視しています。特に科学研究においては、国家教授評議会も2023年に公式指令第25号/HDGSNNを発行し、産業界の教授称号委員会および科学論文の品質評価機関に対し、AI技術を使用または支援された論文の検出と評価に特別な注意を払うよう要請しました。これらの要件は、AIを使用した研究結果が依然として科学基準を満たしていることを確保し、科学研究および出版におけるAIの悪用を防止することを目的としています。

今後、AIの使用における倫理と責任に関する厳格な規制を盛り込んだ人工知能法が公布されれば、AI開発のための健全な環境の構築に貢献し、研究活動を行う科学者に対してより積極的かつ責任あるサポートを提供することになるでしょう。

ダンスフェスティバル

出典: https://nhandan.vn/canh-giac-voi-mat-trai-cua-ai-post916545.html