テクノロジーが倫理的境界を越えるのを防ぐ

急速な進歩を遂げる人工知能（AI）は、医療、教育、ビジネス、そして日常生活に至るまで、多くの分野に「革命」をもたらしています。しかし、この技術の負の側面は、サイバー空間における情報の管理と制御に大きな課題をもたらしています。

AIが生成したフェイクニュースが氾濫

AI によって生成された偽のニュースは、主に視聴回数やいいね数を増やしたり、オンラインで販売したり、プラットフォームから利益を得るために、ソーシャルメディアプラットフォーム上で拡散されます。

フェイクニュースを作成する人々は、しばしば社会の関心が高い時事問題を「追う」傾向があります。例えば、9月17日にクアンチ省ラオバオ村タンロン市場で発生した深刻な交通事故では、12人が負傷・死亡する事態となりました。その後、ソーシャルメディアには多くの悲痛な画像が投稿され、多くの視聴者の涙を誘いました。これらの画像はAIによって作成されたものであると判断したラオバオ村警察は、誤解を招くようなフェイク画像の拡散行為について警告を発しました。こうした行為は、虚偽情報の拡散を招くだけでなく、捜査にも悪影響を及ぼします。

同様に、7月19日にクアンニン省ハロン湾で転覆し、数十人の犠牲者を出した観光船「ブルーベイ58号」の事故をめぐる世間の注目に乗じて、多くのソーシャルメディアアカウントが犠牲者に関する感動的な画像や体験談を投稿しました。しかし、これらのコンテンツの多くは偽物であり、ソーシャルメディアユーザーの感情を「刺激」し、交流を促すためにAIを用いて作成されました。特に、同情的な内容を誇張した偽画像の蔓延は、犠牲者の遺族にさらなる精神的トラウマを与える可能性があります。

AI技術は日々進化しており、簡単なコマンドで数分で、ユーザーの意図を忠実に捉えた魅力的な動画を作成できます。特に、KlingAI、Veo 3、Soraといった新世代AIプラットフォームは、ベトナムを含む世界中のユーザーに大変人気があります。

さらに、ディープラーニングとフェイクを組み合わせたディープフェイク技術は、偽物と見分けるのが非常に困難な、リアルな画像、音声、動画を作成できるため、世界的に大きな懸念を引き起こしています。その結果、ベトナム国内および世界中で、この技術に関連した詐欺が相次いで発生しています。

国家サイバーセキュリティ協会常任副会長のグエン・ミン・チン中将は、AIを違法目的に悪用する傾向があると指摘しました。特に、AIツールやアプリケーションを提供するサービス（PV）であるAI-as-a-Serviceは、サイバー犯罪者によって悪用され、悪意のあるコード、偽の音声、顔、テキストなどを作成し、詐欺、ネットワーク攻撃、データシステムへの侵入、さらにはセキュリティの不安定化を引き起こし、組織、企業、そしてリーダーの評判を失墜させる目的で利用されています。

サイバーピース・カンパニー・リミテッド（CyPeace）のテクニカルディレクター、トラン・ゴック・アン氏によると、AIユーザーにとってのリスクの一つは、このツール自体が作成した偽情報を受け取る可能性があることです。さらに、機密情報や個人情報の漏洩など、他にも様々な問題があります。

テクノロジーが倫理的境界を越えることを防ぐ - 写真 1。

テクノロジーが倫理的境界を越えることを防ぐ - 写真 2。

視聴者の「涙を誘う」ために偽の画像がインターネット上で拡散され、「いいね！」を集めたり、交流を増やしたりしている（スクリーンショット）

ユーザーの責任を高める

AIの開発と利用を厳しく管理する技術的・法的措置が講じられる前に、ユーザーは責任を持って積極的にこの技術を利用する必要があります。

国家サイバーセキュリティ協会技術部門責任者でサイバーセキュリティ専門家のヴー・ゴック・ソン氏は、AIを活用・利用する主体は人間であるため、AIの良い面と悪い面は人間と密接に関係していると指摘した。ユーザーが適切な資格を持ち、AIを良い目的に活用すれば、AIはその有益な長所を最大限に発揮する。逆に、AIユーザーが理解不足であったり、違法な目的で利用したりすると、深刻な結果を招く可能性がある。「AIを効果的に活用・活用するには、チームとプロセスの構築に重点を置く必要があります。AIは、それを使いこなせる人の手に渡って初めて、その価値を高めるのです」と、サイバーセキュリティ専門家は述べた。

ディープフェイクは現在、テクノロジー詐欺の主力ツールとなっているが、その危険性から、投資・事業法の起草過程において、財政部は次のように強調した。「ディープフェイク技術ビジネスは、技術の悪用による情報混乱や詐欺などの発生を防ぐため、条件付きの事業分野として規制する必要がある。」財政部によると、現在、ディープフェイク技術ビジネスは新たな分野の一つであり、安全と秩序に複雑なリスクをもたらしているが、条件付きの事業分野としては規制されていない。

ハノイ弁護士会のトラン・アン・トゥアン弁護士によると、AIを用いて無断でコンテンツを作成した場合、特に虚偽、偽造、詐欺的な情報を作成した場合、民法の規定に違反する可能性がある。違反者は行政処分または損害賠償の対象となる。深刻な結果となった場合は、刑事責任を問われる可能性がある。トゥアン弁護士は、「ユーザーはAIとの接触や利用において注意を払う必要があり、視聴回数やいいね！を獲得するためにAIを利用することは絶対に避けるべきです。AIを使用する際も、オンライン環境に参加する際も、個人の責任を強化し、法令を遵守する必要があります」と勧告した。

グエン・ミン・チン中将は、持続可能なAI開発の中核となるのは人材であると強調した。研究者、エンジニア、サイバーセキュリティの専門家から管理者、そしてユーザーに至るまで、全員が知識、スキル、倫理、そして法的意識を十分に備えている必要がある。チン中将によると、人材はAIシステムを構築・運用するチームであるだけでなく、サイバー空間におけるハイテク犯罪の防止、検知、そして対策における重要な力でもある。

ベトナムは人工知能に関する法律を制定する

最近開催されたAIに関する全国科学会議において、グエン・マイン・フン科学技術大臣は、「AIは大きな可能性をもたらす一方で、倫理、雇用、社会的な信頼など多くの問題も引き起こす。したがって、AIは迅速かつ安全かつ人道的に開発されなければならない」と述べた。

グエン・マイン・フン大臣によると、AIは人間に取って代わるものではなく、人間に奉仕し、人間を補佐するものである。AIは強力なツールではあるが、意思決定を行うのは人間である。したがって、AIは人間の思考、価値観、責任を代替するのではなく、サポートするものでなければならない。「科学技術省は、国際基準に準拠しつつもベトナムの実務に適合する国家AI倫理規範を制定するとともに、AI法とAI戦略を策定する」とグエン・マイン・フン大臣は述べた。

出典: https://nld.com.vn/ngan-cong-nghe-vuot-ranh-gioi-dao-duc-196250923205638915.htm