情報セキュリティが脅かされるとき、AI生成画像に注意してください

急速な技術発展の時代において、人工知能（AI）を活用した画像作成のトレンドがソーシャルネットワーキングプラットフォーム上で広がり、多くのユーザー、特に若者の注目を集めています。AIによって作成された写真は創造性に富み、エンターテイメント性、コンテンツのパーソナライズ、個性表現といった様々な目的に活用されています。しかし、その魅力の裏には、セキュリティや情報セキュリティに対する潜在的なリスクが潜んでいます。

娯楽か、それとも潜在的なトリガーか?

ハノイ警察によると、最近、人工知能（AI）を用いて画像を作成するというトレンドが広がり、多くのユーザーの注目を集めています。主に娯楽目的ですが、これらの画像の拡散は多くの潜在的なリスクをはらみ、特に8月革命80周年と9月2日の建国記念日の時期には、情報セキュリティと安全に直接的な影響を与えます。

現在、ユーザーはAIソフトウェアを通じて簡単に画像にアクセス・作成し、Zalo、TikTok、Facebookなどのソーシャルメディアでアバター、ニュース、記事として使用することができます。しかし、ユーザーが注意を怠り、政治的に鈍感であったり、AIによって生成された画像を制御できなかったりすると、ホアンサ諸島とチュオンサ諸島に関する情報が欠落したベトナムの地図画像など、ベトナム国民にふさわしくない不正確な画像を使用することになります。これらの不正確な画像の使用は、サイバー空間における世論に大きな影響を与え、国境主権問題や歴史、そして国民の文化的伝統について誤った認識を形成する可能性があります。

AIが、ホアンサ・チュオンサ諸島が含まれないベトナム地図が印刷されたアオザイの画像を生成。（写真：ハノイ市警察）

ハノイのソーシャルメディアユーザーがAIソフトウェアを使い、ベトナムの地図をプリントしたアオザイの写真を作成し、TikTokに投稿して「国家の誇り」トレンドに応えようとしました。しかし、AIが作成した画像にはホアンサ諸島とチュオンサ諸島が写っていませんでした。この投稿は瞬く間に拡散し、数千回もの閲覧とシェアを獲得しましたが、オンラインコミュニティからは強い反発も受けました。当局は介入し、コンテンツの削除を要求し、国家主権に関する虚偽情報の拡散に警告を発しました。

当局からの警告

ベトナム国営サイバーセキュリティ技術会社（NCS）のテクニカルディレクター、ヴー・ゴック・ソン氏によると、近年、AIとAIベースのアプリケーションは生活のあらゆる分野で急速に発展しています。ChatGPTは、IT専門家ではないほとんどの人が簡単に利用できるアプリケーションであるため、瞬く間に人気を博しました。

ChatGPTは、技術面では既存のAI技術と比べて画期的なものではありません。しかし、データ面では、ChatGPTは様々な分野の膨大なデータに基づいて構築されており、ユーザーに「何でも知っている」という感覚を与えるという点で大きな成功を収めています。それが、ChatGPTのこれまでの大きな魅力でもあります。

セキュリティ面では、ChatGPT自体は質疑応答サービスを提供するために作成されたため、最大のリスクは、ChatGPTがユーザーに回答する内容が、何者かによって操作されたり、「ポイズニング」されたりして、ChatGPTに虚偽の情報を提供させられることです。現在、入力データは同社によって人間によって管理、選別、ラベル付けされているため、ChatGPTが攻撃を受けたという証拠はなく、上記のリスクは限定的です。しかし、今後、このサービスが拡大し、追加の入力データの需要が飛躍的に増加すると、データ管理のリスクから、メーカーはより厳格なセキュリティ対策を講じる必要が出てくるでしょう。

AIソフトウェアは、魅力的で創造的な画像を作成する能力など、多くの利点をもたらしますが、無責任に使用すると「諸刃の剣」となる可能性があります。ハノイ市警察サイバーセキュリティ・ハイテク犯罪対策局は、人々に以下のことを推奨しています。

1. ベトナムの地図の画像、または不正確な画像、法的規制に違反する画像、またはベトナムの伝統、習慣、文化に一致しない画像を作成および使用しないでください。

2. 親族、友人、地域社会と定期的に警告情報を共有し、意識を高め、敵対勢力の陰謀や策略を阻止してください。国民が国の重大な政治的出来事に乗じて違法行為に及ぶことがないようにしてください。

3. 個人データが収集されるリスクを回避するために、検証されていない AI アプリケーションをインストールして使用するときは注意してください。

4. ソーシャルネットワーク上の活動に参加するときは、自分自身とコミュニティに対する責任感を持ちましょう。

違反行為については、法令の規定に従い厳正に対処いたします。

ユーザーとして、サイバー空間に参加する際には、一人ひとりが明確な責任感を持つ必要があります。「流行を追う」ことは、無知や無意識のうちに不正行為を助長することと引き換えにすべきではありません。メディアの役割は、ニュースを報道するだけでなく、世論を方向づけ、真実と国家の価値観を守ることに貢献することです。

出典: https://khoahocdoisong.vn/can-trong-voi-anh-tao-tu-ai-khi-an-ninh-thong-tin-bi-de-doa-post2149050868.html