親が写真をオンラインに投稿すると、子供がAIの被害者になる危険がある

[広告1]

特にソーシャルネットワーク、そしてインターネット全般における情報と繋がりの爆発的な増加により、多くの人が、その危険性を予期することなく、私生活における感情や出来事をすべてインターネット上で共有する習慣を身につけています。自分の写真や動画をオンラインに投稿するだけでなく、多くの大人が、子供の顔や声を含むコンテンツを許可なく投稿する権利を自らに与えてしまっています。これらの写真や動画がオンラインに公開されると、アクセス権を持つ人なら誰でも、何の制限もなくそれらを利用できるようになります。

ドイツの放送局ドイツテレコムは昨年7月、AI（人工知能）を駆使して幼い子供の画像が様々な目的でオンライン上で悪用される様子を描いた模擬広告を公開した。 「エラからのメッセージ」と題されたこの動画では、AIとディープフェイクを用いて、幼いエラの両親がオンラインに投稿した画像や動画の成人向けバージョンが作られている。

"Ella người lớn" được AI tạo ra từ hình ảnh đăng trên mạng xã hội của cô bé Ella 9 tuổi — ドイツテレコムの警告ビデオに登場する9歳のエラちゃんのソーシャルメディア画像からAIが作成した「大人のエラ」

「AIエラ」はまるで人間のように動き、話すことができ、映画館の大スクリーンに映る娘の姿を見た両親は驚きました。彼女は人間のように泣いたり、感情を表現したりもします。

「あなたにとって、これらの写真は思い出であることは分かっています。でも、他の人にとってはデータです。そして私にとって、これらは恐ろしい未来の始まりになるかもしれません。身元を盗まれたり、何もしていないのに刑務所に入れられたりするかもしれません…あなたがオンラインで共有するものは、私の残りの人生に付きまとうデジタルのマイルストーンなのです」と、AIキャラクターのエラは語った。

たった一枚の写真を共有すれば、AIは9歳の少女の大人版を作り出すことができます。ディープフェイクは動画から音声を抽出し、大人の声に変えてしまいます。画像や動画は完全に偽造可能で、個人識別データは違法な目的で盗まれた貴重な情報となります。さらに、悪意のある人物はオンラインで収集した画像を切り貼りしたり、AIを使って児童ポルノや、真実を嘲笑し、中傷し、歪曲する一連の写真を作成したりすることも可能です。

「最近の調査によると、平均的な5歳児は、本人の同意なしにネット上に約1,500枚の写真を掲載されている。掲載したのは、本人が最も信頼する母親か父親だ」とドイツテレコムのコミュニケーション・マーケティング部長、クリスチャン・レーファート氏は述べた。

ニューヨーカー誌によると、専門家は2030年までに、個人情報窃盗の3分の2がソーシャルメディア上での無制限の写真共有によって引き起こされると予測しています。ドイツテレコムも、現在75%以上の親が子供に関するデータをソーシャルメディアで共有しているという報告を引用しています。一方、10人中8人の親は、実際に会ったことのないソーシャルメディアユーザーからアカウントをフォローされています。

最近、AIツールの開発はますます「普及」し、モバイルデバイス上の様々なアプリケーションを通じて一般ユーザーにも浸透しています。しかし、多くの人がこれらのプログラムに十分な注意を払わず、SNSに投稿するために個人や家族の写真を不用意に提供してしまいます。こうした行為は、顔の構造から周囲の環境に至るまで、人間について学習するための膨大なデータをAIに無意識のうちに無料で提供してしまうことになりかねません。

多くのセキュリティ専門家は、新たな傾向があっても、いかなる状況においてもユーザーは依然として用心深く、ソーシャルネットワークでの数分間の楽しみのために個人データ、特に自分自身や大切な人の顔データを交換すべきではないと警告しています。

[広告2]
ソースリンク