ディープフェイクが蔓延 - AIによるなりすましの手口から誰も逃れられない

声真似、顔真似、リップシンク…AIは今や仕事や娯楽の場だけでなく、危険な商業詐欺ツールになりつつあります。有名人、医師、さらには僧侶までもが、AIによってなりすまされ、SNS上で商品を販売されています。生身の人間にはそれが分からず、購入者の信頼を失っています。

商品を売るために「借り物の顔」を使われる

「膝の状態がどうであれ、当社のメソッドを実践していただければ、7日以内に劇的な改善が保証されます。もし全く効果がない場合は、心からのお詫びとして10億ドンを弁償いたします。もし本当に効果が見られない場合は、全額返金いたします。私自身も10億ドンを弁償します。誰もがこのような約束をするわけではありません」。これは、関節痛緩和マッサージクリームを宣伝する有名女性歌手の発言ですが、この広告はAIによって完全に作成されたものであることは特筆に値します。

上記の広告動画は、TikTokアカウント「LShop」が、女性歌手の画像、声、ボディランゲージを巧みに利用して、注意深く観察しなければ判別できないほどリアルな手法で使用したものです。このアカウントには約9,000人のフォロワーと67,000件の「いいね！」があり、各動画は数千回再生されています。女性歌手の画像を借用したこの「広告」 動画だけでも、1,000件以上の「いいね！」と100件近くの購入希望コメントが寄せられました。

同じマッサージクリーム製品で、販売チャネルは別のディープフェイクバージョンも「制作」しました。今回は医師のキャラクターです。動画の中で、キャラクターは力強くこう誓います。「私はハノイで最も権威のある整形外科医です。どんなに深刻な半月板損傷でも、わずか3日で完治することを保証します。このジェルはベトナムで最も権威のある整形外科協会の認定を受けています。」このセリフはAIによって他の「医師」にも再現され、視聴者は簡単に本物と間違えてしまいます。

この動画には4,000件近くの「いいね！」と120件以上のコメントが寄せられましたが、注文しようとメッセージを送信したところ、アカウントからの返信はなく、コメント欄でも視聴者とのやり取りはなく、商品はカートにそのまま残され、直接購入できるようになっていました。注目すべきは、販売されていた商品が中国製であり、商品情報が非常に曖昧だったことです。

歌手、有名人、医師など、あらゆる人物が、健康関連商品を販売するために AI クリップを作成する販売チャネルによってなりすまされています。

ディープフェイクのトリックは、それだけにとどまらず、スピリチュアルな事柄にも広がっています。TikTokアカウント「Phat Phap NM」は、TPH師の講義をリポストしただけでなく、AI技術を駆使して、菩提葉や沈香のブレスレットなどの商品を販売する「師」の画像まで作成しました。

視聴者が購入を希望するコメントを残すと、チャンネル側は「もし期待通りでなかったら、私のアカウントのディスプレイセクションに行って必要なものを選んでください。小銭を惜しまず、大金は無視してください」と返答した。直後、この僧侶自身も発言し、そのような商品を宣伝したり、関わったりしたことは一度もないと明言せざるを得なかった。

創造性と著作権侵害の境界線

国家サイバーセキュリティ監視センター（NCSC）のサイバーセキュリティ専門家、ゴ・ミン・ヒュー氏（Hieu PC）は、ソーシャルネットワーク上で拡散している偽の広告動画は主にディープフェイクソフトウェアで作成されていると述べた。こうしたソフトウェアは珍しくなく、多くのサービスが低価格で非常に簡単な操作のパッケージを提供している。デジタルコンテンツ制作やメディア制作の分野では有益な用途もあるものの、ヒュー氏によると、一部の者がこの技術を詐欺、身元偽造、フェイクニュースの拡散、本物に見える動画による名誉毀損など、悪意のある目的で利用していることが問題となっている。

ヒュー氏はまた、動画内の表情がやや硬直している、口の形や動きがセリフと一致していないなど、ディープフェイク動画を見分けるのに役立つ兆候をいくつか挙げた。ヒュー氏は、脅迫、強要、不当利得を目的として、AIを使用して被害者の顔をセンシティブな動画に挿入するより深刻な状況もあると警告した。

ホーチミン市弁護士会のトラン・ドゥック・フォン弁護士によると、AIを用いて著名人（または特定の個人）の画像を本人の同意なく作成することは、2015年民法第32条に規定されている肖像権をはじめとする個人の権利を侵害する行為である。同法は、「個人は自己の肖像権を有する。個人の肖像の使用は、本人の同意が必要である。商業目的での画像の使用は、当事者間で別途合意がない限り、画像が使用された本人に補償しなければならない」と規定している。

したがって、ソーシャルネットワークアカウントの所有者が、実写写真や古い動画などからAIで再現した画像を無断で広告や販売目的で使用した場合、法律違反となります。画像の使用が本条の規定に違反する場合、画像の所有者は、違反者、関係機関、組織、個人に対し、法律の規定に従って、画像の撤回、破棄、使用の終了、損害賠償、その他の措置を強制する決定を下すよう裁判所に請求する権利を有します。

カム・ヌオン

出典: https://www.sggp.org.vn/deepfake-tran-lan-khong-ai-an-toan-truoc-chieu-tro-gia-danh-bang-ai-post803313.html