AIが死者を「蘇らせる」際に不快な動画を作成

OpenAIの新しい動画作成ツールは、亡くなった愛する人たちの画像がAIによって不快で歪んだ、時には屈辱的な動画として「復活」し、有名人の家族を危機に陥れている。

マルコムXからホイットニー・ヒューストン、コービー・ブライアントまで、AIが生成した故人のビデオが騒動を引き起こし、AI時代の倫理的限界やイメージ管理についての疑問を提起している。

不快なコンテンツ

公民権活動家マルコムXの娘、イリヤサ・シャバズさんは、父親のAI生成動画を一切見たくないと訴えている。これらの動画は、OpenAIが新たにリリースしたテキスト動画変換ツール「Sora 2」を使って作成されたもので、マルコムXが下品なジョークを飛ばしたり、マーティン・ルーサー・キング牧師と口論したりするシーンが作られていた。

「父の肖像がこのような無分別な方法で利用されるのを見るのは、無礼で胸が張り裂ける思いです。なぜこの技術を開発する人々が、自分の家族に対してと同じような良心と配慮を持って行動しないのか理解できません」とシャバズ氏はワシントン・ポスト紙に語った。

SORA 2は故人の画像から許可なく動画を作成している。写真：ブルームバーグ

SORA 2は、驚くほどリアルな動画を作成できることから、瞬く間に世界的な現象となりました。リリースから数日でダウンロードランキングのトップに躍り出ました。しかし、その急速な普及により、ソーシャルメディアには有名人の偽動画が次々と登場しました。

マイケル・ジャクソン、エルビス・プレスリー、エイミー・ワインハウスの「復活」画像が目まぐるしいスピードで拡散し、多くの視聴者は本物と偽物の区別がつかなくなっている。

「ミスター・ロジャース・ネイバーフッド」の司会者フレッド・ロジャースが2パック・シャクールとラップする動画のように、面白おかしく作られている動画もあります。しかし、制作されるコンテンツの多くは、とにかく過激です。

その中には、警察のカメラの偽のアングルを使ってホイットニー・ヒューストンが酔った状態で再現された動画や、コビー・ブライアントがヘリコプターで飛行中に娘と共に亡くなった事故、ジョン・F・ケネディ元大統領が現代の政治家の暗殺について冗談を言った動画などがあり、いずれもコミュニティの怒りを買った。

緩い規制

OpenAIのポリシーでは、このツールは本人の同意を得た上でのみ実在の人物をシミュレートできると定められています。しかし、最近のリリースでは「歴史上の人物」はこのルールの対象外となり、ユーザーが故人の動画を自由に作成できるようになりました。この決定は、多くの遺族の怒りを買っています。

故俳優ロビン・ウィリアムズの娘、ゼルダ・ウィリアムズは、父親のAI動画が頻繁に送られてきており、「やめてください」と人々に懇願しているとインスタグラムで明かした。

「TikTokがコントロールすることで、現実の人々の遺産がひどい悪ふざけに貶められるのを見るのは狂気の沙汰です」とゼルダは語った。

OpenAIのSora 2利用に関するルールには抜け穴がたくさんある。写真：ブルームバーグ

専門家は、この現象はAI技術の転換点を反映しており、創造性と攻撃性の境界線が曖昧になっていると指摘する。ディープフェイク研究者のヘンリー・アジダー氏は、死者の「人工的な復活」は、個人のイメージと遺産の管理について大きな疑問を提起すると述べた。

「著名人の画像を使ってコンテンツを作れば、間違いなく視聴者は集まります。しかし、故人の場合は、より深い問題、つまり誰が彼らの記憶とアイデンティティを所有しているのかという問題に直面することになります」とアジュダー氏は述べた。

抗議の声に応えて、OpenAIは、最近亡くなった著名人の代表者が、自身の画像をSora動画からブロックするよう要請できるようにすると発表した。「著名人やその家族は、著作権で保護された自身の画像がどのように使用されるかをコントロールできるべきだと考えています」とOpenAIの広報担当者は述べた。

米国のエンターテインメント業界の複数の団体も懸念を表明している。多くのハリウッドスターのマネジメント会社であるクリエイティブ・アーティスト・エージェンシーは、Sora 2が顧客と知的財産を深刻なリスクにさらしていると述べた。全米映画協会（MPAA）は、OpenAIに対し、クリエイターの権利を守るために「即時かつ断固たる」行動を取るよう求めた。

芸術家だけでなく、歴史上の人物も犠牲になっています。ソラが作成したある動画では、ウィンストン・チャーチルがジェットブルーを宣伝したり、ネット上の下ネタに言及したりしています。

出典: https://znews.vn/ai-tao-video-gay-phan-cam-post1593268.html