AIが個人の画像を操作するリスク

人工知能（AI）の発達は、 世界中のアーティストの仕事を脅かすだけでなく、インターネットユーザーの画像がさまざまな方法で操作される危険にもさらしています。

AIツールは簡単に偽のテクノロジー製品を作り出す。（イラスト写真）

「ディープフェイクの時代」

逆に、AIは悪用されれば、個人のソーシャルメディアアカウントから画像を簡単に盗み出し、望ましくない情報源に変えてしまう可能性があります。例えば、ポルノサイトは個人の画像を同意なしに利用する可能性があります。

「今はディープフェイクの時代です」と、マサチューセッツ工科大学の研究者、ハディ・サルマン氏は述べた。「今では誰でも画像や動画を操作して、実際にはしていないことを『やらせる』ことができます。」

ディープフェイクとは、「ディープラーニング」と「フェイク」という言葉を組み合わせたもので、AIを使って音声、画像、さらには動画の形で偽の技術製品を作成する手法です。

AIは、ほんの数秒、いくつかの簡単なコマンドを入力するだけで、「悪者」が望むあらゆる画像を作成できます。例えば、バレンシアガのコートを着た教皇の写真をAIに作成させ、偽物だと判明する前にオンラインに投稿することも可能です。

AI技術は、特定のアーティストのスタイルで芸術作品を作成する能力でもユーザーを驚かせています。例えば、有名な画家フィンセント・ファン・ゴッホのスタイルで描かれたような猫の絵を作成することができます。

ビジュアルアーティストにとって、これらのツールは、AI モデルが彼らの独自のスタイルを模倣し、許可なくアート作品を作成するため、彼らの仕事を失わせる危険性があります。

AIプロペラ

ドイツのシュトゥットガルトに住むエヴェリン・フレーリッヒさんは、AIの行き過ぎに対抗し、オンライン上の視覚作品を操作から守る方法を模索しているアーティストの一人だ。

最近、フレーリッヒさんは、AIモデルの悪用を防ぐためにシカゴ大学（米国）のコンピューター科学者によって開発された「Glaze」というツールについて知りました。

シカゴ大学のコンピューターサイエンス教授であり、プロジェクト・グレイズの主任研究者の一人であるベン・ジャオ氏は、このツールはアーティストのユニークな作品をAIトレーニングユニットから保護することを目的としている、とCNNに語った。

Glaze ソフトウェアは、機械学習アルゴリズムを使用して、デジタル画像に肉眼では見えない小さな変更を加え、オンライン環境で作品の保護層を作成し、AI モデルを欺いて作者のスタイルをコピーできないようにします。

Glaze のおかげで、芸術作品は「不可視性で覆われ」、AI が画像を「読み取る」ことを防ぎます。

例えば、趙氏の説明によると、アーティストは自身の油絵の画像をアップロードし、Glazeに通すと、AIモデルはそれを木炭スケッチとして認識する。人間はすぐに油絵だと認識するが、Glazeに通すと、AIの目には作品が著しく異なって見えるようになる。

趙氏のチームは昨年3月にGlazeの最初のバージョンをリリースし、100万回以上ダウンロードされています。先週、チームはGlazeの無料版をオンラインで公開しました。

チームは、特定の規制や法律が制定されるまで、Glaze ツールがアーティストの著作権の保護に役立つことを期待しています。

Glaze を導入して以来、声優、小説家、ミュージシャン、ジャーナリストが自分の分野向けの Glaze について問い合わせるために彼のチームに連絡することが増えていると Zhao 氏は語ります。

カリフォルニアを拠点とするビジュアルアーティストのジョン・ラム氏は、自身のオンラインアート作品が AI モデルのトレーニングに利用されるのを防ぐために Glaze ツールを利用しており、現在ではオンラインで共有するすべてのアート作品にこのアプリを使用しているという。

彼のようなアーティストは長年、誇りとして作品をフル解像度でオンラインに投稿してきたと彼は言う。「フルHD写真の精細さと素晴らしさを人々に知ってもらいたいのです。しかし、アーティストたちは、自分の作品がAIモデルに『食い尽くされ』、スタイルを模倣され、不公平な競争にさらされる可能性があることを知りません。」

「今、私たちの高解像度の作品をAIマシンに入力して、私たちと同じ分野で競争しようとしている人たちがいることが分かっています。ですから、私たちはより慎重になり、自分たちを守る方法を考え始めなければなりません」と彼は述べた。

サルマン氏と彼のチームは、AIから画像を保護するための新たなツールをリリースしました。「PhotoGuard」と呼ばれるこのアプリは、画像に目に見えない保護層を追加することで、AIモデルによる画像操作を防ぐことができます。

サルマン氏は、PhotoGuardの目的は、すでに作成者によってオンラインにアップロードされた写真を「悪意のあるAI操作」から保護することだと述べた。

PhotoGuardアプリは、人間の目には見えない方法で画像のピクセルを調整することで機能します。この肉眼では感知できない変更は、AIモデルによる画像操作を巧みに回避する強力な機能です。

つまり、PhotoGuard で保護された写真を AI を使って編集しようとすると、結果として得られる写真は「まったくリアルではない」ことになる、とサルマン氏は説明した。

ライセンスなし

一方、AI ツールが画像を撮影して操作したとしても、それが作成したものは著作権の対象とはみなされません。

AIが登場し、注目を集めるようになって以来、AIは次のような議論を巻き起こしてきました。「これらの作品には著作権があるのだろうか？もしあるとしたら、誰に帰属するのだろうか？」

米国著作権局（USCO）はこれらの作品について正式な決定を下しました。USCOによると、AIがコマンドに基づいて作成した画像（現在のアプリ「Midjourney」、「Dall-E」、「Stable Diffusion」など）は、米国では著作権の対象とならないとのことです。

米国法では、知的財産権は人間の創造性によって生み出されたものにのみ著作権が認められると定められています。米国著作権法（USCO）は現在、人間が創作した作品のみを認定しています。したがって、AI機械は著作者とはみなされず、AI機械が生み出す作品には著作権は付与されません。

「作品の伝統的な著作権要素が機械によって作成された場合、その作品は人間による著作権ではないため、USCOはそれを登録しません」とUSCOのシラ・パールマッター局長は述べた。

ソース: https://baoquocte.vn/nguy-co-ai-thao-tung-hinh-anh-ca-nhan-238723.html