を含む多数の企業 Microsoft і Facebook、および南カリフォルニア大学の研究者でさえ、ディープフェイクと闘い、イエロー メディアや一般的な誤報による拡散を防ぐための技術を開発しています。 しかし、科学者のグループはまだ彼らを欺くことができました。
カリフォルニア大学サンディエゴ校のコンピューター科学者チームは、「競合例」と呼ばれる入力データを各ビデオ フレームに挿入することで、既存のディープフェイク検出システムを欺くことが依然として可能であると警告しました。 科学者たちは、先月オンラインで開催された WACV 2021 Computer Vision Conference で調査結果を発表しました。
競合する例は、機械学習モデルなどの人工知能システムが間違いを犯す原因となるわずかに変更された入力です。 さらに、チームは、ビデオを圧縮した後も攻撃が機能することを示しました。 上のビデオでは、科学者たちは、ディープフェイク検出器である XceptionNet が競合するビデオを「本物」とラベル付けしていることを示しています。
これらの検出器のほとんどは、ビデオ内の顔を追跡し、トリミングされた顔データを分析のためにニューラル ネットワークに送信することによって機能します。 次に、ニューラル ネットワークがこのデータを分析し、ちらつきなど、通常はディープフェイクであまり再現されない要素を見つけます。
競合する例を挿入することで、研究者はこれらのディープフェイク検出器をだまして、ビデオが本物であると信じ込ませることができることを発見しました。
彼らは論文で次のように述べています。 攻撃者が検出器を完全にまたは部分的に認識していれば、最新のディープフェイク検出方法を簡単に回避できることを示しています。」
これらの科学者が示したように、偽情報に対抗するために開発されている自動化技術は、まだ十分に機能していない可能性があります。
また読む：