Metaは火曜日、OpenAIやGoogleなどの他社が提供するAI生成画像のタグ付けを開始する計画を発表した。この動きは、次のようなプラットフォームの透明性を高めることを目的としています。 Facebook, Instagram スレッドは、閲覧しているコンテンツが合成されたデジタル メディアであり、本物の写真やビデオではないことをユーザーに通知します。
Meta のソリューションは、書面によるプロンプトに基づいて偽だが現実的な音声、画像、ビデオを作成できる生成 AI モデルで作成されたコンテンツにラベルを付けるための標準を設定する広範なテクノロジー業界の取り組みの一環です。
Metaの国際問題担当社長ニック・クレッグ氏がMetaのウェブサイト上のブログ投稿で発表した。 「世界中で数多くの重要な選挙が行われる来年も、我々はこのアプローチを継続していく」とクレッグ氏は書いた。 「この期間中に、人々が人工知能を使ってコンテンツを作成し共有する方法、人々が最も重視する透明性、そしてこれらのテクノロジーがどのように進化しているかについて、さらに多くのことを学びたいと考えています。」
クレッグ氏は、Meta の AI 生成コンテンツのタグ付け構想により、自社の AI ツールで作成されたコンテンツにタグ付けする既存の慣行が拡大され、他社のサービスを使用して作成された画像も含まれることになると述べました。
「私たちは、目に見えないマーカー、特に C2PA および IPTC 技術標準における「AI 生成」情報を大規模に識別できる業界をリードするツールを構築しています。これにより、Google、OpenAI、 Microsoft、Adobe、Midjourney、Shutterstock は、自社のツールで作成された画像にメタデータを追加する計画を実行しています。」
Metaによると、AIが生成するコンテンツラベル付け技術は、ファイルに埋め込まれた目に見えない透かしとメタデータに基づいているという。 Meta は、公開されている AI 画像ジェネレーターで作成された画像に小さな「Imagined with AI」の透かしを追加します。
クレッグ氏は投稿の中で、AIが生成した画像に確実にラベルを付ける企業の能力に自信を示したものの、オーディオやビデオのコンテンツにラベルを付けるツールはまだ開発中であると述べた。それまでの間、Meta はユーザーに、変更されたオーディオおよびビデオ コンテンツにタグを付けることを要求し、タグ付けを怠った場合には不特定の罰金を課す予定です。
「デジタル的に作成または変更されたフォトリアリスティックなビデオやリアルなサウンドを含むオーガニックコンテンツを投稿する場合、この開示およびラベル付けツールの使用を義務付け、従わない場合には罰則を課す可能性があります」と同氏は書いている。
しかし、クレッグ氏は、AIが生成したテキストにラベルを付ける効果的な方法は現時点ではないと指摘し、書かれたコンテンツに対してそのような措置を講じるのは遅すぎると示唆した。これは、AI テキスト検出器が機能していないという当社の報告と一致しています。
この発表は、Metaの独立監視委員会が、欺瞞的に改変された動画に対する同社の方針が狭すぎると批判し、そのようなコンテンツを削除するのではなくフラグを立てることを推奨した翌日に行われた。クレッグ氏もこの批判に同意し、インターネット上で増え続ける合成コンテンツやハイブリッドコンテンツを管理するには既存のメタポリシーが不十分であることを認めた。同氏は、新たなラベル表示の取り組みは、監視機関の勧告を実施し、同様の措置を求める業界全体の機運を高めるための一歩であると見ている。
Meta は、一部のオープンソース AI 画像合成ツールで作成された画像など、透かしやメタデータなしで作成された AI 生成コンテンツを検出できないことを認めています。 Meta は、Stable Signature と呼ばれる画像透かし技術を研究しており、オープンソースの画像ジェネレーターに組み込めるようにしたいと考えています。しかし、ピクセルがピクセルである限り、テクノロジー業界によって制御されない方法で作成される可能性があり、オープンソース AI ツールがより洗練され、現実的になるにつれて、これが AI コンテンツ検出にとっての課題のままです。
また読む：