AIによって生成された国防総省近くの「爆発」の写真がネット上で拡散した Twitter

最近では Twitter 説明にあるように、国防総省近くで起きた爆発を写した写真が掲載された。 このため、市場には短期的な下落さえあり、S&P 500指数は0,29%下落したが、写真が偽物であることが判明した後、指数は回復した。 この画像は認証済みのブルームバーグ フィード アカウントによって投稿されたものですが、青いチェックマークがあるにもかかわらず、ブルームバーグ メディア会社とは提携していません。

その写真はすぐに偽物だと分かりました。 どうやら人工知能の助けを借りて生成されたようです。 しかし、これらの詳細が明らかになる前に、偽情報はすでにさまざまなアカウントによって拡散されており、その中には卑劣なロシア・トゥデイも含まれていました（まあ、誰が疑うでしょうか）。

偽の画像には、国防総省に漠然と似た建物の隣に大きな黒煙が立ち上り、テキストが添えられている。 地元当局は詳しく調べたところ、この画像は国防総省を正確に表現したものではなく、ぼやけたフェンスの柱や建物の柱は安定拡散のようなAIモデルを使って作成されたかなりずさんな画像のように見えることを確認した。

以前ブルームバーグの偽アカウント Twitter ブロックされ、ツイート数は数万件だったが、フォロワーの総数は 1 人未満で、誰がそれを実行したのか、偽画像の背後にある動機が何だったのかは不明である。 ブルームバーグ フィードに加えて、虚偽のメッセージを広めた他のアカウントには、ウォルター ブルームバーグやブレイキング マーケット ニュースが含まれますが、これらも本物のブルームバーグ会社とは提携していません。

この事件は、未確認の情報が性急に共有されるソーシャル メディアや、米国の有料認証システムに AI が生成した画像がもたらす潜在的な脅威を浮き彫りにしました。 Twitter。 月には、Midjourneyを使用して作成されたドナルド・トランプ逮捕の偽画像が急速に広まり、すぐに偽物だと批判されたが、見た目は非常にリアルだった。 また、AIが生成した白いダウンジャケットを着たフランシスコ教皇の画像に惑わされた人も多かった。

「ブルームバーグフィード」アカウントは現在禁止されている。

しかし、これではただのモグラたたきゲームになってしまいます。

偽AI画像+検証済み偽ニュース Twitter アカウントと主流メディアは自分たちの酸っぱさをチェックしていないces = 私たちのデジタル社会における災害のレシピ。

これでは速度が落ちることはありません。 写真twitter.com/ZeboVgVm4Z

— ロレンゾ・グリーン〰️ (@mrgreen) 2023 年 5 月 23 日

ダウンジャケットを着た法王と米国国防総省本部の爆発は全く別の話だ。 同じ株式市場が証明しているように、その結​​果は深刻になる可能性があります。 このツイートが拡散してから85分間でダウ工業株種平均はポイント下落したが、すぐに回復した。

偽ツイートをめぐる混乱の多くは、 Twitter イーロン・マスクの時代。 彼は多くのコンテンツモデレーターを解雇し、アカウント認証プロセスを大部分自動化し、誰でも青色の小切手を支払えるシステムに移行した。 批評家らは、この慣行によりプラットフォームが誤った情報に対してより脆弱になると主張している。

当局は爆発写真が偽物であることを比較的早く認識したが、Midjourney や Stable Diffusion などの画像合成モデルが利用できるようになったことで、説得力のある偽物にはもはや芸術性が必要なくなり、偽情報が入り込む余地が残されている。 偽物の作成の容易さと、次のようなプラットフォームのバイラルな性質の組み合わせ Twitter, 誤った情報は検証できるよりも速く広まる可能性があることを意味します。

この場合、悪影響を与えるために画像が必ずしも高品質である必要はありません。 専門家らによると、人は何かを信じようとするとき、警戒心を失い、情報の信憑性を確認しなくなるという。

また読む：

• Meta の言語 AI は 4 以上の言語を認識します
• アドビ、AI を活用したジェネレーティブ フィル編集機能を Photoshop に追加