ロシア、中国、イランの国家支援のハッカーたちは、OpenAI ツールを使用してスキルを磨き、攻撃をハッキングしてきました。報告によると Microsoft、同社の専門家は、大規模な言語モデルの助けを借りてハッキングキャンペーンを改善しようとしていた、ロシアの軍事諜報機関、イスラム革命防衛隊、そして中国と北朝鮮の政府に関連するハッキンググループを追跡しました。
同社は、国家支援のハッカー集団に対する自社のAI製品の使用を全面禁止する方針を打ち出す中で、この発見を発表した。 「我々は、我々が特定した、つまり我々が監視し、彼らがさまざまな種類の脅威をもたらすことを認識している存在たちに、このテクノロジーへのアクセスを与えたくないだけだ」と副大統領は述べた。 Microsoft カスタマーセキュリティのトム・バート氏。報告書では、Forest Blizzard、Emerald Sleet、Crimson Sandstorm、Charcoal タイフーン、サーモン タイフーンなどのハッカー グループについて言及しています。
ハッカーがツールを使用して捕まったと主張 AI スパイ活動能力を強化することは、テクノロジーの急速な普及と悪用の可能性についての懸念を浮き彫りにしている。西側のサイバーセキュリティ専門家は昨年、犯罪者がこうしたツールを悪用していると警告したが、これに関する具体的なデータはこれまでなかった。
OpenAIのサイバーセキュリティ脅威インテリジェンス責任者ボブ・ロスステッド氏は、「これは、AI企業が攻撃者がAIテクノロジーをどのように利用しているかを公に議論した、初めてではないにしても、初めてのケースの1つだ」と述べた。
OpenAI その Microsoft ハッカーによるAIツールの使用は「初期段階」で「段階的」であると述べた。バート氏によると、両社はサイバースパイによる突破口を目撃したことがなく、「彼らが他のユーザーと同じようにテクノロジーを利用しているだけだ」という。
この報告書では、大規模な言語パターンをさまざまな方法で使用するハッキング グループについて説明しています。ロシアのゲームに代わって活動していると言われているハッカーらは、「ウクライナでの軍事作戦に関連する可能性のあるさまざまな衛星およびレーダー技術」を調査するためにモデルを使用したと当局は述べた。 Microsoft。そして、北朝鮮のハッカーらはモデルを利用して「フィッシングキャンペーンに使用される可能性が高い」コンテンツを作成した。
イランのハッカーたちは、より説得力のある電子メールを作成するためにモデルにも依存しました。そして、国家の支援を受けているとされる中国人ハッカーたち Microsoft、競合する諜報機関、サイバーセキュリティ問題、および「著名な人物」について質問するために、大規模な言語モデルを実験しています。
また読む：