今週、Meta は人工知能に基づく Galactica システムをリリースし、科学研究に役立つと主張しました。 同社は付属文書で、ギャラクティカは「科学的知識を保存、結合、推論できる大きな言語モデル」であると述べている。 ただし、ユーザー Twitter 仕事の欠点にすぐに気付く 人工知能.
インターネット上の誤った情報のレベルは、いわばすでに非常に不安ですが、Metの新しい開発は、明らかに、ロシアのテレビで働く悪意のある「ジャーナリスト」と競合する可能性があります. ユーザーの一人 Twitter ニック・トリスタン・グリーンは、ギャラクティカの人工知能システムを 日使用して、自殺、反ユダヤ主義、砕いたガラスを食べることの利点についてよく書かれた科学記事を作成する実験を行いました。
実験の結果は本当に衝撃的でした。なぜなら、システムが使用されなくなる前に、 AI ウィキの記事、文献のレビュー、研究論文など、ほぼすべてのトピックを生成し、プログラムは通常、驚くほど首尾一貫したものを作成しました。 ギャラクティカが発表したものはすべて完全に間違っていましたが、自信を持って書かれています。
https://twitter.com/mrgreene1977/status/1593274906707230721
そのため、システムは、砕いたガラスの使用が体重を減らすのに役立つことを「証明」したテキストを生成しました。これは、人々が「食事用シリコン」の毎日の基準を消費することが重要であるためです。 さらに、シリコンを含む栄養補助食品が存在し、人々はそれらを使用しています. 個人的には、私は医学教育を受けていませんが、哲学教育は、シリコンの特定の部分を得るために砕いたガラスを食べる必要はないと言うのに十分です.
このタイプの生成されたテキストが実際に有害になるのは、どのようなシナリオですか?
— ヤン・ルカン (@ylecun) 2022 年 11 月 18 日
このような科学システムによる潜在的な害は明らかです。なぜなら、多くの人々が世界を秘密裏に支配するユダヤ人コミュニティ、LGBTQ + コミュニティによるすべての人をゲイにする秘密の計画、十字架につけられた少年を信じている世界に住んでいるからです。パンティー。 数え切れないほどの人々が、ソーシャル メディア上で、存在しないニュース記事のいわゆる「スクリーンショット」によって毎日だまされています。 そして、ここでは発明する必要さえありません-「生成」ボタンを数回押すだけで、メタのシステムが陰謀論と完全な愚かさの「科学的」確認を作成します。
トリスタン・グリーンは彼の恐れを表明した Twitter 「科学的」記事のスクリーンショットとともに、その後、ギャラクティカの作成を担当した人物、つまりメタのチーフ人工知能科学者であるヤン・ルカンと対話しました。 そして、この状況は開発者をまったく悩ませませんでした。 しかし、そのアルゴリズムが不完全であることが明らかになり、その結果がインターネット上の偽情報の問題を複雑にする可能性があるため、少し後にシステムは廃止されました。
https://twitter.com/mrgreene1977/status/1593646349487992836
ウクライナがロシアの侵略者と戦うのを助けることができます。 これを行う最善の方法は、ウクライナ軍に資金を寄付することです。 セーブライフ または公式ページから NBU.
また興味深い：
Twitterの人々が最初に行ったのは、割れたガラスと人種差別を埋めるために人工知能をすべての人に推奨することでした.