不思議な プロジェクトQ* OpenAI によるものは、専門家の間で懸念を引き起こしています。 彼は本当に人類にとって危険な存在なのでしょうか？ 彼について何が知られていますか? サム・アルトマンが先週最初に解雇され、彼とチームはもう少しで Microsoftその後、彼は職場に戻りました（それについて） 私たちはここに書きました）、OpenAIが再び話題になっています。 今回は、一部の研究者が人類に対する潜在的な脅威と呼ぶもののためです。 はい、それは人類に対する脅威です。
テクノロジーの世界における真の激変は、プロジェクト Q* (Q スターと呼ばれる汎用人工知能 (AGI) の未公開プロジェクト) によって引き起こされました。 このプロジェクトは初期段階にありますが、AGI 開発においては真に画期的なものであると考えられています。 しかし、それを人類に対する危険と見る人もいます。
有名な人工知能研究所 OpenAI によって開発された秘密の人工知能プロジェクトには、テクノロジーと社会全般に革命を起こす可能性があります。 しかし、リスクに関していくつかの倫理的な問題も生じます。 プロジェクト Q* の驚くべき能力の詳細が明らかになるにつれ、それが人類の将来に何を意味するかについての憶測がますます高まっています。
また興味深い： OpenAI の歴史: OpenAI とは何だったのか、そして会社の今後は何なのか
汎用人工知能 (AGI) とは何ですか?
プロジェクト Q* (Q-Star) を取り巻く誇大宣伝を理解するために、まず汎用人工知能 (AGI) の概念が何であるかを理解してみましょう。 現在の人工知能システムは、チェスのプレイや画像の生成などの狭い特定のタスクに優れていますが、一般的な人工知能とは、多くの領域で人間レベルで学習および思考できる機械を指します。 つまり、数学、化学、生物学などの基礎を学校で学ぶのと同じように学ぶことができます。
汎用人工知能 (AGI) は、人間の知能や行動を仮想的に模倣できる機械知能の一種であり、その可能性を学習して応用し、さまざまな問題を解決する能力を備えています。 AGIは、強力な人工知能、完全な人工知能、または人間レベルの人工知能とも呼ばれます。 一般的な AI は、指定されたパラメーター内で特定のタスクまたは特殊なタスクのみを実行できる弱い AI または狭い AI とは異なります。 ZHI は、さまざまな知識分野からのさまざまな複雑な問題を独自に解決できるようになります。
人工知能の作成は、DeepMind や Anthropic などの企業による人工知能研究の主な焦点です。 CSI は SF 文学で非常に人気のあるトピックであり、将来の研究を形作る可能性があります。 数年から数十年以内にUCIを創設することは可能だと主張する人もいるが、3年以上かかる可能性があると主張する人もいる。 しかし、これは決して達成できないと信じている人もいます。 GPT- の URI の始まりを見た人もいますが、それでも基本的な基準を満たすには程遠いようです。
汎用人工知能 (AGI) の作成は、研究者によって人工知能の聖杯であると考えられており、理論上の可能性は長い間彼らの想像力を魅了してきました。 したがって、OpenAI Project Q*のようなプロジェクトの登場は、人工知能アルゴリズム研究の世界に大きな反響を呼びました。 これらはほとんど盲目的に、人工知能が人間と同じか、それ以上の能力を持つ世界への第一歩にすぎないことは誰もが理解しています。
また興味深い： の全て Microsoft 副操縦士: 未来か、それとも間違った方向か?
プロジェクトQ*とは何ですか?
プロジェクト Q* は、汎用人工知能 (AGI) モデルにますます近づいている人工知能モデルであるため、一般的なアルゴリズムではありません。 これは、ChatGPT とは異なり、Project Q* は他のアルゴリズムと比較して優れた思考力と認知スキルを示すことを意味します。 ChatGPT は現在、膨大な量の事実資料に基づいてクエリに応答しますが、AGI を使用すると、AI モデルは推論と、自分で考えて理解する能力を学習します。 プロジェクト Q* は、トレーニング教材の一部ではなかった単純な数学的問題を解決できることはすでに知られています。 この点で、一部の研究者は汎用人工知能 (AGI) の構築に向けた重要な一歩を踏み出したと見ています。 OpenAI は、AGI を人間よりも賢い人工知能システムと定義しています。
プロジェクト Q* の開発は OpenAI の主任科学者イリヤ・シュツケヴァーによって管理されており、その基礎は研究者のヤクブ・パコーツキーとシモン・シドーによって実証されました。
たとえ数学的問題がトレーニング データ セットの一部でなかったとしても、アルゴリズムがそれ自体で数学的問題を解決できる能力は、人工知能の分野における画期的な進歩であると考えられています。 このプロジェクトに関するチーム内の意見の相違は、OpenAI CEO の Sam Altman の一時的な解任に関連しています。 アルトマン氏が解雇される前に、同社の研究者グループが人類に脅威をもたらす可能性のあるAIの発見について警告する書簡を取締役会に送っていたことが知られている。 伝えられるところによると、その書簡はプロジェクト Q* アルゴリズムについて議論したもので、アルトマン氏の解任に至った要因の つとして挙げられています。 しかし、プロジェクト Q* の機能とそれがもたらす潜在的なリスクについては詳細が不明であるため、完全には理解されていません。 一般向けには何も公開されていません。
プロジェクト Q* の核となるのは、環境に関する事前知識を必要としない、従来のモデルから逸脱したモデルフリーの強化学習手法です。 代わりに、経験を通じて学習し、報酬と罰に基づいて行動を適応させます。 技術専門家らは、プロジェクトQ*は人間の認知能力と同様の能力を獲得することで、優れた能力を獲得できると考えている。
しかし、人工知能の新しいモデルで最も印象的なのはこの機能であり、研究者や批評家を心配させ、この技術の実世界への応用とそれに伴う潜在的なリスクについての懸念を高めています。 科学者や研究者は何をそんなに恐れているのでしょうか? それを理解しましょう。
また興味深い： Wi-Fi 6 をサポートするようにホームデバイスを更新する方法
彼らは未知のものを恐れます
人間は常に未知のもの、理解できないものを恐れてきました。 これは人間の本質であり、私たちの性格と生き方の特徴です。
テクノロジーの世界は、ロイター通信の後、2023 年 月にプロジェクト Q* について知りました。 報告 関係する OpenAI 研究者によって書かれた内部書簡について。 手紙の内容は曖昧だったが、プロジェクトQ*の能力を真剣に分析していたという。 上で述べたように、この手紙がサム・アルトマン氏の辞任の引き金になったのではないかという憶測さえある。
この爆発的な発見により、プロジェクト Q* の性質に関するさまざまな仮説が生まれました。 科学者たちは、これが AI の革新的な自然言語モデルになる可能性があると示唆しています。 他の形式の AI や、この分野ではまったく異なるもののためにアルゴリズムを作成する、一種の新しいアルゴリズムの発明者。
一般的な人工知能を「平均的な従業員」とみなすアルトマン氏の挑発的なコメントは、すでに雇用の安全とAIの影響力の止まらない拡大についての懸念を引き起こしている。 この謎のアルゴリズムは、汎用人工知能 (AGI) の開発におけるマイルストーンとして定義されています。 ただし、このマイルストーンには費用がかかることは誰もが理解しています。 そして今はお金の問題ではありません。 新しい AI モデルによって約束される認知スキルのレベルには不確実性が伴います。 OpenAI の科学者たちは、AI が人間レベルの思考を持つようになるだろうと約束しています。 これは、私たちが多くのことを知り、その結果を予測することはできないことを意味します。 そして、未知であればあるほど、それを制御したり修正したりする準備が難しくなります。 つまり、新しいアルゴリズムは自己改善および開発が可能です。 これはどこかで見たことがあります...
また興味深い： Windows 12: 新しい OS は何になるのか
Project Q の機能に関する驚くべき詳細*
さらに多くの情報が明らかになり始めたとき、多くの研究者に衝撃を与えました。 初期の兆候は、プロジェクト Q* が数学に関して驚くべき才能を持っていたということでした。 機械的な計算を実行する電卓とは異なり、Project Q* は論理と推論を使用して複雑な数学の問題を解決できると考えられています。 この一般化する数学的能力は、広範な知性の発達を示唆しています。
一般的な AI のトレーニングに使用される特定のデータセットを使用しないプロジェクト Q* の自律トレーニングも、大きな前進となります。 プロジェクト Q* が他のスキルを習得したかどうかは不明のままです。 しかし、彼の数学的能力はそれ自体が非常に驚くべきもので、経験豊富な研究者さえ混乱させます。
また読む： Human Brain Project: 人間の脳を模倣する試み
プロジェクト Q* の優位性への道?
この問題には楽観的なシナリオと悲観的なシナリオの両方があります。 楽観的な人は、プロジェクト Q* が技術的なブレークスルーにつながる起爆剤になる可能性があると言うでしょう。 このシステムは再帰的に自己改善するため、その超自然的な知性は、気候変動から疾病対策まで、人類の最も差し迫った問題のいくつかを解決するのに役立ちます。 Project Q* は退屈な作業を自動化し、自由時間を他の活動に充てることができます。
もっと悲観的な選択肢はたくさんありますが。 場合によっては、それらは非常に合理的で、特定の意味を持っています。
雇用の喪失
テクノロジー開発の急速な変化は、人々の個々の適応を上回る可能性があります。 これにより、新たな現実に適応するために必要なスキルや知識を獲得できない一世代以上の世代が失われることになります。 つまり、これは、仕事を続けられる人が少なくなるということを意味します。 代わりに、機械、自動システム、ロボットによって実行されます。 ただし、資格のある専門家に関しては、答えはそれほど明確ではありません。 さらに、特に人工知能アルゴリズムの開発に関連する新しい職業が登場する可能性があります。 しかし、依然としてリスクは存在しており、人類にはそれらを無視する権利はありません。
制御不能な力の危険性
プロジェクト Q* のような強力な AI が悪意のある者の手に渡れば、人類に壊滅的な結果をもたらす危険があります。 潜在的に悪意がなくても、プロジェクト Q* の意思決定レベルは有害な結果を招く可能性があり、そのアプリケーションを慎重に評価することが非常に重要であることが強調されています。
Project Q* が人間のニーズに合わせて最適化されていない場合、任意の指標を最大化する機能により害を及ぼす可能性があります。 あるいは、国家による監視や弾圧に利用されるなど、政治的な側面を持つこともあります。 プロジェクト Q* の影響分析に関する公開討論は、ZHI 開発の可能なシナリオを定義するのに役立ちます。
「人間対機械」の対決が始まるのか？
ハリウッドはすでにそのような対立のシナリオを映画の中で数多く作り上げてきた。 私たちは皆、有名な SkyNet とそのような発見の結果を覚えています。 OpenAI の研究者はこの映画をもう一度見たほうがよいでしょうか?
人類は信号と課題を受け入れ、何が起こるかに備える必要があります。 人間のように考えることができる人工知能モデルは、いつか私たちの敵になるかもしれません。 将来、科学者は状況を制御する方法を正確に知るようになるだろうと多くの人が主張するだろう。 しかし、機械に関しては、人間を乗っ取ろうとする可能性を完全に排除することはできません。
また興味深い： 私たちが AI と呼んでいるものすべてが、実際には人工知能であるとは限りません。 ここにあなたが知る必要があるものがあります
なぜ OpenAI は沈黙しているのでしょうか?
Project Q* に対する世間の熱狂的な関心にもかかわらず、OpenAI の経営陣はアルゴリズムの詳細については沈黙を保っています。 しかし、内部漏洩は、開発の優先順位と公開性をめぐって研究所内の緊張が高まっていることを示している。 OpenAI 内部関係者の多くはプロジェクト Q* の創設を支持していますが、批評家は、いかなる犠牲を払ってでも科学の進歩を加速させるには透明性が後回しになっていると主張しています。 そして一部の研究者は、その目標が人間の価値観や倫理と必ずしも一致しないシステムに信じられないほどの力が与えられているのではないかと懸念しています。 これらの研究者らは、監督と責任を巡る議論が危険なほど沈黙していると信じている。 より多くの宣伝と詳細が必要です。
プロジェクト Q* の作成者として、OpenAI は、社会の発展の可能性を大きく広げることも、それを容赦なく破壊することもできるテクノロジーを持っていることを理解する必要があります。 このような重要なイノベーションは、国民の信頼を築くためにさらに透明性を高める必要があります。 機械の時代を予測する人は、メリットと併せてリスクを慎重に比較検討する必要があります。 そして、プロジェクト Q* の開発者は、私たちが想像していたよりも早く到来する可能性のある汎用人工知能の新時代に社会を安全に導くために、十分な知恵と配慮を示す必要があります。
一般的な人工知能が人類にとって有用かつ安全であるためには、それが安全に、倫理的に、そして人類の価値観と目標に従って動作することが保証されなければなりません。これには、CSI の行動や行動を制御し、抑制する適切な規制法、基準、規則、プロトコルの開発と実施が必要です。さらに、人類の破滅につながる可能性のある虐待、事故、非互換性、操作、紛争に関連する潜在的な脅威とリスクを排除しなければなりません。そんな中、投資家や Microsoft 利益を生み出す可能性のある市場性の高い製品を心待ちにしているのですが、それは間違いなく、責任ある行動の必要性と矛盾します。常識が普及することを祈りましょう。
また読む：