金曜日に、Koko の共同創設者である Rob Morris は次のように発表しました。 Twitter、彼の会社は事前の通知なしに AI によるメンタルヘルスのアドバイスを 4 人に提供する実験を行った、と The Verge は報じています。 ココがアドバイスを求めた人々からインフォームドコンセントを得ていなかったため、批評家は実験を非常に非倫理的であると呼びました. Koko は非営利のメンタル ヘルス プラットフォームであり、メンタル ヘルス ケアを必要とする 代の若者と大人を、次のようなメッセージ アプリを通じてボランティアと結びつけています。 Telegram そしてディスコード。
Discord では、ユーザーは Koko Cares サーバーにログインし、Koko ボットにダイレクト メッセージを送信します。このボットは一連の多肢選択式の質問をします (たとえば、「これについて最も暗い考えは何ですか?」)。 次に、数文のテキストとして記録されたその人の懸念を、サーバー上の他の誰かと匿名で共有します。その人は、自分の短いメッセージで匿名で応答できます。
https://twitter.com/RobertRMorris/status/1611450197707464706?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1611450197707464706%7Ctwgr%5Ea36b67a72ef02f3601dfae160441f1250a68dc2a%7Ctwcon%5Es1_c10&ref_url=https%3A%2F%2Farstechnica.com%2Finformation-technology%2F2023%2F01%2Fcontoversy-erupts-over-non-consensual-ai-mental-health-experiment%2F
Morris 氏によると、約 30 件のメッセージを含む人工知能 (AI) の実験で、他の人を支援するボランティアは、OpenAI の GPT-3 大規模言語モデルによって自動的に生成された応答を、独自に記述する代わりに使用するオプションがありました (GPT-3 は背後にある技術です)。最近人気の ChatGPT チャットボット)。 Morris 氏は自身のツイートで、AI が生成した回答が AI によって作成されたことを知るまで、人々は AI が生成した回答を称賛したと述べており、実験の少なくとも つの段階でインフォームド コンセントが欠如していることを示唆しています。
「AI によって作成された (そして人間によって制御された) メッセージは、人間自身によって書かれたメッセージよりも大幅に高く評価されました。 応答時間が 50% 短縮され、 分未満になりました。 それでも…私たちはこの機能を私たちのプラットフォームからすぐに削除しました。 なんで？ メッセージが機械で生成されたものであることが人々に知られると、機能しなくなりました。 シミュレートされた同情は、奇妙で空っぽに見える。」
サーバーの紹介で、管理者は次のように書いています。 セラピストでもカウンセラーでもなく、あなたのような人だけです。」 モリスがメッセージを投稿した直後に、インフォームド コンセントの欠如に関する懸念を引き合いに出し、実験が治験審査委員会 (IRB) によって承認されたかどうかを疑問視し、実験を非倫理的であると批判する多くの反応を受け取りました。 米国では、IRB が同意を放棄できると判断しない限り、法的に有効なインフォームド コンセントなしにヒトを対象とした研究を行うことは違法です。
これに対するツイートでモリス氏は、結果を公表する予定がなかったため、この実験はインフォームド コンセントの要件から「免除された」と述べ、怒りのパレードを引き起こした.
AI をセラピストとして使用するという考えは決して新しいものではありませんが、Koko の実験が典型的な AI 療法のアプローチと異なるのは、患者は自分が生きている人間と話しているのではないことを認識している傾向があることです。 Koko の場合、プラットフォームには、ストレートなチャット形式ではなく、人間の仲介者が送信前にメッセージを確認できるハイブリッド アプローチが含まれていました。 しかし、インフォームド コンセントがなければ、批判者は、ココが脆弱な人々を有害または残酷な研究行為から保護するために設計された倫理規則に違反したと述べています。
元治験審査委員会メンバーおよび委員長として、あなたは治験審査委員会の承認も免除も受けずに、脆弱な集団を対象とした人体研究を実施しました（決めるのはあなたではありません）。たぶんMGH IRBプロcess はこのようなものを処理するため、非常に遅いです。求められていないアドバイス: 弁護士を立ててください
— ダニエル・ショスケス (@dshoskes) 2023 年 1 月 7 日
月曜日に、モリスは論争に対応し、ココの GPT-3 と AI への旅全般を説明する投稿を投稿しました。 私たちは、プライバシー、透明性、リスク軽減に深い関心を持ち、AI の使用が慎重に行われるようにすることを約束します。 私たちの臨床諮問委員会は、IRB の承認を含め、今後の作業のガイドラインについて話し合うために会合しています。」
ウクライナがロシアの侵略者と戦うのを助けることができます。 これを行う最善の方法は、ウクライナ軍に資金を寄付することです。 セーブライフ または公式ページから NBU.
また読む：