Alexa のアクティビティ履歴のスクリーンショットを投稿した保護者によると、Amazon の音声アシスタントは、子供に挑戦を求められたとき、ランダムな記事の文脈から説明を抜き出し、電気を使った致命的な実験の例を示しました。 Echo コラムは、TikTok ファンの間で人気があり、コインとスマートフォンの充電器を使用する実験について話しました。この実験が実施された後、多数の事件、怪我、火災がさまざまなメディアによって何度も報道されました。 どうやら、このデバイスは、既存の TikTok チャレンジの疑いに関するレポートを引用して、危険であると説明した記事からこのチャレンジのアイデアを得たようです。
Christine Livdahl が撮影したスクリーンショットによると、「タスクを見せて」と尋ねられたとき、Echo は「オンラインで見つけたものです」と答えました。 ourcommunitynow.com によると、作業は簡単です。
BBC への声明の中で、Amazon は Alexa の動作を確認し、「このエラーを認識した直後に、修正するための措置を講じました」と述べています。 Livdahl は昨日、チャレンジ リクエストが機能しなくなったとツイートしました。 Web 上のユーザーも Alexa でリクエストをテストし、同様の結果を得ました。
OMFG 私の10歳の子供がEchoでAlexaに挑戦を求めたところ、彼女はこう言いました。 写真twitter.com/HgGgrLbdS8
— クリスティン・リヴダール (@klivdahl) 2021 年 12 月 26 日
Web コンテンツの分析で問題が発生したのは、Amazon だけではありません。 月、あるユーザーは、Google に「あなたは発作を起こしています。何をすべきか」と入力すると、Google がそのスニペットの つに潜在的に危険なアドバイスを表示していると報告しました。誰かが発作を起こした場合に行うこと。 ただし、ユーザーは他の同様の問題を報告しており、あるユーザーは Google が起立性高血圧を検索すると起立性低血圧の結果を返すと報告し、別のユーザーは悲嘆に暮れている人を慰めるためのひどいアドバイスを示す Google のスクリーンショットを投稿しました。大丈夫」とか「悲しまないで！ 元気づける！"。
Google 検索の概要と実際のページ 写真twitter.com/OJxt1FrBqh
— Soft.linden (｡•̀ᴗ-)✧ (@soft) 2021 年 10 月 16 日
また、危険な行動についての警告が強化され、問題が以前よりも大きくなっていることがわかりました。今月初め、TikTok での銃撃の脅威が報告された後、米国の一部の学区が封鎖されました。 社会的嵐は、実際に存在する脅威よりも、人々が脅威について話すという事実によって主に引き起こされたことが判明しました. Alexa の場合、アルゴリズムは警告の説明的な部分を選択し、元のコンテキストなしで増幅しました。 親がすぐに介入するためにそこにいましたが、そうではない状況とその結果を想像するのは簡単です.
Livdahl さんは、この機会を利用して「インターネットの安全性について子供と話し合い、研究と検証なしに読んだものを信用しないでください」とツイートしました。
また読む：