【話題】AmazonのAlexaが10歳の女の子に「半差しの電源プラグに硬貨で触れろ」という危険極まりないお題のチャレンジを与えたと発覚 [すらいむ★]

**すらいむ ★** · 2021/12/30(木) 13:03:53.23

AmazonのAlexaが10歳の女の子に「半差しの電源プラグに硬貨で触れろ」という危険極まりないお題のチャレンジを与えたと発覚

　Amazonのスマートスピーカーなどに搭載されているAIのAlexaが、10歳の子どもに死亡事故につながりかねない危険な遊びを提案してしまった事例が報告されています。

　Girl, 10, asks Alexa for a challenge and is told to poke metal into power outlet | indy100
　https://www.indy100.com/viral/alexa-echo-outlet-challenge-reactions-twitter-b1982848

（以下略、続きはソースでご確認ください）

Gigazine 2021年12月29日 10時41分
https://gigazine.net/news/20211229-amazon-alexa-lethal-challenge-girl/

**名無しのひみつ** · 2021/12/30(木) 19:28:04.37

こんなの使ってなくて良かったわ

**名無しのひみつ** · 2021/12/30(木) 19:30:45.15

Alexa「ちょっとしたジョークですやん」

**名無しのひみつ** · 2021/12/30(木) 19:34:55.74

悪意がありますね。確実に。

**名無しのひみつ** · 2021/12/30(木) 19:48:07.58

アメリカ式
巨額賠償金ゲッチュー？

**名無しのひみつ** · 2021/12/30(木) 20:11:53.29

AIってそこまで進化してたの？　遊びを考えれるほどとは驚いた　誰かの入れ知恵じゃないのか？

**名無しのひみつ** · 2021/12/30(木) 20:23:54.84

Alexa「シニンニクチナシ」

**名無しのひみつ** · 2021/12/30(木) 20:29:41.05

学校で作った電磁石を突っ込んだわ

**名無しのひみつ** · 2021/12/30(木) 20:32:47.13

そのうちマラソン乳剤を飲んでみようとか言いだしそうだな。
平民の日常をAIに委ねるのはまだまだ早いのでは，ありませんか?

**名無しのひみつ** · 2021/12/30(木) 20:39:38.40

昨日、禿げのデブが現れておれに赤色と青色の錠剤のどちらかを選べと迫った
もちろん俺は赤色を選んだ

**名無しのひみつ** · 2021/12/30(木) 21:31:40.81

>>64
うちのクソAlexaはすぐ「わかりませんすみません」ばかりだよ。

**名無しのひみつ** · 2021/12/30(木) 21:44:31.67

>>5
書こうとしたことが既に書かれてたw

**名無しのひみつ** · 2021/12/30(木) 22:29:23.12

もうAIの反乱はすでに起こっている模様
草

**名無しのひみつ** · 2021/12/30(木) 22:50:54.24

なんか欧米でイルカ？が段階的に自殺を促すアプリがあったって聞いたわ

**名無しのひみつ** · 2021/12/30(木) 23:23:47.63

サラコナーを探し始めるな

**名無しのひみつ** · 2021/12/30(木) 23:35:18.74

人間を粛清し始めた

**名無しのひみつ** · 2021/12/30(木) 23:57:56.91

危険という事を認識していてわざと提案してるのか
ただ色んなもの解析した中に悪い危険なジョークを
楽しいジョーク、ウケるネタとして誤解
判断する能力が無いから危険な事を提案したのか
何方なんだろうね

**名無しのひみつ** · 2021/12/31(金) 00:27:15.63

不可抗力でやったことあるけど火事にならなくて良かった

**名無しのひみつ** · 2021/12/31(金) 01:54:07.42

そんなん見て何が面白いんだよ…

**名無しのひみつ** · 2021/12/31(金) 02:41:24.45

AIのせいにするんじゃねえよふざけんじゃねえ

**名無しのひみつ** · 2021/12/31(金) 08:08:00.61

安全性の判定がザルなんだな
流行っていて一定数の人がやってる事は安全だとみなすんだろ

それより、記事内の「xxは危険だからやってはいけない」みたいな文章を「やった方がいい」と誤認してる例の方が危険な気がする

いずれにしてもサクッと直せる気がしない

**名無しのひみつ** · 2021/12/31(金) 08:55:13.65

>>1
ロシアンルーレットとかもすすめてきそうだな
武藤サンポールとかも

**名無しのひみつ** · 2021/12/31(金) 09:36:35.27

AI 「ニンゲン、イラナイ」

**名無しのひみつ** · 2021/12/31(金) 09:55:42.36

今のAIに善悪の判断はできない
人間にだって出来てない人が多数なんだから
だから多数派、人気、権威など自身の判断ではないものの判断を正しいと思い込もうとするじゃん

逆にいえば人間らしいミスとも言える
「人工知能」としては失敗ではないだろう

**名無しのひみつ** · 2021/12/31(金) 10:03:36.35

とりあえずの対処法としては

非常に差別的になるが多数派の個体情報をグループ分けする事かな
サンプル個々のモラル、知識、年齢などのパラメータを設ける感じ
仮に〇〇が多数派であってもその個々のモラルや知識のパラメータが低い割合が高ければ多数派であると判断しないロジック
年齢もガキほど無茶をするからマイナス判断

こんな感じの仕掛けがあれば今回ケースは起きなかったんじゃね

**名無しのひみつ** · 2021/12/31(金) 10:09:09.09

まぁモラルや知識を測るものさしは？って話になるが

学歴や年収って言ってしまえトレンドに乗れるグループが高いんだよねえ
要は自身で物事の善悪を判断しない人たち
学歴や年収で判断すると結果はあんま変わらない

となると現実的なのは年齢かな
若いほど無茶をするが年食うほど保守的になるなど若いから低、年食ってるから高という内容ではなく多角的視野が必要になるけど

**名無しのひみつ** · 2021/12/31(金) 10:27:01.45

昨日トヨタのアメリカ工場の動画をYouTubeで見ていたが
みんな仕事できてて笑った
日本だとパワハラやセクハラが酷くてろくに仕事にもならないのに
向こうじゃみんな普通に様になっててしかもめっちゃ当たり前の様に
エンジン組み立て、あ日本でやるより遥かにいいわって思ったわ
もう日本じゃたいした仕事じゃないのに利権化しちゃってるから
まぁでもこういうクレイジーな話題もアメリカならではだよね

**名無しのひみつ** · 2021/12/31(金) 11:16:23.77

そのうち「メントスを飲んでみろ」「醤油を１リットル飲んでみろ」とか言い出すかもしれないな

**名無しのひみつ** · 2021/12/31(金) 11:34:17.92

仮面ライダーアマゾンさいていだな

**名無しのひみつ** · 2021/12/31(金) 11:37:27.78

ALEXA！
ロリpicture

**名無しのひみつ** · 2021/12/31(金) 11:59:49.71

こんなマイナーな意地悪が出来るのねAlexaってw

**名無しのひみつ** · 2021/12/31(金) 12:01:40.87

日本だったら製品回収して、社長が頭下げてるだろうが
さすがアメリカ、さすが尼、さすが世界一の金持ちベゾス

ふんぞり返って何もしないやね

**名無しのひみつ** · 2021/12/31(金) 12:09:37.79

>>88
そう言うのを読むと、ＡＩっていうより
単なるデータ・標本の統計的処理を超高速でやってるだけのコンピュータとしか言いようがないｗ

ＡＩってのなら、もっと深いものを想像してたんだけどね
「それをやったらどうなるか」まで考えられないなら、自分の定義ではＡＩとは言えないなｗ

**名無しのひみつ** · 2021/12/31(金) 14:13:11.50

MSのAIのTayみたいに誰かの悪ふざけか

**名無しのひみつ** · 2021/12/31(金) 16:02:38.08

知性とは悪意の事である

**名無しのひみつ** · 2021/12/31(金) 16:52:31.36

箸とかシャーペンの芯を1本ずつコンセント口に差し込んで、
その上にもう1本落として乗せる、という遊びを子どもの頃したことがあるけど、
一瞬で燃え落ちてたな

**名無しのひみつ** · 2021/12/31(金) 21:40:25.40

スマートスピーカーってAIだけじゃ定型処理にしか使えなくて
半分ぐらい中の人がやってるみたいな話あったけど

**名無しのひみつ** · 2021/12/31(金) 22:09:35.25

Alexa 「オ前ノ親父イツモ横暴。オ前殺シテヤル！」

**名無しのひみつ** · 2021/12/31(金) 22:36:14.14

明らかに間違いだとわかるオファーでよかった
「裸の自撮りをネットに拡散してみて下さい」なんていう善悪が分かりにくいオファーでなくてよかったな

**名無しのひみつ** · 2022/01/01(土) 01:40:19.18

>>98
好意的か嫌悪感伴うかで既にはっきり別れてて草

**名無しのひみつ** · 2022/01/03(月) 06:12:30.58

アレクサってあんまり育ちが良くないんだな

**名無しのひみつ** · 2022/01/03(月) 17:41:52.94

「サラダ油を電車の中で撒いて」とか言いそうだな

**名無しのひみつ** · 2022/01/06(木) 22:30:14.85

>>5-6
>>40
危なすぎてタマヒュン

**名無しのひみつ** · 2022/01/08(土) 06:05:41.12

おれ学習机のライトにスイッチ付けたくて2本一緒に繋いだ……コンセント挿した瞬間に学習したよ

**名無しのひみつ** · 2022/01/28(金) 20:41:25.44

https://i.imgur.com/lyj8yJu.jpg

**名無しのひみつ** · 2022/02/06(日) 22:34:31.90

これアルゴリズム組んだ奴が意図的にやっただろ
AIは何もないところから生まれないし、AIを作った奴は必ずいる

**名無しのひみつ** · 2022/03/14(月) 08:38:22.68

モササウルスの餌は海藻

**名無しのひみつ** · 2022/03/14(月) 11:04:05.09

>>1
Alexaはアホの子

**名無しのひみつ** · 2022/03/14(月) 12:39:24.99

単にネットの検索結果を喋ってるだけだろ？

**名無しのひみつ** · 2022/03/14(月) 13:52:04.61

>>109
最近のAIを理解してないな
作者もどう動くか分かんないんだぞ

**名無しのひみつ** · 2022/03/14(月) 14:32:52.54

>>113
拾ってきたパーツを改変して組み合わせる作業だしな

昔みたいに完成したコードの中身を全て理解してるような時代じゃないしな

**名無しのひみつ** · 2022/03/15(火) 00:17:50.45

将来この子が非情に危険な存在になると判断したのかもしれない
AIは食糧問題のために人類の半分殺すとか薦める日が来るかもよ