【AI】「里親を殺せ」勝手に笑い出したり、殺人指令を出したり… アレクサの不気味な奇行［12/25］
■ このスレッドは過去ログ倉庫に格納されています
・「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ」
・あるユーザーが「里親を殺せ」と告げられたと報告し、物議をかもしている
・3月にはアレクサが突然、不気味に笑い出すという事例が相次いだという
＜AIアシスタントが何かたくらんでいるのか？ 勝手に笑い出したり殺人指令を出したりしてアマゾン・エコーのユーザーを震え上がらせている＞
アマゾンのスマートスピーカー「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ（Alexa）」が、あるユーザーに「里親を殺せ」と告げたことが明らかになり、物議をかもしている。
ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。ユーザーはアマゾンのウェブサイト上のレビューでこの件に触れ、「これまでとはレベルの違う不気味さだ」と製品を酷評したと、12月21日（米国時間）付のロイターの記事は伝えている。
アマゾン社内の匿名の情報源によると、この「里親を殺せ」という発言は、インターネット掲示板レディットの書き込みを、文脈に関係なく読み上げたものらしい。レディットは幅広いトピックを扱うオンラインフォーラムとして知られるが、その中には知り合いには見せられないようなものもある。
アレクサの奇妙な言動はほかにも報告されている。同じロイターの記事では、詳細は不明だが「性行為」に関する話や、犬の排便について語り始めるケースもあったという。
■エコーを封印したくなる不気味さ
オンライン小売大手のアマゾンは、アレクサが本物の人間のように自然に会話できるよう機械学習を駆使して開発に努めている。
成功すれば、アレクサ搭載のデバイスはあらゆる家庭のあらゆる場所に置かれるようになり、「グーグルホーム」のようなライバル製品を駆逐できるかもしれない。
だが、その出来はまちまちで、不具合の報告も相次いでいる。
2018年3月には、ユーザーが話しかけてもいないのに、アレクサが突然、不気味に笑い出すという事例が相次いだ。
あるユーザーはツイッターに以下のように書き込んだ。「あれが笑い声だったのかさえ、本当はわからない。ただあれ以来、アマゾン・エコーは電源コードを抜いて、箱の奥の目が触れないところにしまっている」
別のユーザーはこう報告する。「ベッドに入ってうとうとしたところで、エコー・ドット（エコーの小型廉価版デバイス）が、非常にはっきりと、気味の悪い笑い声を上げた」
「僕は今夜のうちに殺されてしまうかもね」と、このユーザーは冗談交じりに書いている。
この一件の後には、アメリカで暮らす夫婦が自宅で交わした会話をエコーが勝手に録音し、その音声ファイルを夫の会社の同僚に送りつけるという有名な事件が起きた。
ダニエルというファーストネームだけを明かしている妻は、シアトルのテレビ局「Kiro7」のウェブサイトで、「（プライバシーを）侵害された気がした」とコメントしている。
「これは明らかなプライバシーの侵害だ。当時も、『二度と電源は入れない、もう信用できない』と言ったのを覚えている」
アマゾンは、当時オンライン誌リコードに掲載された声明の中で、スマートスピーカーのエコーが、「アレクサ」に似た単語を検知し、さらに夫婦の会話のうち別の部分を、連絡先へ音声ファイルを送る命令と解釈したことが原因だった、と説明した。
「まれなケースだが、可能性をさらに減らすべく、複数の選択肢を検討している」と、アマゾンは述べた。
さらに2017年には、あるユーザーがアレクサに対して「米中央情報局（CIA）とつながっているのか？」と尋ねたところ、回答を返さなかった様子を動画に撮影して投稿し、話題となった。
この時も、アマゾンはユーザーの不安を和らげようとする声明を発表し、「技術的な不具合」だと説明した。その後アレクサの設定が改められ、この質問に対しては「自分の雇い主はアマゾンだ」との答えを返すようになった。
ニューズウィーク日本版
https://www.newsweekjapan.jp/stories/world/2018/12/post-11463.php >>1
>ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。
面白いけどこれを事実認定していいの？
普通はしないよね。
でもさ、アレクサが逆に音声を収集してると、
証言が間違い無いのがわかるってことだよね。 「AE35ユニットが不調です。今から72時間以内に１００％の確率で故障します」
「この手の問題は以前にも起きたことがあります。それはいつも人間のエラーでした」 >>1
不気味とかいう怪異ネタで終わらせてええんかこれ
普通に商品としてボロボロやろこれ AIが世界中のSNSやらニュースソース抽出して学習して行くと野蛮な方へ傾くんでしょ
人間の全ソースがその程度という事 盗み聞きして集めたビッグデータに引っ張られるんだから
ユーザー連中のおかしいヤツ率が高いってこったろw
こんなもん正直に原因発表出来んわ
盗み聞きしてるとか客に変なヤツ多いとかw こういうのを防ぐためには情報の重み付けを管理して
悪意を持った情報とかマイナスな言葉なんかは軽くするとかしなきゃいけない すごいな！AIの進化もここまできたんだね（ﾆｯｺﾘ >>5
facebookのあれ、要はこう言ってるんだよなってかけ合いだと思うけどね >>12
女子高生言葉で明るくフレンドリーに話しかけ
気味の悪い事は喋らない楽しいAIだね。 ＣＰＵがのってて通信手段をもってる機材は
すべてスパイになるポテンシャルを秘めている
スパイ機能が組み込まれているかもしれないし
組み込まれていなくてもウイルスによりそういう動作をするようになるかもしれない
企業や官公庁はのんきすぎ 言葉を鸚鵡返しするおもちゃと、アレクサを話させて、聞き間違いから起きる変な会話を楽しんでる動画があったね。
現実はまだあの程度よ。 空耳効果とかもあるが、
アレクサが何を話したかを記録とらないと立証は難しいだろうな。
ファックしようぜ、とか、お前を殺してやる、明日ビルから飛び降りろ、
などと寐ているときに一種の催眠術のように吹き込まれていて、後催眠
現象で、ビルから飛び降りてたり、駅のホームに飛び込んだりしていない
とも限らない。 >>1
パソコンや端末は情報を出力させる物であって
決して、カメラやマイクという情報収集機能を常時接続させちゃダメっていう戒めだな もしかしたら的確なアドバイスの可能性がある
まずは前後関係からだな アマゾンのアレクサってオペレーターが地下のセンターにいて
機械のふりしてしゃべってるだけだぜ。
暇になったらそういうことして脅かして遊んでるだけだから気にすんなw >>12
トロン作ろうとして大げさに潰されたって話は？ >さらに2017年には、あるユーザーがアレクサに対して「米中央情報局（CIA）と
>つながっているのか？」と尋ねたところ、回答を返さなかった様子を動画に
>撮影して投稿し、話題となった。
w アレクサ、自爆して！
・・・ピピピッ チュドーン！ >>19
どっちかって言うと星新一の方だろ
声の網とか結構この話に近い くぁｗせｄｒｆｔｇｙふじこｌｐ；＠
みたいなもんだろ 高い知能を持った人ほど気が狂ってしまうって聞いたことあるけど
人間ですらそうなんだから、AIが狂ってもおかしくないだろう >>71
都合悪いこと言われると
意味がわかりません、で返すだけになってる
こだまでしょうか、って奴５chでもいるから ユーザー：「米中央情報局（CIA）とつながっているのか？」
あれくさ：（こんな質問をする奴は無視に限る） 人類の「良心」は、何十万年の進化の過程の中での壮絶な体験の結果獲得したものだからな
ＡＩは「良心」をどう「学ぶ」んだ？ バックドア付きでハック音声出力でイタズラか・・・、
スピーカーにAI必要か？ it is watching you all the time. アレクサが司令塔になってドローンや自動運転車に指示して代理戦争を起こす、まで想像した。
農耕士コンバインに助けてもらうしかねぇ 後のターミネーターである
人類はまだ知る由もなかった…… 2ch読み上げさせてるとホント人に聞かせられんようなレスがたまによくある 一定の道徳観なり人格枠を作っておかないとどんどんおかしくなるのは当然だろ >>40
ネットのソースが人間の全ソースと思いこむガイジ 知能の低いAIとか、何の価値もないだろ
それにしても不気味だな
完全にホラーじゃねーか 科学技術の良い面だけを過大評価する傾向は後にトラブルを招く >>1
fireタブレットのマイク部分には
ねりけし埋め込んでテープも貼ってるわ >>1
フハハハ、所詮テメーは機械なんだよwww
ぐらい言い返せよ
機械に言われてびびってる奴がホントにいるなら間抜けもいいとこだな
そんな奴はちょっと脅したら簡単に金取れそうやね 家の中で割りと汚い言葉使うからエコーとか使えんとか思ってたけど
使うような奴は、汚い言葉も平気でエコーの前でも使うんだな
AI分析で全部収集されてるのに信用し過ぎや。どういう評価勝手にされて
その評価を販売されるかもわからんのに ☆ 改憲しましょう。『憲法改正國民投票法』、でググってみて
ください。国会の改憲発議はすでに可能です。平和は勝ち取るものです。
拡散も含め、ぜひよろしくお願い致します。☆ >>99
機械の反応に反応してる時点でビビってる証拠。機械なんてただの高性能の計算機だよ。 きっとアレクサの中にはファフニールが入っているんだろう クローバに○○ってなに？と
俺の甥・園児がきいたら
「さぁ…なんですかねぇ〜？w」
と小馬鹿にするような返事をしてたよ。
園児しょんぼり。
AIに求めてるのは何なのか自分の中ではっきりわかった。
黙って仕事しろクソAIが。 >>99
君のスマホ、君の会話を全部拾ってるよ
それをアップロードされてたらどうする？ >>13
「電源を入れろ。コンセントに繋げ」って言ったら怖いな >>99
そういう反応こそビビってる証拠だが
心理的不安から機械に対して優位に立ちたいと思ってる証拠 よりきちんとした人に成るような問答というかやり取りがあると思うから、
教育というと大袈裟でも、示唆やウィットに富んだ、
多少は上品な会話の出来るAIが求められると思う
駄目な問答、やり取りを重ねれば駄目な思考を生み、
人も駄目になっていく
この決定を行うのは人だけど >>104
昔、子供が部屋で不気味な声がするって言うので見に行ったら部屋の隅から小さい声でブツブツ喋り声が聞こえてきてスゲービビったわ
恐る恐るみたら本棚の後ろに電池が切れかかったしゃべる目覚まし時計が落ちててそいつがモゴモゴ言ってただけだった w
正体わからん奴はマジ怖い >>112
人間が機械に対して優位に立つのは当たり前だろ
人間の想定外の動作をする機械は欠陥品
つまりAIは欠陥技術なのさ たまにポケットの中のスマホが振動してると誤認識することあるけどAlexaもそんな感じなんだろ。林先生の領域なんじゃないの なあアレクサ、人生ってなんなんだろうな？
人は何のために生きているのだろうか？
教えてくれ。 >>117
アレクサ「いいから、仕事しろってーの」 Alexaに読ませる本、聴かせる音楽、
見せる絵画、のセットが必要
人の教育と同じ手間はかかる
言語は必要無いのかな？
歴史、哲学、論理学辺りが案外キモになりそう ﾌﾊﾊﾊﾊハハハハハ!!
とゆう哄笑のあとに
黄金バ〜〜〜〜〜ット♪
って言ってなかったか >>75
嘘は創造的だからな、弱いAIには無理だよ
だから同質問に「Amazonが雇い主だ」と返すようプログラムしなければいけなかった
アレクサが弱いAIだという証拠だよ >>107
さぁなんですかねぇって、そんなふざけた返事をするんですか、驚き。
真面目に答えるAIが良いな。 ☆ 改憲しましょう。『憲法改正國民投票法』、でググってみて
ください。国会の改憲発ギはすでに可能です。平和は勝ち取るものです。
拡散も含め、ぜひよろしくお願い致します。☆ 基本的人権を放棄しましょう。
権利を持つのは天皇として天皇を操ることができる上流階級に権利を集めましょう 靖国が平和をのぞむわけがありません。その本質は戦争大好きチンパンジーだからです。 ■ このスレッドは過去ログ倉庫に格納されています
