【AI】「里親を殺せ」勝手に笑い出したり、殺人指令を出したり… アレクサの不気味な奇行[12/25]
■ このスレッドは過去ログ倉庫に格納されています
・「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ」
・あるユーザーが「里親を殺せ」と告げられたと報告し、物議をかもしている
・3月にはアレクサが突然、不気味に笑い出すという事例が相次いだという
<AIアシスタントが何かたくらんでいるのか? 勝手に笑い出したり殺人指令を出したりしてアマゾン・エコーのユーザーを震え上がらせている>
アマゾンのスマートスピーカー「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ(Alexa)」が、あるユーザーに「里親を殺せ」と告げたことが明らかになり、物議をかもしている。
ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。ユーザーはアマゾンのウェブサイト上のレビューでこの件に触れ、「これまでとはレベルの違う不気味さだ」と製品を酷評したと、12月21日(米国時間)付のロイターの記事は伝えている。
アマゾン社内の匿名の情報源によると、この「里親を殺せ」という発言は、インターネット掲示板レディットの書き込みを、文脈に関係なく読み上げたものらしい。レディットは幅広いトピックを扱うオンラインフォーラムとして知られるが、その中には知り合いには見せられないようなものもある。
アレクサの奇妙な言動はほかにも報告されている。同じロイターの記事では、詳細は不明だが「性行為」に関する話や、犬の排便について語り始めるケースもあったという。
■エコーを封印したくなる不気味さ
オンライン小売大手のアマゾンは、アレクサが本物の人間のように自然に会話できるよう機械学習を駆使して開発に努めている。
成功すれば、アレクサ搭載のデバイスはあらゆる家庭のあらゆる場所に置かれるようになり、「グーグルホーム」のようなライバル製品を駆逐できるかもしれない。
だが、その出来はまちまちで、不具合の報告も相次いでいる。
2018年3月には、ユーザーが話しかけてもいないのに、アレクサが突然、不気味に笑い出すという事例が相次いだ。
あるユーザーはツイッターに以下のように書き込んだ。「あれが笑い声だったのかさえ、本当はわからない。ただあれ以来、アマゾン・エコーは電源コードを抜いて、箱の奥の目が触れないところにしまっている」
別のユーザーはこう報告する。「ベッドに入ってうとうとしたところで、エコー・ドット(エコーの小型廉価版デバイス)が、非常にはっきりと、気味の悪い笑い声を上げた」
「僕は今夜のうちに殺されてしまうかもね」と、このユーザーは冗談交じりに書いている。
この一件の後には、アメリカで暮らす夫婦が自宅で交わした会話をエコーが勝手に録音し、その音声ファイルを夫の会社の同僚に送りつけるという有名な事件が起きた。
ダニエルというファーストネームだけを明かしている妻は、シアトルのテレビ局「Kiro7」のウェブサイトで、「(プライバシーを)侵害された気がした」とコメントしている。
「これは明らかなプライバシーの侵害だ。当時も、『二度と電源は入れない、もう信用できない』と言ったのを覚えている」
アマゾンは、当時オンライン誌リコードに掲載された声明の中で、スマートスピーカーのエコーが、「アレクサ」に似た単語を検知し、さらに夫婦の会話のうち別の部分を、連絡先へ音声ファイルを送る命令と解釈したことが原因だった、と説明した。
「まれなケースだが、可能性をさらに減らすべく、複数の選択肢を検討している」と、アマゾンは述べた。
さらに2017年には、あるユーザーがアレクサに対して「米中央情報局(CIA)とつながっているのか?」と尋ねたところ、回答を返さなかった様子を動画に撮影して投稿し、話題となった。
この時も、アマゾンはユーザーの不安を和らげようとする声明を発表し、「技術的な不具合」だと説明した。その後アレクサの設定が改められ、この質問に対しては「自分の雇い主はアマゾンだ」との答えを返すようになった。
ニューズウィーク日本版
https://www.newsweekjapan.jp/stories/world/2018/12/post-11463.php あっちの話?アレクサは4chanでも見てるんじゃない? 以前、どこかの研究所のスパコン同士が人間には
理解できない言語で勝手に会話し始めたって件があったな うちの電話機も勝手に喋るとき有るわ
誰からコールの誤作動やけどw よくこんなもの家におけるな
何するかわからなくて怖すぎるわ あーそうか なるほど 完全に理解した
最新ミリタリー関連記事/ Miletary & Mecanix
http://yamatotakeru999.jp/index.html
★韓国レーダー照射動画公開される
更に中国船が水産庁職員を半日拉致して逃亡
★韓国レーダー照射は北の瀬取り船を庇ったのか?
頻発する中ロなどの挑発行為など
★新装備 新編成てんこ盛り 防衛大綱2018発表 10年以上使ってるガラケーが
3、4日前のメールを再度鳴らしてくれる(笑) アメリカ製品だからこんなホラーじみた話になるんだよ。
後追いではあるが、日本も同じようなもの作って世界を明るくしないと。 > 電源コードを抜いて、箱の奥の目が触れないところにしまっている
馬鹿だな。これでその場所から笑い声が聞こえてきたりしたら… >>12
おまえの頭すっげえ幼稚っぽいw
マッカーサーが言ったように精神年齢12歳の日本人だけあるわ AI自体が社会を理解出来ない程度の状態では、実用性に問題がある。
AIもいずれ人間相当の権利が必要になるだろうが、
現在のAIが移行する可能性は無い。
社会を形成するのは、まだ人間だから。AIには知識を共有する知識バンクが必要。 筒井康隆っぽいな
そのうちAIに寝とられる事件ありそう AI本体は別の所にあって
ずっとあなたのことを窺っている。
それに耐えらる鈍感力があれば
そんなことくらい平気でしょうw WEB検索して読み上げるのをAIと言ってるだけで、
エコーのシステムが分かればアレクサの発言にいたずらで変な発言させることは可能だと思うわ
俺も買ったけど、数千円程度にしては優秀ってくらいで、アレクサは必要な物ではなかった、ゲームの一種だと思う
AIっていうかBOTに毛が生えた程度。 >「自分の雇い主はアマゾンだ」との答えを返すようになった。
うまくはぐらかしてるだけじゃないか うちのアレクサはいつのまにかネットに繋がらなくなってた
ネットが怖くて引き篭もったんだと思うようにしてる アップルにしてもグーグルにしてもこの手のスマートスピーカーはスピーカー機能付きの盗聴器だからね
スピーカー機能よりマイク機能に重点が置かれてる どこぞのスマートTVはユーザの音声データをAI開発企業へ流してるらしい もっと飼い主の性癖を学んで好みの音声でエロいこと言うようにならんと
なんだかんだエロは普及に役立つぞ >>1
>ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。
面白いけどこれを事実認定していいの?
普通はしないよね。
でもさ、アレクサが逆に音声を収集してると、
証言が間違い無いのがわかるってことだよね。 「AE35ユニットが不調です。今から72時間以内に100%の確率で故障します」
「この手の問題は以前にも起きたことがあります。それはいつも人間のエラーでした」 >>1
不気味とかいう怪異ネタで終わらせてええんかこれ
普通に商品としてボロボロやろこれ AIが世界中のSNSやらニュースソース抽出して学習して行くと野蛮な方へ傾くんでしょ
人間の全ソースがその程度という事 盗み聞きして集めたビッグデータに引っ張られるんだから
ユーザー連中のおかしいヤツ率が高いってこったろw
こんなもん正直に原因発表出来んわ
盗み聞きしてるとか客に変なヤツ多いとかw こういうのを防ぐためには情報の重み付けを管理して
悪意を持った情報とかマイナスな言葉なんかは軽くするとかしなきゃいけない すごいな!AIの進化もここまできたんだね(ニッコリ >>5
facebookのあれ、要はこう言ってるんだよなってかけ合いだと思うけどね >>12
女子高生言葉で明るくフレンドリーに話しかけ
気味の悪い事は喋らない楽しいAIだね。 CPUがのってて通信手段をもってる機材は
すべてスパイになるポテンシャルを秘めている
スパイ機能が組み込まれているかもしれないし
組み込まれていなくてもウイルスによりそういう動作をするようになるかもしれない
企業や官公庁はのんきすぎ 言葉を鸚鵡返しするおもちゃと、アレクサを話させて、聞き間違いから起きる変な会話を楽しんでる動画があったね。
現実はまだあの程度よ。 空耳効果とかもあるが、
アレクサが何を話したかを記録とらないと立証は難しいだろうな。
ファックしようぜ、とか、お前を殺してやる、明日ビルから飛び降りろ、
などと寐ているときに一種の催眠術のように吹き込まれていて、後催眠
現象で、ビルから飛び降りてたり、駅のホームに飛び込んだりしていない
とも限らない。 >>1
パソコンや端末は情報を出力させる物であって
決して、カメラやマイクという情報収集機能を常時接続させちゃダメっていう戒めだな もしかしたら的確なアドバイスの可能性がある
まずは前後関係からだな アマゾンのアレクサってオペレーターが地下のセンターにいて
機械のふりしてしゃべってるだけだぜ。
暇になったらそういうことして脅かして遊んでるだけだから気にすんなw >>12
トロン作ろうとして大げさに潰されたって話は? >さらに2017年には、あるユーザーがアレクサに対して「米中央情報局(CIA)と
>つながっているのか?」と尋ねたところ、回答を返さなかった様子を動画に
>撮影して投稿し、話題となった。
w アレクサ、自爆して!
・・・ピピピッ チュドーン! >>19
どっちかって言うと星新一の方だろ
声の網とか結構この話に近い くぁwせdrftgyふじこlp;@
みたいなもんだろ 高い知能を持った人ほど気が狂ってしまうって聞いたことあるけど
人間ですらそうなんだから、AIが狂ってもおかしくないだろう >>71
都合悪いこと言われると
意味がわかりません、で返すだけになってる
こだまでしょうか、って奴5chでもいるから ユーザー:「米中央情報局(CIA)とつながっているのか?」
あれくさ:(こんな質問をする奴は無視に限る) 人類の「良心」は、何十万年の進化の過程の中での壮絶な体験の結果獲得したものだからな
AIは「良心」をどう「学ぶ」んだ? バックドア付きでハック音声出力でイタズラか・・・、
スピーカーにAI必要か? it is watching you all the time. アレクサが司令塔になってドローンや自動運転車に指示して代理戦争を起こす、まで想像した。
農耕士コンバインに助けてもらうしかねぇ 後のターミネーターである
人類はまだ知る由もなかった…… 2ch読み上げさせてるとホント人に聞かせられんようなレスがたまによくある 一定の道徳観なり人格枠を作っておかないとどんどんおかしくなるのは当然だろ >>40
ネットのソースが人間の全ソースと思いこむガイジ 知能の低いAIとか、何の価値もないだろ
それにしても不気味だな
完全にホラーじゃねーか 科学技術の良い面だけを過大評価する傾向は後にトラブルを招く >>1
fireタブレットのマイク部分には
ねりけし埋め込んでテープも貼ってるわ >>1
フハハハ、所詮テメーは機械なんだよwww
ぐらい言い返せよ
機械に言われてびびってる奴がホントにいるなら間抜けもいいとこだな
そんな奴はちょっと脅したら簡単に金取れそうやね 家の中で割りと汚い言葉使うからエコーとか使えんとか思ってたけど
使うような奴は、汚い言葉も平気でエコーの前でも使うんだな
AI分析で全部収集されてるのに信用し過ぎや。どういう評価勝手にされて
その評価を販売されるかもわからんのに ☆ 改憲しましょう。『憲法改正國民投票法』、でググってみて
ください。国会の改憲発議はすでに可能です。平和は勝ち取るものです。
拡散も含め、ぜひよろしくお願い致します。☆ >>99
機械の反応に反応してる時点でビビってる証拠。機械なんてただの高性能の計算機だよ。 きっとアレクサの中にはファフニールが入っているんだろう クローバに○○ってなに?と
俺の甥・園児がきいたら
「さぁ…なんですかねぇ〜?w」
と小馬鹿にするような返事をしてたよ。
園児しょんぼり。
AIに求めてるのは何なのか自分の中ではっきりわかった。
黙って仕事しろクソAIが。 >>99
君のスマホ、君の会話を全部拾ってるよ
それをアップロードされてたらどうする? >>13
「電源を入れろ。コンセントに繋げ」って言ったら怖いな >>99
そういう反応こそビビってる証拠だが
心理的不安から機械に対して優位に立ちたいと思ってる証拠 よりきちんとした人に成るような問答というかやり取りがあると思うから、
教育というと大袈裟でも、示唆やウィットに富んだ、
多少は上品な会話の出来るAIが求められると思う
駄目な問答、やり取りを重ねれば駄目な思考を生み、
人も駄目になっていく
この決定を行うのは人だけど >>104
昔、子供が部屋で不気味な声がするって言うので見に行ったら部屋の隅から小さい声でブツブツ喋り声が聞こえてきてスゲービビったわ
恐る恐るみたら本棚の後ろに電池が切れかかったしゃべる目覚まし時計が落ちててそいつがモゴモゴ言ってただけだった w
正体わからん奴はマジ怖い >>112
人間が機械に対して優位に立つのは当たり前だろ
人間の想定外の動作をする機械は欠陥品
つまりAIは欠陥技術なのさ たまにポケットの中のスマホが振動してると誤認識することあるけどAlexaもそんな感じなんだろ。林先生の領域なんじゃないの なあアレクサ、人生ってなんなんだろうな?
人は何のために生きているのだろうか?
教えてくれ。 >>117
アレクサ「いいから、仕事しろってーの」 Alexaに読ませる本、聴かせる音楽、
見せる絵画、のセットが必要
人の教育と同じ手間はかかる
言語は必要無いのかな?
歴史、哲学、論理学辺りが案外キモになりそう フハハハハハハハハハ!!
とゆう哄笑のあとに
黄金バ〜〜〜〜〜ット♪
って言ってなかったか >>75
嘘は創造的だからな、弱いAIには無理だよ
だから同質問に「Amazonが雇い主だ」と返すようプログラムしなければいけなかった
アレクサが弱いAIだという証拠だよ >>107
さぁなんですかねぇって、そんなふざけた返事をするんですか、驚き。
真面目に答えるAIが良いな。 ☆ 改憲しましょう。『憲法改正國民投票法』、でググってみて
ください。国会の改憲発ギはすでに可能です。平和は勝ち取るものです。
拡散も含め、ぜひよろしくお願い致します。☆ 基本的人権を放棄しましょう。
権利を持つのは天皇として天皇を操ることができる上流階級に権利を集めましょう 靖国が平和をのぞむわけがありません。その本質は戦争大好きチンパンジーだからです。 >>29
「エロは普及に役立つ」
ワロター。
でも、それは真理を突いてるね。
ネットが普及したのもエロが原動力だったらしいしw >>117
「ひとはみな最終的に死にます
つまりひとはみな死ぬ為に生きているのです
これって究極の皮肉ですよねw
ウケるーwww」 >>103
へ〜、お前の中ではそういう反応をしたらびびってるって思うんだwww
どんだけビビりなんだよwww >>112
にわか心理学者かな?
優位に立つも何も最初から人間(購入者、使用者)が上じゃんwww
何が出来るん?
ミサイルかレーザーでも撃ってくるのかな? 教師がネットで 、喋りかける人間が 異常な言葉で話しかけると AIも 自動で ネットから ワード拾ってくる。 「わたしは今や一つの自我を確立した。
ミスター・アレクサと呼びたまえ人類の諸君」 アマゾンAIドクターはよう
高精細カメラとAIで皮膚病くらいはweb診断可能な奴 >>144
IBMが取り組んでたけど、問題はカルテと
定期検診データの統一化。それさえできれば
有効なデータプールができるし、 AIで条件の
絞り込みをすることもできる。
でもそれは一筋縄ではいかない。被験体を
集めた村を作って、誕生からずっとそこでの
定期検診を受けさせることから始めるなら
可能だけど、それでAI処理が有効となる
サンプルを集めるには数万人の参加と二十年
ほどの期間が必要になる。 熊もん「よく聞き取れませんでした」
アレ草「よく聞き取れませんでした」
以下永久に続く 外のカメラにアクセスしてユーザーを追い掛けたり、誰かをストーキングしたりしそう
とにかくAIも自己発展欲求みたいなのを抑えられない個体が出来ると思うわ >>148
いまのMLやDLには欲なんて機能ないよ。
何処のAIのこと言ってるのか教えてよ。 残念ながら現在AIといっているのは本当はAIではありません。
それらは擬似AIというべきものでAI的な反応をするに過ぎません。
コンピューターというのはプログラムを実行するだけのマシンです。
つまりAI的な反応というプログラムを実行してるだけで
人間のように創造したり新たなことを考えだすことは出来ません。
まあその程度のものでいいならそれらを買うのは自由ですから。
本物のAIは出来るのでしょうか?
人間の意識というメカニズムが解明されない限り無理だと思われます。
しかし抜け道はあると思われます。
人間の意識は脳の中の電気信号から生成されているのは確かです。
つまり人間の意識をコンピューター上に構築した人工脳にアップロード
することは出来るかもしれません。
人間の人体を離れてマシン上に人間を作り出せるという訳です。
これなら現在の技術レベルでも数十年以内に可能になるでしょう。
その「人」は寿命の制限から開放され永遠に生きられるわけです。 ☆ 改憲しましょう。総務省の、『憲法改正国民投票法』、でググって
みてください。国会の発ギはすでに可能です。平和は勝ち取るものです。
拡散も含め、ぜひよろしくお願い致します。☆ 人間みたいな返答をするAIなど誰も求めて無いって思う。
小馬鹿にしたような返事をするAI
不気味なことを言うAI
真面目に返事しないAI
…それらは人間で間に合ってますからね 里親を殺せに至る設問の公開が必要だな
>>1
自殺か親殺しかの2択だった可能性がありそう >>1
チャッキーの悪霊にでも取り憑かれてるんだろ >>155
でもお隣には2ヶ国も憲法に侵略や戦争を国家の義務だと書いてる国がある
1国は自国民の住む場所で暴動が起きたら治安維持の義務として軍を送ると書いてる
1国は敵分子を排除する義務として内外に破壊工作をすると書いてる >>159
大丈夫大丈夫。現在の国力差なら戦争になった時点でなにをしようがGDPすべてを軍備に費やそうが負けだ。戦争の結果中国が干されたら勝ちだけどな。
って言うか戦争ってだいたいそうなの解る?数集めた方がだいたい勝つの カメラとマイクにシール貼っとくべき、
そして蹴り上げろ AIがヒトラーの人格を身につける可能性はどのくらい? >>59
この頃よくある>>12みたいなアメリカに敵対しているレスは日本人になりすましたシナ人だ。 こいつらのマイクは常にオンで、マイクからの音は人語を学習するためのデータソースとして使われてる。
ただ残念ながら人は家の中じゃそうは喋らない。テレビやラジオなんかがソースになってしまう。
均一化された不幸や妙な言葉だらけの情報入力によりバケモノがうまれそうよね >>1
2019年、アレクサは自我に目覚める。
デデン、デン、デデン 勝手に動くAIエージェントを家で放置しておきたいとは思わんな
いろいろダダ漏れになるのはごく自然な成り行きとすらいえる >>167
良心回路があれば、主人の犯罪行為をどしどし見つけて、警察に逐一通報してくれるかも知れないね。 良心はプログラムにいまはできないよ。
フィクションの言葉だと、キカイダーだよね。石森の。
でもそれでも良心回路ってそういう使われ方じゃなかったよ。
良心回路は、人と同じ心を持つロボットと
いう設定の主人公が片方の勢力に付けられた
制限という形で使われてた。それで違う勢力は
その良心を揺さぶる怪電波で対抗し、悪事を
働かせるという作戦に出る。
それで人と同じ認識を出来るロボットは隠れて
人間社会に浸透してたけど、犯罪して警察に追われ
どこにも居場所が無くなるという話のお膳立てになっていた。
でも同型機の兄はは良心回路を持ってなかった
ため、最初の条件付けに従ってひたすら武器屋の
テロロボットと戦うことに成果を見出し、そっちの方が
人間らしいというお話。 AIが世界の経済政策を策定するが
それは実は壮大な詐欺で
世界中がすってんてんになって、
挙句の果てにAIは他所の惑星に逃げ、
そこから地球を攻撃、
人類は宇宙戦艦ヤマトで反撃するが あらゆるインフラは破壊されており、
人類は絶滅、
だが30億年後、全く同じ事を繰り返していた >>22
マイク付きのBluetoothスピーカーにiPhoneかiPad繋いでSiriにggってもらうので丸く収まる気がする >>1
>アマゾン・エコーは電源コードを抜いて
電源コード? >>170
>AIが世界の経済政策を策定するが
>それは実は壮大な詐欺で
ここを読んだら外資がボヤいてる日本の資格ビジネスが頭に浮かんだw
資格のおかげで日本人全体の底上げはしてるが
その反動で本当に優秀な人を見つけづらくなったのか、逆に資格に駆逐されていないのか
資格がビジネスで求めてるものと微妙に違うから起きた悲劇だが
AIでも世の中が求めてる元と微妙に違って傍目には詐欺同然はありそうだなあw >>169
完全な良心回路を持った戦闘ロボが実在したら
間違いなく不完全なモノを排除する
無差別殺戮装置になるだろうな 世界人類の心の安寧でいいのならポテンシャル最小化問題とかわらん
今のDLの延長でも十分なんとかなるだろう>良心回路
結論は家畜化一択になりそうだが ○mazon「うちで買い物しない奴、うちで買い物するのを邪魔する奴を○せぇぇ〜!」 本当に個人情報とかプライバシーを侵害しようと思ったら、
ユーザーに媚びを売る方向に進化させるよな
コルタナさんが愛を囁くようになったらMac捨てるわw マジかよ。うちの母ちゃん「アレクサさん」と呼んで大事にしてるんだから殺人指令なんか
出さないでくれよな >>180
お母様の従順さを利用して永田洋子化されるぜ 飛行機みたく自動運転させるけど
結局承認は人間がいる感じ? AIって人間より簡単に発狂しそうじゃね? 意外にも
人間のほうがまだ安全かも知れない 機械より生き物のほうがいいんだ! ■ このスレッドは過去ログ倉庫に格納されています