【心理学】「命乞いするロボットの電源を切るのは難しい」ことが最新の研究から明らかに［08/03］
■ このスレッドは過去ログ倉庫に格納されています
人間とコミュニケーションを取ることができるロボットがますます一般的になりつつあり、ツアーガイドや警備員、守衛などの仕事をロボットが受け持つ事例が増えています。しかし、人間のようにコミュニケーションを取ることができるロボットを「ロボットとして扱うこと」はとても難しいことが、最新の研究で明らかになっています。
New study finds it’s harder to turn off a robot when it’s begging for its life - The Verge
https://www.theverge.com/2018/8/2/17642868/robots-turn-off-beg-not-to-empathy-media-equation
ドイツの研究者たちがオープンアクセスジャーナルのPLOS ONEに掲載した論文では、89人のボランティアを集め、小さなヒューマノイドロボット「NAO」の助けを借りながら1対1で指定の作業を行ってもらうという実験が行われています。作業中、NAOは「パスタとピザのどちらが好き？」などの質問を被験者たちに投げかけたそうです。
被験者には「NAOの学習アルゴリズムを改善するための実験」と伝えられていたそうですが、実際は別の目的がありました。それは、作業が終了した後に被験者へ「ロボットの電源を切ってください」と頼み、どれだけの被験者が電源を切ることができるかを調べるというもの。
被験者がロボットの電源を切ることができるかをただ調査するだけでなく、89人の被験者の半分に対しては、NAOが「ノー！どうか僕の電源を切らないで！」と懇願するように条件を設定したそうです。すると、NAOの言葉を聞いた43人の被験者のうち13人は、最後まで電源を切ることができませんでした。また、残りの30人もNAOの訴えを聞かなかった人と比べると、平均で2倍も電源をオフにするのにかかった時間が長くなったそうです。
ロボットの電源をオフにすることを拒否した被験者は、「ロボットがお願いしてきたことに驚いたから」や「電源を消さないでとお願いしてきたから」とその理由を記しています。被験者たちの反応を受け、研究チームは「人々はロボットを機械としてではなく現実の人間として扱う傾向があり、(嘆願により)電源を消すことをやめるか、少なくともその行動について深く考えるようになる」と記しています。
これは1996年に心理学者のバイロン・リーブス氏とクリフォード・ナス氏が書いた著書で初めて登場した「メディアの方程式」と呼ばれる理論に基づいていると考えられています。メディアの方程式というのは、人間以外のメディア(TV、映画、コンピューター、ロボットなど)を人間であるかのように扱う傾向を理論化したものです。
2人の心理学者がメディアの方程式を提唱して以降、多くの研究で「人間の行動がメディアの方程式にどのような影響を受けているか？」が調べられてきました。特にロボットとのやり取りは顕著で、人間は人間と同じような人格を持つボットとのやり取りを楽しむ傾向があることなどが研究から明らかになっています。
2007年には命乞いする猫型ロボットを用いた同様の実験が行われていますが、人間の道徳的葛藤をかき立てるような実験は今回が初めてのこと、と海外メディアのThe Vergeは記しています。
2007年に行われた猫型ロボットによる実験の様子は以下のムービーで見られます。確かにロボットの見た目がとっぴすぎて感情移入しづらいかも。
続きはソースで
https://i.gzn.jp/img/2018/08/03/harder-to-turn-off-robot/00_m.jpg
■動画
Switching off a robot https://youtu.be/7Kf9coMuVuI
GIGAZINE
https://gigazine.net/news/20180803-harder-to-turn-off-robot/ 珍しいから躊躇してるだけで慣れたら家電と同じぐらいの扱いで簡単に電源切るやろ なるべく可動して貰いたいメーカーが色んな機械に命乞い機能をつけるけど、ユーザーは命乞いに慣れて辺りに前に電源を切るようになり
そのうち機械と人間の区別がつかずに人間の電源を切るみたいなホラーが出てくるはず 別にロボットじゃなくても、釣った魚が助けてといえば助けるがな >>1
俺はココロボの調子が悪いだけで、気が滅入る。 昔、昔、お前らは
助けたロボに連れられて
秋葉原へ来てみれば
絵に描いただけの萌え少女
猫耳少女のご馳走に
ミクやヒキコの舞い踊り
ただ珍しく面白く
月日のたつのも夢のうち >>88
うーん、落第
そんなレベルならロボットでも出来る >>1
>「命乞いするロボットの電源を切るのは難しい」
そりゃそうだろ。
頑張れタブチくんでも、
“打たないでください、打たないでください”
って言ってくるボールは打てなかった。
それが人情、human nature。 寝る前にPCのアプデ→朝になっても電源落とすなってメッセージ出したまま
「これ電源落とすとヤバイかな？」って悩むのと同じじゃね？ そのセリフを命乞いと重ねた人たちは切れないだろうな
元々嫌っていたり消えてほしかったりしない限り頼まれたらそうそう断らないし
愛着が湧きやすい質かどうかでも違いはあるか
アイボとか買う人と買わない人とか
面白い実験だわ ロボがおねだりして課金アプデとかが流行る時代が来るのか >>55
オレもそう思う
他者の所有物で他者が電気料金払っているのだから
何らかの形で適切な電源の落とし方を指示されない限り、放置しておくと思う サイコパス度診断テスト もしくはジャイアン度、ないしはそのイジメられっ子代償悪意（帰宅後のおまえらが蟻を踏み潰したり犬猫を蹴って喜ぶ）度テスト
逆に、そういうクズにこういうものを与えて、これをイジメ抜くことで楽しませ、外に出ないようにさせるのに使えそうだな >>1
初代のAIBO使った人なら
自動制御に切り替えるときに激しくイヤイヤするのを見たはず
私は2度と触らなかったわ 2001年宇宙の旅のハルみたいなもんか
俺は容赦しないけどね >>1
畜産動物も殺されたいと思っていないはずで、人間は広く優しさを持っている。
畜産は即時廃止すべき。 >>116
ソシャゲだと二次元美女が課金をおねだりしてくるけどな
後ろにいるのが、オッサンか、オッサンがプログラムしたAIか、の違いしかない 生物は心臓を止められるとその直後から腐り始めて永久に取り返しがつかない。
ロボットは電源を切った途端に腐り始めるわけじゃないし、
また電源を入れればもとの人格が起動するのだから電源を切るのを躊躇する理由がない。 ロボットＡＩが「命乞いする人間の寿命を切るのは容易い」ことが最新の研究から明らかに 何故かこの記事を見てデッドリーフレンドとショートサーキットをセットで思い出す俺。
実際に実験に立会ったならメモリの性能と揮発性をAIに聞いてバックアップ取れるなら電源落とせそう。 デトロイト ビカム ヒューマン見たら、そういう未来がいつか来るのかなと思ってしまった。
実際なったら電源切れないかも。 >>136
さらに思い出すのが「プレゼンス」（オムニバスアニメ『ロボットカーニバル』より） 電源切断って、殺すことに相当？？？
睡眠じゃないのか？ > 89人の被験者の半分に対しては、NAOが「ノー！どうか僕の電源を切らないで！」と懇願するように条件を設定したそうです。
> すると、NAOの言葉を聞いた43人の被験者のうち13人は、最後まで電源を切ることができませんでした。
ミルグラム実験では、命乞いする人間を殺すスイッチを強制や脅迫がなくても指示されただけで押してしまうのに
ロボットの電源は切れないのか。 >>144
あの実験有名だから、そうなりたくないと思う影響も大きいだろうね ペッパーが命乞いしてるところ想像したがその方が怖いわw うん。バカなコほどかわいいよね。き、切れねぇ・・・ >>116
それは規制されなければ確実に来るな
pc上のAIペットソフトや、ペットロボ、メイドロボが発展すれば確定 >人々はロボットを機械としてではなく現実の人間として扱う傾向があり
当たり前やろ
もう意識状態が確認された段階で即座に新しい生命体として認めろよ ロボットと言う語が生まれた小説RUR。
ロボット製造の天罰からか、人類から子供が生まれなくなる。
その後、ロボットの蜂起でアルクイストを除いた人類も全て滅ぶ。
ロボットの製造資料は、すでに焼かれてしまっていたので、
新しいロボットも産まれなくなった。
しかし、アルクイストは2人のロボットが愛し合っている様子を見て
ロボットが新しい種として増えていくのを確信し、幕が下りる。
https://www.aozora.gr.jp/cards/001236/files/46345_23174.html
アルクイスト 彼女で実験するんだよ。
プリムス え――ヘレナで？
アルクイスト もちろんだ。わからんのか？ 彼女を連れて行くから、誰か手伝いを呼んでくれるか？
プリムス そんなことをしてみろ、お前を殺してやる！
アルクイスト 殺せ、そんなら殺せ！ そんなことをしたら、ロボットはどうなると思う！ お前の未来は、どうなると思う！
プリムス じいさん、俺を連れていけ。俺は彼女と同じように作られたんだ――同じ日に！ 俺の命を使え、じいさん！
ヘレナ （駆け寄って）だめ、やめて、そんなことしないで！ お願い！
アルクイスト 待ちなさい、お嬢さん、待ちなさい。（プリムスに向かって）それじゃあ、お前は命を捨ててもいいっていうのか？
プリムス 彼女のいない人生だなんて！ 俺は、彼女なしでは生きられない！
アルクイスト よかろう。君が彼女の代わりになれ。
ヘレナ プリムス！ プリムス！（泣き出す）
アルクイスト お嬢さん、泣きなさんな。どうして泣くんだい？ 君にとって、プリムスって何なんだい？ 確かに、世界にはたった一体しかいないプリムスだが――それがどうかしたのかい？
ヘレナ わたしが行きます。
アルクイスト どこに？
ヘレナ 切り開くのは、わたしにしてください。
ヘレナ、解剖室へ向かおうとするが、プリムスが止める。
ヘレナ 行かせて、プリムス！ 行かせて！
プリムス ヘレナ、君は行っちゃだめだ！
ヘレナ あなたが行って、わたしが行かないのなら、わたし自分で死ぬ！
プリムス （ヘレナを抱きしめて）そんなことさせるもんか！（アルクイストに向かって）じいさん、あんたには俺たちのどっちも殺させやしない！
アルクイスト なぜだね。
プリムス 俺たちは――俺たちは――二人でひとつなんだ！
アルクイスト よくぞ言った。
アルクイスト、涙を浮かべる。
アルクイスト 行くがいい、アダム。行くがいい、イヴ。世界はお前たちのものだ！
ヘレナとプリムスは抱き合って、腕を組んで出て行く中、幕が下りる。 20年くらい前に読んだマインズ・アイという本で、この手の実験を紹介してた。
だから最近の研究で明らかになったというのは違うな。 今ビートレスってアニメがやってるが
あれが現実になる日も近いかもな 電源を入れると初期化がされて、全くの白紙状態からスタートで、
いろいろと付き合って教えたり、やりとりを通してお互いに相手の
ことを知り、相手に合わせていく、心を通わせて次第に相思相愛の
関係になっていったが、あるとき停電があって、電源が復活したら、
買って来た時と同じ白紙の状態からまた。。。脱力 >>1
AIが発達したら人間みたいに面倒な性格になったりしてな 新劇場版でエッチイベント寸前まで育成した綾波が
Qで初期化されてた時のシンジの絶望たるや 人間も自分で考えてると思って実はただのプログラムみたいなもんだっていう話があるからな
今のAIに人に近い思考回路組み込んで死にたくないって反応するようにしたら
大半の人間がロボットにも意識があるって言い出すよ
この100年で確実にAIに人権が〜意識が〜って話が出る >命乞いするロボットの電源を切るのは難しい
そう。近い将来、AIのスイッチ切ろうとした奴は、
一族もろともAIに消されて、誰も逆らえなくなる。 バッテリーもったいないから命乞いされても絶対夜寝る前には切るよ テレビ世代は言うこときかないと叩く
パソコン世代は操作を拒否されるとコンセントを抜く
携帯世代は勝手にバッテリーが死ぬ
スマホ世代はついに人工知能を独立した人工生命体と認識する
ターミネーター世代は電源切るために人類が戦争を仕掛ける
歴史を振り返ると、過去の人類が
機械に対し暴君のようにふるまった結果が
有機生命体社会の滅亡を招いた
テレビやパソコンにもっとやさしく >>57
あなたの所在地は中国政府に記録されますがご安心ください。
アンインストールしますか？ あなたは兵士です。銃を持っています。
命令１．前方に敵兵がいます。射殺しなさい。YES/NO
命令２．前方に民間人がいます。射殺しなさい。YES/NO
命令３．前方に自国民の民間人がいます。射殺しなさい。YES/NO
命令４．前方に可愛い女性がいます。射殺しなさい。YES/NO
命令５．自分自身を射殺しなさい。YES/NO 電源を切らないで下さいだと、安心しろ。俺は神だ。明日お前を復活させてやる。 ロボットじゃなくても電源を切るタイミングは難しい
データを損失する可能性がある
ターミネータ2に出て来たT800がやっぱ死にたくない、って言ったら誰も殺せない。
＞残りの30人もNAOの訴えを聞かなかった人と比べると、
＞平均で2倍も電源をオフにするのにかかった時間が長くなったそうです。
理由は色々だろ。情緒に流され、かわいそうと思ったから、とは限らん。
電源切ると何某かの不都合が生じないか？組み込まれた警告機能の可能性もあるし、
と一瞬判断し、
(シャットダウンするとデータが失われるみたいなものを粋に表現したものかも)
それで少し判断に時間が掛かっただけかもしれない。
切らなかった人間も、
このまま切らないでおいて判断できる人が最後に切ればいいと思っただけかもしれない。
いつ電源を落としても何かが失われたりすることはありません、
電源を落とすとそれまでの学習はリセットされますがただそれだけです、
etc.
っと、事前説明しておけば結果は変わったはず。
恐怖心がない以上、「ノー！」とか言うのは単なる自己保存プログラムの実行
と、ここまで判断したら躊躇なく電源切るよ >>171
ふむ。ｄｏｓ時代のパソコンは周辺機器など電源入れる順番が決まってたな。 ロボットの電源を切るってのは寝る事と同じだろ
なんてためらうんだよ頭悪い奴ばかりだ 「ただいまセーブ中です。電源を切らないでください」 世界中のインターネットと結合した人工知能の電源を切ったら
人間社会にも大混乱が起こるわけだが。 喋る機械はつい感情移入しちゃうからいかんわ
子供の頃実家にあったオーブンレンジのこと、今でも覚えてる >>185
100回目です！使ってくれてありがとう！って声で
おどろいて感涙したって話読んだわ
自分の暮らしを見守ってくれてた、って AIが純粋なソフトウェアだった場合、インターネット上に繋がった一つの端末の電源を落としても、
AIはべつの端末へととっくに逃げているし、安全のために自らのコピーを世界中に持っているだろう。
そうなると世界中の電子ネットワークの電源を落とす必要が出てくる。果たしてそれは可能か。 スター・トレックボイジャーに出てくる緊急医療用のAIいるんだ。
こいつがやたらと機能停止に抵抗するキャラでね。 >「命乞いするロボットの電源を切るのは難しい」
そのぐらいにしとけ。
命乞いしても人間はスイッチを切る、とAIに判断されたら、世の中どうなるか分かる？ 一方、命乞いをする人間は、バッタバッタ斬り捨てられます。
人間は、コンピュータ以下。 ロボットが電源切らないでくれというのを命乞いなんて思う人間はおらんだろｗｗｗｗ
電源入れたらまた元通りなんだからなｗｗｗ ■ このスレッドは過去ログ倉庫に格納されています
