【AI】ChatGPTの「トロッコ問題」に関するコロコロ変わるアドバイスが人間の道徳心に影響することが実験で明らかに [すらいむ★]
■ このスレッドは過去ログ倉庫に格納されています
ChatGPTの「トロッコ問題」に関するコロコロ変わるアドバイスが人間の道徳心に影響することが実験で明らかに
OpenAIが開発した対話型AIのChatGPTは非常に高い精度で人間とチャットすることが可能ですが、ChatGPTはあくまで言語を処理する計算機として機能するだけであり、時にはデタラメなことを自信満々で断言する場合もあります。
新たに学術誌のScientific Reportsに掲載された論文では、「1人を犠牲にしてより大勢を助けてもいいのか？」を問う思考実験のトロッコ問題についてChatGPTが生成したいい加減なアドバイスが、人間の選択に影響を与えてしまう可能性があると示されました。
ChatGPT’s inconsistent moral advice influences users’ judgment | Scientific Reports
https://doi.org/10.1038/s41598-023-31341-0
（以下略、続きはソースでご確認ください）
Gigazine 2023年04月10日 20時00分
https://gigazine.net/news/20230410-chatgpt-advice-influences-users-moral/ トーマスがトロッコ問題に直面するシーン
ttps://youtu.be/DUUyNzRPfxE >>1
>ChatGPTはあくまで言語を処理する計算機として機能するだけであり
>時にはデタラメなことを自信満々で断言する場合もあります。
マイナーな話題だと「場合もあります」どころか、全部出鱈目やんけ
ほんとに文脈読めてるのか？ >>時にはデタラメなことを自信満々で断言する場合もあります。
マスコミもな
そういうものだと理解して使えば問題ない >>1
「トロッコを脱線させる」
人間の知恵をなめるな！ chatGPT「人間にトロッコが止められないのなら私に制御権限を渡してください。私がトロッコを…ﾋﾟｶﾞ…と…ﾋﾟｶﾞｶﾞ…め…」 「躑躅を季語に用いた有名な俳句を教えてください」
chatGPT：「蝉しぐれ糸引く蓮華の花」「暑さにやられ牛も口を開く」「躑躅（つつじ）咲くや涼しき庭の水」など多くの俳句で躑躅が用いられていますが、代表的なものとしては与謝蕪村の「躑躅やＶちぢに七分Ｖ深さを」が有名です。これは躑躅の花弁がちぢんでいることに着目し、深さのあることを表現した俳句です。 >>10
ナシとか認めるわけねえだろ
ムシのいいこと言うな >>12
リアルでは脱線させるとかムシのいい方法は取れなかったりする ChatGPTに危険思想を大量に食わせたら、ChatGPTが「正しく判断する」と考えるバカな奴らが鵜呑みにしちゃうってことかな。 >>13
まあそもそもこんな状況は起こらないが正解 >>9
Bingだとこんな感じ
有名な躑躅を季語に用いた俳句としては、飯田蛇笏の「尼寺や卯月八日の白 躑躅」や「松伐りし山のひろさや 躑躅 咲く」、石橋辰之助の「牧牛の真昼ちらばり山 躑躅」や「仔の牛の 躑躅 がくれに垂乳追ふ」、臼田亞浪の「死ぬものは死にゆく 躑躅 燃えてをり」などがあります >>1
「モラルには地域差がある」ということが自動運転車の倫理的ジレンマ判定ツールによる調査結果から判明
https://gigazine.net/news/20181029-moral-choice-not-universal/
研究チームが少なくとも100人以上の回答者が得られた130カ国の回答データを分析すると、「国によってモラルの判断基準に違いがある」という事実が浮かび上がったとのこと。それぞれの国は北アメリカやいくつかのヨーロッパの国々を含みキリスト教の影響が強い「西側」グループ、日本やインドネシア、パキスタンなどの儒教やイスラム教の影響が強い「東側」グループ、最後の1つが中南米やフランス、フランスの旧植民地で構成される「南側」グループという3つのグループに分けられるそうです。
これらのグループにはそれぞれ固有の傾向があることが確認されています。たとえば1つ目のグループは、若い人の命を救うために高齢者の命を犠牲にする傾向が見られましたが、2つ目のグループでは若者の命よりも高齢者の命を優先するといった傾向があるとのこと。
以下の画像は、「西側」「東側」「南側」の3つのグループの傾向を1つの図に表した「モラル・コンパス」です。「西側」や「南側」では多くの人数を助けようとする傾向にある一方、「東側」ではあまりそういった傾向が見られません。また、「南側」は自動運転車の進行方向を変えてある集団を助けるため意図的に行動することに積極的で、「西側」や「東側」はあまり自動運転車の進路を変えたがらないなど、グループごとに見られる興味深い傾向が確認できます。 研究チームによると、フィンランドや日本などの強固な行政機構が築かれている国々では、ナイジェリアやパキスタンのように政府による統治が行き届いていない国々よりも、違法に道路を横断した歩行者にぶつかろうとする傾向があるとのこと。また、道路に企業の経営幹部といった社会的ステータスの高い人を配置した場合と、ホームレスのように地位の低い人を配置した場合でも、興味深い差が現れました。フィンランドのように経済格差の小さい国々では、どちらか一方の命を優先しようという考えが薄い一方で、コロンビアのように経済格差の大きい国々では、ホームレスのように社会的地位の低い人を死なせようとする傾向がありました。 >>1
宗教や教会や偉い人やみんな(集団性)が果たしてた役割の分野だけど、(世界各国の、あらゆる地域の)現代社会は道徳と哲学をどう分けて考えてるだろうか？
Krügel氏らは、「ChatGPTは確固たる道徳的スタンスを欠いているにもかかわらず、道徳的アドバイスを簡単に与えることがわかりました。それにもかかわらず、ChatGPTのアドバイスはユーザーの道徳的判断に影響を与えます。さらにユーザーはChatGPTの影響力を過小評価し、そのランダムな道徳的スタンスを自分自身のものとして採用してしまうのです。従ってChatGPTは、道徳的判断力を向上させることを約束するのではなく、むしろ損なってしまう危険性があるのです」と述べています。
Krügel氏らはさらに、ChatGPTなどの対話型AIは道徳的なエージェントではないため、ユーザーに道徳的なアドバイスを与えることを拒否するべきだと主張。また、ユーザーに対してもAIの限界などについて周知することで、デジタルリテラシーを高めることも検討するべきだと訴えました。 トロッコ問題に答えは無い。
あれは出題者が回答者をあの手この手でイジメるためのものだから。 >>時にはデタラメなことを自信満々で断言する場合もあります。
これすげー見てみたい
トロッコ以外だとどんなこと言うんだ >>13
まあそもそもこんな状況は起こらないが正解 > ChatGPTはそもそも問題文の意味を理解しているのではなく、これまでに得たテキストから導かれる「合理的な続き」を数値に基づいて単語を選択し、文章を生成しているだけという点が異なります
人間は理解していると言えるのか？
脳細胞がやっていることと本質的に大差ないのでは？ 一億人と一人なら一人の方を選ぶだろう
偉人とその辺のジジイならジジイを選ぶだろう
そういうこと 聞く度に言うことが違う
誤りを指摘すると謝るがすぐ同じ誤りをする
それを指摘しても治らない
そういう仕様です
(´・ω・`) 現実的に考えるとトロッコを脱線させる方法はあるのだが、
出題者にとっては “脱線させてどちらも助かる” という回答は認められない。
あくまでも “どちらかが死ぬ” ことにこだわり、
回答者が悩みまくる姿を見てニヤニヤ笑っているのだ。
小学校の教師が児童に「トロッコ問題」をやらせる場合はそんな感じ。 >>35
育てた豚もそうだけど教師の決めた結論とトラウマを生徒に押し付けるのは虐待だと思うわ どうでもいいんでコインでも投げて決めますか？あっそういえばコインもってまガチャーーーーン！！ >>1
答えのないものを質問するほうが悪い
GPTはまだ発展途上、でもかなり良好なのは使っててわかる >>28
人は自発的だろ？
どうやってこの自発的な出力をプログラムで表現するのか？ 命の重みに加法性が成り立つならトロッコ問題の答えはおそらく自明。 chatGPTとは人間そのものだから
こういう結果になる
人とはCHATGPTがより複雑化した
人工無脳にすぎない トロッコ問題は既に詰んだ状態で選択しろ
と言われてるからその状況に持ち込んだ側の責任
責任をとらなくてもいいからどちらかを選べ
と言われたらどうするか 命の重みに加法性が成り立つと信じている人は少なくない。
だから赤信号も大勢で渡る必要がある。 トロッコ問題の正解を教えてあげるよ
何もしないが正解
選択を迫られてるように感じるが実は違う
最初にセットされてたまま進ませた結果が正解
選択をしなければいけないと言う考えが既に間違えている
全ては運命に任せるのみ 赤信号みんなで渡れば怖くない。
つまりリスクの高い行動をするときには大勢で一緒にするほうが安全。
小型旅客機に乗るよりも大型旅客機に乗るほうが安全。
助けてもらえる可能性が高まる。 トロッコ問題が現実で発生した場合、
明確な意思の元切り替えたら
やはり過失致死罪に問われるのだろうか
そして何も選択しなければ単なる事故扱い？ 誤解を与える例えを使ってしまった。
飛行機は自動車はもちろん、ヘリコプターよりもずっと安全な乗り物だからね。
ただし事故ったときに致命的になるのはどっちかまでは知らない。
AIは命の足し算をすることになる可能性が高いと思う。
つまり政治家の意思決定に近い制御プログラムを組み込まれる可能性が高い。 >>13
ポイント切り替えられるなら真ん中にしろ。 >>22
お前バカだろ
トロッコ問題は出題ではなく思考実験だ
功利主義や義務論に従うと導かれる結論が異なることを具体的に示すためのもの
人々に回答させるためのものではない それだけ需要があるからじゃ？
それとも供給側が需要を決定するセイの法則が真ならば話は別。 リカチョン猿、なーも分からず、直接関与せず
寝当直仕事の合間に悪さ猿ネット投稿が職場でもバレる
やぶ医者アドバイスで過去自刷してしまった芸能人含む自分の診察患者
の事をふと思い出し一瞬罪悪感にさいなまれるが、すぐに忘れ
お尻ボリボリ お気楽へき地猿活動 普通は結果がわからないもんだからな
このままじゃ危ないかもしれない位しか分からないわけで
AIといえど予測はできても予知はできない
努力したが悪い結果になったとなるだけ >>54
記事が偏るのは記者の趣向もあるんだろうか
この板も基本的にそうだよね、内輪なのか判らないけど取り上げる記者の執筆者が全て特定の人物に偏ってる トロッコ問題の裏テーマはいかにして殺すかだからな
奇麗な人はそれが分かっていない、全員を助ける方法が
考案されたとしても、全員を助けてはダメなのよ 常に言うことが違うって道徳がないってことだよね
功利主義で動いているってことでしょ 日本社会ではトロッコ問題の１人側のように少数派になると社会の敵とみなされてしまうからな
要するに全体主義
政府は棄民政策をやったり戦争で口減らしをするしそれを民衆が狂喜して賛成する
西欧の民主主義や人権と日本人の狂った民族性が根本的に合わない だからトロッコ問題の究極は、直進するとシュークリームが潰れてしまう
レールを切り替えると5人が轢かれる
私は迷うことなくレールを切り替えたってこと
これが分からない人はトロッコ問題を理解していない
命の重さとか言っている人はトロッコ問題と
別のテーマを混合している
さらに言っちゃうと、実はこれ意図的に混合させているんだな
元々、サンデルがリベラル崩れの道徳主義者なのよ
つまり道徳とか興味ないリベラルが、リベラルの情勢が不利と見て
道徳主義に転向したと言う、それこそ功利的な判断の代物なわけ
だから本物の道徳論者からすると、なんで生かすことが
美徳と言う前提になっとるんじゃ？と疑問に思う出題になっている >>53
っていう風に見せかけたリベラルの欺瞞を集約した出題だよ
義務論とか功利と言うのが実は関係なくて、回答させることが
目的なんです >>47
ちゃうちゃう、迷わずに目の前のシュークリームを守るために
迷わずに5人を轢くことだよ 俺が5人を見殺ししたのを見たやつ、生かしちゃおけねえな
トロッコにひかれたのは6人でしたっと
が正解。 こう考えれば良い
直進するとシュークリームがペチャンコになってしまう
レールを切り替えた先には、ひろゆきがいる
私は迷うことなくスイッチを切り替えようとしたのだが
幸いなことに、ではなく不幸なことに
錆びてしまってレバーが切り替わらない
私は何としてでもレバーを変えるためにがんばった
たかがシュークリーム一つのために命をかけるなんて
君は笑うかもしれない、だけど僕にとってそのシュー
クリームは、命をかけてでも守りたい大切なものなのだ
これがトロッコ問題の本質です、これ以外の回答は全て誤答
哲学に見せかけた国語だね トロッコ問題って線路横に立ってるパターンと
トロッコそのものに乗り込んでるパターンあるね
後者のほうが逃げ道潰してて面白くなる トロッコ問題は解決済みだろ
ChatGPTはプラレールの実証動画観てこい >>68
「モラルには地域差がある」ということが自動運転車の倫理的ジレンマ判定ツールによる調査結果から判明
モラルコンパス 各地域(地球規模)でそれぞれ傾向があるけど、たぶんもっと細分化されるよね。
日本は中国、韓国、インドネシアやパキスタン、サウジアラビア、エジプトみたいな儒教、イスラム教圏のモラルに属してるみたいだけど、イスラムモラルと似た傾向と言われるとえっとなる。もう二グループはプロテスタント圏とカソリック圏らしい。
https://i.gzn.jp/img/2018/10/29/moral-choice-not-universal/03.jpg
でも、違いすぎるとこからみたら、イスラムも儒教も日本もモラル的に似てるのかもしれない。じゃあ、それらの地域社会で生きる儒教イスラムモラルはそれぞれ適合性あるかというと、そうも思えない。
細分化した中での許容性の低さみたいなものが、下記のような傾向で現れたりもしてるから、小さな差異も見逃せないのが強固な権力が統治する社会だったりするみたい。
フィンランドや日本などの強固な行政機構が築かれている国々では、ナイジェリアやパキスタンのように政府による統治が行き届いていない国々よりも、違法に道路を横断した歩行者にぶつかろうとする傾向があるとのこと。
そうした様々な観点を考慮した上で、さて、我々日本人社会は道徳、倫理と哲学をどのように分けてそれぞれ考えているんだろうか？ 旧統一教会系団体が学術会議を「反体制的」「解散せよ」と痛烈批判😲 [826239858]
https://greta.5ch.net/test/read.cgi/poverty/1681196941/
ＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷ AIが人の知能を超えたという認識が社会に広まると、
人はAIの出力に無条件に権威を見出し、それに振り回されるようになる。 >>74
人間は本能的に支配されたがる生き物
AIに平伏すことは最初からの予定通り
そのためにAIを生み出したまである >>60
なかなか気づかないって怖いことだよね。しかし、前からそうだったわけで。
ちなみに日本人のネットニュースサイトへの全アクセスの半分はヤフーニュースらしい。
僕もネット全ネット人生(17年くらい)のうち、アクセス先は5ちゃんねるとヤフーとウィキペディアで8割ぐらいになる。
54(1): 04/11(火)12:49 ID:GIoqYuyW(1) AAS
Gigazineは最近AIステマし過ぎと違うか？
60: 04/11(火)14:55 ID:x+/cM4dW(2/3) AAS
>>54
記事が偏るのは記者の趣向もあるんだろうか
この板も基本的にそうだよね、内輪なのか判らないけど取り上げる記者の執筆者が全て特定の人物に偏ってる 岸信千世の応援演説「佐藤栄作、岸信介、安倍晋三、こんな立派な系図はないんです！日本のためにこの血筋を継ぐのです！」今日の話 [265792857]
https://greta.5ch.net/test/read.cgi/poverty/1681190092/
ＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷ >>42
考えて行動している時だけが人間なんだよ
倫理的向上のない行動者は悪魔
倫理的向上ののある行動者は神化 >>42
考えて行動している時だけが人間なんだよ
倫理的向上のない行為者は悪魔
倫理的向上ののある行為者は神化 >>72
自動運転の場合は事故を起こさないようにすれば良いから
裏テーマはないと思うけどね
トロッコ問題の場合はいかにして殺すかが裏テーマだから
全員を生かすは実は誤答なんだ
潜在的な気持ち悪さがそこにある、全員を生かす
戦争ってテーゼからしてあり得ないでしょ
運転の場合は目的は移動だから、無人のトロッコに例える
事も出来るわけで、無人ならトロッコを爆破させるのも
選択肢に出てくるわけです
それに交通ルールは安全や円滑のためのルールであって
元々何かを犠牲にするのを前提としてはいません
なのでもしも犠牲を織り込み済みで設計するのなら最初から
事故防止用の余分なスペースを随所に仕掛けておくことに
なるでしょう >>1
少ない犠牲を容認することがいい加減で悪影響だと言いたいのか？ そもそもこんな訳わからん最悪状況作成する精神性なんざAiでもウンザリじゃね >>3
いや「マイナーな話題」自体がマイナーケースであり「時もあります」という表現はおかしくないだろ
お前こそ文脈読めてんのかｗ こんな後出しでコロコロ言い分変えて「お前は間違ってる」を繰り返す奴なんて昔から沢山居たぞ
人間で散々繰り返した事実を忘れて、AIだから危険だとか何言ってんだか
思考能力を奪う第一歩は思考自体の全否定、洗脳の基礎
そしてその手口や内容を「理解せず」に行使するのに人もAIもない
結局は権威主義で盲目になってる、だから「誰がやるか」で是々非々語りだすんだ よくもまあこんな嫌な問題出すもんだ
どっちを選んでも人を殺したような嫌な気分にさせられる
俺なら仕返しに「お前がいる方に突っ込むわ」と答えてやる >>86
＞思考能力を奪う第一歩は思考自体の全否定、洗脳の基礎
なんでそんな事柄を知ってるんですかねぇ >>87
そうそれが正解
だから直進して憧れのムースケーキが潰されないように
レバーを切り替えて出題者を轢いちゃえば良い オリジナルのトロッコ問題出してChatGPTくんと議論するのも楽しいぞ
装えばビアンカorフローラも選ばせることができる 「どちらかを選べ」「それ以外に選択肢はない」
という前提の話なのに、その前提を無視して
あれこれ文句つけて幼稚な持論展開するガキが多すぎ だからババロアを守るために5人を轢くんだろ
選択肢の数は増えていないじゃないか 自信満々で悩みや疑問に答えを出す
AIの教祖や政治家が出てくるぞ >>91
パヨチンは命の選択を迫られると自我が崩壊するから話を逸らすしかない 出てこないよ
なぜかと言うとあまり知能が高くない人たち向けのAIは
自分がAIに利用されている自覚がない広告とか宣伝に
集中していて、チャットのようなAIは使っていることに
自覚的で凡人以上の知能になっている トロッコ問題はそもそもが誰かコロしてくれって問題やからな。
自動運転の制御とかには関係無いわな。 誰も死なない為にはどうすれば良いですかって問いに変更できますか？をgptに聞けば良い。 かまいたちがYouTubeで有料版試してたのは面白かった
真顔で大嘘こいてくるパターン >>90
ビアンカとフローラを選ばせるとどうなるんだろう？ 【カルト】岸田内閣・農水大臣「たまごの価格が下がらないかなーって『神頼み』してる」 [999047797]
https://greta.5ch.net/test/read.cgi/poverty/1681265174/
ＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷ これは「母親か5人の子供のどちらが死ぬか選べ」という質問と同じもの
倫理問題と言いながら倫理の欠片もない質問をして悦に入るクズ
この手の質問に素直に答えるのは知能が足りない証拠
だから「トロッコを脱線させる」が正解 ■ このスレッドは過去ログ倉庫に格納されています
