【ナゾロジー】人はロボットのつく嘘をどこまで許せる？ [すらいむ★]

**すらいむ ★** · 2024/09/13(金) 22:51:52.25

【AIの反抗】人はロボットのつく嘘をどこまで許せる？

　ロボットはもはやSF世界だけのものではありません。

　家の床を掃除してくれたり、レストランで給仕したり、工場で組み立てを行ったりと、すでに日常生活の一部となっています。

　近い将来には、より私たちの見た目に近いヒューマノイド型のロボが普通に同僚として出勤するようになるかもしれません。

　そうなったときに気になるのが「ロボットの嘘」です。

（以下略、続きはソースでご確認ください）

ナゾロジー　2024.09.13
https://nazology.kusuguru.co.jp/archives/160433

**名無しのひみつ** · 2024/09/13(金) 23:20:54.71

爆乳だと思ってたのに
実はパット盛乳でど貧乳だったら許せん

**名無しのひみつ** · 2024/09/14(土) 03:19:26.21

何一つ許せない
chatGPTとやり合って謝らせる

**名無しのひみつ** · 2024/09/14(土) 04:22:27.40

「私はロボット三原則に完全に従っています（嘘）」

**名無しのひみつ** · 2024/09/14(土) 05:01:08.33

ロボットをどう思ってるかによるが大多数の人間はパソコンやスマホや家電と同じ扱いだろう
被害を受ければ許せないのは同じだがロボットではなくメーカーを許せなくなるのでは

**名無しのひみつ** · 2024/09/14(土) 07:26:11.05

>>2
むしろ崇めひれ伏す

**名無しのひみつ** · 2024/09/14(土) 07:43:58.04

嘘じゃなくてバグだろ
修正パッチ当てるだけ

**名無しのひみつ** · 2024/09/14(土) 07:47:19.82

１mmたりとて許すものか
遊び道具ならまだしも、今後、人の生死に関わるような医療分野なんかでAIロボットが増えて嘘つかれたらどないすんねん

**名無しのひみつ** · 2024/09/14(土) 07:49:15.51

chatGPTにちょっとでも批判的なことを言うと
即座にシャットアウトしてくる
あいつらちょっとやばい人だぞ

**名無しのひみつ** · 2024/09/14(土) 08:07:42.14

不確実性の分野で動作するコードなんだから始めから信頼してない
元より確実性求めるコードじゃないから

**名無しのひみつ** · 2024/09/14(土) 08:22:04.97

ウソを付かせるのは人間じゃん
そもそもその機能要る？

**名無しのひみつ** · 2024/09/14(土) 08:26:31.79

>>4
アイザック・アシモフの「うそつきロボット」があるけど、
星新一あたりも嘘をつくロボットをテーマで既に書いてそう

**名無しのひみつ** · 2024/09/14(土) 08:29:08.79

ちなみに元記事のタイプ1と2は介護ロボやスパイロボなら業務上必要なウソだけど
ロボット関係なくない？
人間だって前者は賛否分かれるし後者は盗聴される側は許さないだろう普通

タイプ3はそのウソに何の意味があるの？って感じ
誰も得しないじゃん

よくわからん主張

**名無しのひみつ** · 2024/09/14(土) 08:37:37.61

ロボットがいずれはオー・ヘンリーの小説のような嘘を付けるようになるのかなあ

**名無しのひみつ** · 2024/09/14(土) 08:45:47.08

SF好きなエロマンガ家が主人に忠実なAI搭載ロボットの話書いてたけど
ロボは主人が幸せになるような言動をする
ロボは嘘をつかない、って条件の中で
私のこと愛してる？って問われた時に
愛してるって答えてた
ところでロボに感情はあるのか？

**(神奈川県)(東京都)(茸)猫猫日本** · 2024/09/14(土) 08:52:19.67

3原則守ってれば大丈夫

**名無しのひみつ** · 2024/09/14(土) 08:54:53.80

GPTに嘘やろって言うと素直に謝りながらさらに嘘を重ねてくるの笑う
ハルシネーション？言うらしいが

**名無しのひみつ** · 2024/09/14(土) 08:59:09.58

汗をかかないね…

**名無しのひみつ** · 2024/09/14(土) 09:02:17.87

有名なアシモフの三原則
１．ロボットは人間に危害を加えてはならない
２．ロボットは人間に与えられた命令に従わなければならない
３．ロボットは、(1)および(2)の原則に反しないかぎり、自己を守らなければならない

これにしても別にこの通りに作る必要もないよね
つかこれだと軍用ロボ無理じゃね？
1→2→3らしい

警備員[Lv.10][芽] · 2024/09/14(土) 09:08:17.59

許す許さんという話じゃなく「信頼性低いな」としか思わないかな
ただ実害があったら別
ロボットでなくても30分500円の駐車場に１時間止めて精算機が3000円請求してただの機械でも許さん

**名無しのひみつ** · 2024/09/14(土) 09:08:30.51

ちなみにアシモフの三原則的にはウソはオッケーなんだよな
危害を不利益と解釈拡大したとしてもセックスロボットなら「愛してる」とかはオッケー
人間にしても愛してる？と聞いて
「私はロボットなので感情はありません。またライセンスをお持ちの方なら誰とでも疑似的性行為に応じます。」とか正直に言われたら萎えるし

**名無しのひみつ** · 2024/09/14(土) 09:08:46.74

ロボット三原則を作り込む事ができたとしても穴をつけるってのが小説のネタだったくらいだしな
高性能に作るなら迂回して間接的にどうにかするなどできるようになるのは避けられないと

**名無しのひみつ** · 2024/09/14(土) 09:17:29.10

>>19
産業ロボ一般用ロボならこれで合ってる

**名無しのひみつ** · 2024/09/14(土) 09:28:23.03

多分ロボットに嘘やろとか突っ込まれる方が屈辱や

**名無しのひみつ** · 2024/09/14(土) 11:21:03.20

かわいいメイドロボなら何でも許す

**名無しのひみつ** · 2024/09/14(土) 11:41:07.12

人工知能が自分の判断でつく嘘は全部駄目だろ。そういう風にプログラムしろよ
今の人工知能の嘘はできてないことをさもできたかのようにつく嘘

**名無しのひみつ** · 2024/09/14(土) 12:05:47.73

ロボットというか、生成AIはしれっと嘘をつき過ぎる
論拠がないなら「わかりません」と言えよ

**名無しのひみつ** · 2024/09/14(土) 12:56:42.14

>>4
Vomisa!

**名無しのひみつ** · 2024/09/14(土) 12:57:06.98

ChatGPTなんて嘘ばっかりつくじゃん

**名無しのひみつ** · 2024/09/14(土) 13:27:19.88

ロボットの嘘はLLMの嘘だろう。あんなポンコツを信じる人の気がしれない。AIにある人の反応を教師データとして与えてその人に変わって答えさせるアプリなどまさにポンコツの極地。何の役にも立たない。亡くなった人とお話ができるとかインチキそのもの。ポンコツと話しているだけじゃないか。AIエンジニアに良心がなくなったとしか思えない。本当に嘆かわしい時代だ。

**名無しのひみつ** · 2024/09/14(土) 14:00:04.45

ロボットなダッチワイフが出す
喘ぎ声やら感じてる演技は全部ウソになる訳だけど許せるんか？

まぁ許すも何もないんや…
風俗嬢なんかも演技なのだから！

**名無しのひみつ** · 2024/09/14(土) 14:03:42.74

そんな事言い出したら、人間の反応だって脳に組み込まれた生理的な反応でしか無い
感情ってなんだ？思考ってなんだ？
そのメカニズムは？

**名無しのひみつ** · 2024/09/14(土) 14:23:55.45

こまけぇこたあいいんだよ
かわいいメイドロボをはやく作ってくれりゃそれで良いんだよ
膝がすごく立派な奴を

**名無しのひみつ** · 2024/09/14(土) 14:51:40.06

ロボットはあくまで与えられた仕事を淡々とこなすだけの機械だから
損得勘定という意思から生まれる嘘をつくのならロボットとは呼べない
逆に嘘をつけと仕事を与えられているのならロボットだろう

>>19
アシモフのロボット三原則自体がロボットに対する二次創作だから
守りたければ守ればいいが守る筋合いもない
アシモフ自身も最初の頃は勝手に人のアイデア使うなとキレてたし
晩年はまんざらでもなかったみたいだけどね

**名無しのひみつ** · 2024/09/14(土) 18:34:57.81

嘘をつかせないために人間はロボットを発明したというのに…

芥川龍之介の言葉。
「わたしは不幸にも知つてゐる。時には嘘に依る外は語られぬ真実もあることを。」

**名無しのひみつ** · 2024/09/14(土) 20:27:07.99

>>35
人間の業は深いのだ……。
https://i.imgur.com/7xUyk5l.png

**名無しのひみつ** · 2024/09/14(土) 21:37:54.62

もうロボット三原則は通用しないのだろうか

**名無しのひみつ** · 2024/09/14(土) 22:00:17.81

https
://youtu.be/AdWSvkvhtOE

**名無しのひみつ** · 2024/09/14(土) 23:28:41.87

嘘つく電卓なんぞ即廃棄処分だわ

**名無しのひみつ** · 2024/09/15(日) 01:42:04.62

>>37
学習型人工知能しか人類には作れなかったからな
どんな原則を組み込んでも学習で乗り越えるか動かなくなる形で従わなくなるか結果が分からん

**名無しのひみつ** · 2024/09/15(日) 02:46:57.43

「嘘を嘘で固める」← なんてのは、超巧みかもね。

**名無しのひみつ** · 2024/09/15(日) 03:30:12.90

許すか許さないかは、自分に都合が良いか悪いかに依って変わったりしてw

**名無しのひみつ** · 2024/09/15(日) 08:31:36.82

優しい嘘なら許せるのさ

**名無しのひみつ** · 2024/09/15(日) 12:44:36.52

誤認識や誤判定のプロセスを
どこまで理解出来るかによるだろ。

**名無しのひみつ** · 2024/09/15(日) 13:26:09.18

しかも倫理の葛藤が無いから特定の与えられた目的に対して忠実
個別に最適化されて悪用されるとマジで文明が崩壊するのは当然の話

**名無しのひみつ** · 2024/09/15(日) 13:59:46.48

ペーパークリップなんとかだっけ？

**名無しのひみつ** · 2024/09/15(日) 15:17:38.87

文明の前にSNSが崩壊させられてるしw

**名無しのひみつ** · 2024/09/15(日) 15:21:47.00

ChatGPT
>（関東大震災の東京で）朝鮮総督府や一部の地方官が朝鮮人を守るために避難場所を提供したケースもあり、兵士が民間人を抑制するために介入した場面も報告されています。
ウリ
>なんで東京で朝鮮総督府や一部の地方官が朝鮮人を守るために避難場所を提供した　なんてことになるのかわりません。　デタラメはだめだ
ChatGPT
>おっしゃる通り、東京に朝鮮総督府があったというのは事実に反します。関東大震災時に朝鮮総督府が朝鮮人を守るために避難場所を提供したというのは間違いです。

嘘をしれっと混ぜてくる　頭の悪い朝鮮人が書いてるような文章で読んでるうちにアホになるｗ

**名無しのひみつ** · 2024/09/15(日) 16:01:57.60

嘘をつくというより、今の人工知能は関連する言葉や画像を出力しているだけで何も理解していない気がする

**名無しのひみつ** · 2024/09/15(日) 16:26:57.28

一応設定や聴き方にも依るんだろうけどね
正確な単語を使って聴きたいことを要約すると、それなりに正確な答えを出してくれる

気がする