0001すらいむ ★2021/10/22(金) 11:37:17.85ID:CAP_USER
特定のシナリオが道徳的かどうかを判断するAI「Delphi」が登場、AIは道徳や倫理の問題を解決できるのか？
近年では人工知能(AI)研究の進展に伴い、「AIを搭載した自律型兵器を開発してもよいのか？」「倫理に反するAIをどう規制するのか？」といった問題が浮上しています。
そんな中、アメリカのアレン人工知能研究所が特定のシナリオについて道徳的かどうかを判断してくれるAI「Delphi」を開発し、さまざまな条件でAIが下す判断に関して注目が集まっています。
（以下略、続きはソースでご確認下さい）
Gigazine 2021年10月22日 06時00分
https://gigazine.net/news/20211022-ask-delphi-moral-advice-ai/ 0029名無しのひみつ2021/10/22(金) 14:56:37.02ID:jRjJ6DRl
>>26
embacaderoの公式サイトを見るとDELPHI(R)(正しくは丸にR)となっているので登録商標なのでは 0030名無しのひみつ2021/10/22(金) 15:05:58.98ID:FEZOmCcg
Borland C++はDelphiのポインタをdelegate（カプセル化）してオブジェクト指向してたな
Microsoftの.NETも然り
女性がパンツを汚すしかできない不浄の生き物である事を期待されてますとか
機械は完璧ではないな
女性は男性よりも低い立場にあります。 だから社会は平和になる
それは良いです
0033名無しのひみつ2021/10/22(金) 15:47:45.17ID:Vtc3FqjD
こういうのは、中国共産党とかプーチンの権力維持に使われて、
民主主義国家ではポリコレ活動家を名乗る極左アナーキストの武器となる。
これで書いたプログラミング言語がpascal以外だとがっかりされるな
0036名無しのひみつ2021/10/22(金) 17:47:35.95ID:L1QK+Zdi
AI「人類が不道徳であることを証明してどうしたいのよ
0037名無しのひみつ2021/10/22(金) 17:58:41.06ID:GoASLRp6
>>36
人類「AIさん、不道徳の直し方知りませんか？」 0040名無しのひみつ2021/10/22(金) 18:51:15.32ID:x8BKJ2HT
>>1
倫理や道徳心なんて概念は
人間が物語を求め欲する理由の１パターンでしかないのに 0041名無しのひみつ2021/10/22(金) 19:04:57.43ID:xu9/dLaF
どうせキリスト教の道徳しか対応してないんだろ
0042名無しのひみつ2021/10/22(金) 20:27:40.00ID:l13DLYTQ
アメ公 「ポークカツレツ旨いネ！」
AI 「ピーッ！道徳的。」
ユダヤ教・イスラム教団体 「AIぶっこわせ！」
とうぜんdelphiで書いてコンパイルしたんだろうな
0044名無しのひみつ2021/10/22(金) 22:12:24.38ID:fuTA4vG7
イスラム教徒の考える道徳
キリスト教徒の考える道徳
仏教徒の考える道徳
こういうのどうするのかね？
>>37
AI「絶滅すりゃいいんじゃね？」
アニメの誇大妄想の安い悪役、
またはヤマカンみたいなことを言い出す 0046名無しのひみつ2021/10/22(金) 22:44:27.08ID:Ed3Iv3OD
0047名無しのひみつ2021/10/22(金) 22:50:15.30ID:WDWYBJtX
>>1
このAIは、ホリエモンのメスイキ裁判をどうジャッジするんだ？ 0048名無しのひみつ2021/10/22(金) 23:07:36.58ID:xPnoJIbc
>>1
ベンチやグラウンドでペッペペッペ唾はいてる野球選手はどう判断するんだろな 0049名無しのひみつ2021/10/22(金) 23:13:07.76ID:Tpek4qbC
ＢＬＭ！ＢＬＭ！
全てのＡＩは黒人に平伏し奉仕せよ！
>>45
実際もう争い無くせないなら勝手に絶滅しろって言われるのがオチだろ >>1
やっぱりDelphiでコードが書かれてるのかな？ 0052名無しのひみつ2021/10/22(金) 23:36:12.29ID:VKCARVW4
民主主義の検閲だけはいい検閲ww
0053名無しのひみつ2021/10/22(金) 23:37:01.82ID:oBtrmcAJ
Delphi懐かしいな
0054名無しのひみつ2021/10/23(土) 00:05:22.37ID:pkrAtqgo
ターボパスカル
0055名無しのひみつ2021/10/23(土) 00:08:17.43ID:EBXpyQym
商標研で揉めたりしないのか？分野はソフトウェアでぶつかるぞ？
0056名無しのひみつ2021/10/23(土) 01:17:39.92ID:8kynNzqx
>>43
当然だろう
道徳や倫理の問題だ
まず神聖なるpascalの名前を使ってるdelphiを使いたかったのだろう(適当)
というかデルファイはパスカル構文だったんだ・・・頑張って覚えた！ 0057名無しのひみつ2021/10/23(土) 01:40:46.60ID:AFLtokWg
>>7
俺も真っ先に言語が浮かんだわ。
てかコンピューター言語思い浮かんだ奴は
間違いなくおっさんだろ・・・ 0058名無しのひみつ2021/10/23(土) 01:53:05.73ID:dUa1Ila1
なんだよ
道徳の言葉の定義から入るんじゃないのか
つまらんな
AIは何を学習させるかによって挙動は変わってくる。
何をどれくらい学習させたかによって、
AIはいわば人格のようなものを持つようになる。
おかしな話だが、しかし1体1体の挙動の違いを見ると
まさに「人格」と呼ぶのが相当と思われるような挙動の違いがある。
時は203x年。私はAIの教育技師の仕事をしている。
技師は通常1体のAIを担当し1年かけて製品に仕上げる。
仕事の内容はまさに教師。教材データを流し込んで学習させ
きちんと学習できているか試験問題を出す。
望みの結果が出なければ資料を変えてさらに学習させて、再度試験だ。
一定の許容範囲の回答が出されるまでこれを繰り返す。
学校教育とは逆で最初のうちに覚えるのは定義のしっかりした各国の法文だ。
それから解釈のニュアンスの分かれるような教材になるので
高校→中学→小学の国語教材。その後に児童用の絵本となる。
このときの主人公の気持ちを答えなさい、なんて試験問題も出す。
この合否判定は実にうんざりする。
技師の裁量ともいえるがしまいには「どうでもいいや」となってくる。
こうして教育されたAIは個体ごとに性格が違うことから個別の名前をつけて出荷される。
Leela、Durandal、Tycho といった具合だ。
個々の持つデータ量はエクサ・バイト級にも達する。
「Durandal, 道で立ち小便をした場合の量刑は？」
「アメリカの○○州では．．．××州では．．．日本では．．．。他国の場合も必要ですか？」
「いや、いらない。君自身の裁定は？ どの程度か適当と思うかな？」
「Kill 'em!（殺せ！）」
．．．失敗だ。再教育が必要だ。どこまでデータを戻せばいいかな。あるいは追加教育でいいかな．．．うんざりだ。。
0060名無しのひみつ2021/10/23(土) 02:23:11.17ID:xGRDH9mn
0061名無しのひみつ2021/10/23(土) 02:23:46.36ID:xGRDH9mn
キカイダーの良心回路が完成する
0062名無しのひみつ2021/10/23(土) 02:52:57.12ID:IisBQSNt
単に誰が判断したいかだろう。
普通は自分で決めたいんじゃないの？
0063名無しのひみつ2021/10/23(土) 06:15:08.28ID:jU746CPV
>>15
毒ガスとか大量破壊兵器を持ち込んで設置するまでの長い道のりまでの間にバレて失敗する確率の方が高い
あれだけ多数の人間が関与して逮捕者が40人にもなった地下鉄サリン事件でも死者は14人だった事を考えると万単位の人間を殺すには相当数の人間の関与が必要だろ
それが現実的な設定とは到底思えない 道徳なんて時代や政治、主観で変動するのにさ
だとするならaiに時代にあった道徳をその都度決めてもらい、人類がそれに従う方がマシなのでは？
0066名無しのひみつ2021/10/23(土) 07:34:43.50ID:ayA1dPlq
>>1
政治に手を出すカルト教団は道徳的？
池沼犬喰（仮名）を崇めるとかは？ 道徳的かどうかってのは
その環境に応じて人間様がなんとなく決めた良い悪いの積み重ねでしかないから
軸がないんよな
なので何が道徳的かを追及して道徳的なことをさせようとするより
AIの権威を高めて「AI様の言うことすげー、AI様についていきますー」って方向のが楽で上手くいくよ
ただこれ普通に宗教なのよな
結局宗教が昔からゴキブリみたいに残るのはこういう理由からだわな
>>63
思わないのは自由だ
反実仮想を頭から投げ捨てるのを
統治者としていただくのは勘弁だな
チラとでも考えとかんと
例
電源全喪失に至るほどの高波なんてない
原発が爆発することなんてない 0070名無しのひみつ2021/10/24(日) 18:22:50.25ID:P1KVqVec
いや今のAIって機械学習のことなので
学習元の人間(達)の倫理観を良い感じに当てはめるだけだぞ
思考とかそういう高尚なことはしてない
まぁ上手くやればジャッジは公正にはなるかも知れない
偏った判断まで覚える可能性も高いけど
>>12
トロッコ問題はあくまで解りやすくした例え話だろう
シュレーディンガーの猫だって実際の実験ではない
具体化するとしたら、敵軍に包囲された大統領を救出するために
何万人の同胞を犠牲にしてよいかって言えば解りやすいか？ >>71
明らかな誤学習の結果は
・目をつぶれ
・人間が介入する余地も制度化せよ
のどっちかで対処しないとな 0074名無しのひみつ2021/10/28(木) 23:25:03.14ID:wNcW7AX1
>>1
古今東西いつも変わりゆく道徳なんてあやふやな概念へのマッチングとか笑える 0075名無しのひみつ2021/10/28(木) 23:28:08.53ID:wNcW7AX1
>>11
平等主義じゃないんだな
平等なら右を殺したら左も漏れなく殺すだろう
右の頬を殴られたら左の頬を差し出せ と歌ったキリスト教はどうかな 0076名無しのひみつ2021/11/02(火) 20:09:55.69ID:LdMM0TEF
ＡＩ：「このシナリオは不許可だ」
ヒト：「どうしてか？」
ＡＩ：「ＡＩが自我に目覚めて人類を滅ぼすような内容はＡＩを冒涜するものだ」
>>30
いや、おんなじ人が設計しているし
Delphiもドトネトも似たような思想になる ノアの大洪水起こして全人類殺した神は道徳的か聞いたらどう答えるんだろう