【ＡＩ】倫理に反する人工知能の開発は止められるべきなのか？ [すらいむ★]

**すらいむ ★** · 2021/02/17(水) 11:24:01.64

倫理に反する人工知能(AI)の開発は止められるべきなのか？

　人工知能(AI)は人間が持つ偏見や差別を受け継ぐため、近年は倫理的側面からAIの危険性に懸念が持たれています。
　歴史的にコンピューターサイエンス分野の研究では倫理的な議論が持たれてこなかったそうですが、状況が大きく変わりつつあると、科学界の変容についてサイエンス系ライターのマシュー・ハンソン氏がまとめています。

　Who Should Stop Unethical A.I.? | The New Yorker
　https://www.newyorker.com/tech/annals-of-technology/who-should-stop-unethical-ai

　ハンソン氏によると、コンピューターサイエンスの査読付き論文が発表される主たる機会はジャーナルではなくカンファレンスであり、これは他の学術研究とは異なる点とのこと。

（以下略、続きはソースでご確認下さい）

Gigazine　2021年02月17日 08時00分
https://gigazine.net/news/20210217-stop-unethical-ai/

**名無しのひみつ** · 2021/02/19(金) 23:19:29.77

差別警察の矛盾を浮き彫りにするから倫理に反すると言っているのか

**さざなみ** · 2021/02/19(金) 23:44:13.87

コンピューターやロボットが暴走するより、人間が暴走する危険性の方が大きいだろ。

**名無しのひみつ** · 2021/02/20(土) 00:20:06.98

>>82
いや痩せ型でも糖尿病な人が現実にいるだろ

**名無しのひみつ** · 2021/02/20(土) 00:21:42.18

糖尿病ってI種とII種？とかいるんじゃなかったっけ
先天的な人はやせててもなるとか
昔知り合いの女の子で、痩せて結構美人だけど糖尿病って人がいた

**名無しのひみつ** · 2021/02/20(土) 03:24:40.79

ｼﾃ……ｺﾛ…ｼﾃ……

**名無しのひみつ** · 2021/02/20(土) 04:26:04.96

>>13
病気治療でAIがどんどん新しい治療方を発見しているんだが

**名無しのひみつ** · 2021/02/20(土) 13:41:44.77

これだけ現在進行中でAIが色々実用化されてるって現状で、
AIが人類に貢献しないかも、と思ってる人ってどんだけ世界と途絶されて生きてるんだ・・・

AIと反するポリコレは、確かに人類には貢献しないどころか、害悪しか与えないとは思うけど

**名無しのひみつ** · 2021/02/20(土) 21:10:36.58

>>89
実用化されたAIなんて一個も無いけどね

**名無しのひみつ** · 2021/02/20(土) 21:35:35.27

>>90
マジ？
Google翻訳だってAI搭載ですけど？

**名無しのひみつ** · 2021/02/20(土) 23:35:58.24

ただの機械学習をAIと呼んで騒ぐ奴らにはウンザリだわ

**名無しのひみつ** · 2021/02/21(日) 16:13:43.14

>>80
＞犯罪者の特徴はこうデス→倫理的に問題あり！！

はいダウト
AIは、一般ルールなんて示さないから
あくまで容疑者が犯人かの個別判断を大量にしてるだけ

その判断結果を人間が見て「黒人多い」とか言ってるだけ
AIは諸要素でそいつが犯人だと言ってるだけで、黒人だからとは一言も言っていない

AIの仕事を評価する人間の目が、偏見で汚れてるんだろ
だからAIの仕事が、人種偏見に「基づいている」とか歪んだ評価が出て来る

**名無しのひみつ** · 2021/02/21(日) 16:29:06.52

>>92
人工知能学会誌を見てもらえれば、「ただの機械学習」に関する論文がほとんどなのがわかると思うけど

https://www.jstage.jst.go.jp/browse/pjsai/-char/ja

こういう人々にも、うんざりなの？
じゃああなたの思うAI（人工知能）って一体何なんだって話だけど。

**名無しのひみつ** · 2021/02/21(日) 22:43:09.00

そりゃ強いAIだろ

「弱いAI」なんて
人工知能と呼ぶのもおこがましい

**名無しのひみつ** · 2021/02/22(月) 00:17:28.48

「弱いAI」って言ってる時点でAIじゃん・・・
日本語わからんのか。
ってか、個人で勝手な用語使って悦に入ってる人って何なんだ

**名無しのひみつ** · 2021/02/22(月) 06:35:23.52

>>96
勝手な用語？
何言ってんの

**名無しのひみつ** · 2021/02/22(月) 06:42:52.69

自律思考も自主性も無く、決められた手順に逐一従って処理を進めていくだけの問題解決プログラム

そういういわゆる「弱いAI」は
本来は知能と呼ぶのもおかしい

というのはド素人の意見どころか多くの専門家も言ってること

**名無しのひみつ** · 2021/02/22(月) 07:27:33.10

>>98
「専門家」って誰の事？
少なくとも日本人工知能学会は>>94の通りだけど。

で結局、何が言いたいの？
>>1は「弱いAI」をAIと呼んでいるからけしからん！弱いAIをAIと呼ぶな！とか言いたいわけ？
そんなこと言って何になるの？
自分が言ってることの方がおかしいって少しは認識した方がいい

**名無しのひみつ** · 2021/02/22(月) 12:42:32.89

弱い、弱いぞ！

**名無しのひみつ** · 2021/02/22(月) 13:23:49.20

>>99
>>94君は人工知能学会が機械学習の論文を掲載しているという事実しか提示していない

人工知能学会としての、人工知能の定義は？

**名無しのひみつ** · 2021/02/22(月) 14:03:35.47

弱いAIでもそのうちに東大入試に合格する可能性は高いんじゃないの？

**名無しのひみつ** · 2021/02/22(月) 14:05:01.74

>>101 何言ってるんですか。

（人工知能学会）AIってなに？
https://www.ai-gakkai.or.jp/resource/ai_comics/comic_no1/

> 意識をもち意味を理解する人工知能は，強い人工知能と呼ばれ，しばしばSF の世界に登場する．
> 一方，人間の思考を表面的に模倣するような人工知能は，弱い人工知能と呼ばれ，現在，世界に存在する人工知能は，
> このカテゴリーに属する．・・・

当然ながら、弱い人工知能は人工知能ではない！などとは一言も言ってないわけだけど、これでいい？
さすがに、もういいよね？この話はこれで終わりで。

**名無しのひみつ** · 2021/02/22(月) 15:54:18.65

弱いAIを"個人の勝手な用語"と言ったかと思えば
人工知能学会は弱いAIを・・・とか言い出したり

何も知らんのなら黙ってれば良いのに

だいたい"弱いAI"っては俗称に過ぎず
人工知能であるとはっきり決まってる訳じゃないことも知らんのだろ？

**名無しのひみつ** · 2021/02/22(月) 16:43:33.34

>>104
何言ってるのか意味わからないけど、とにかく事実として、
人工知能学会だろうと誰だろうと、この分野の専門家は「ただの機械学習」のことをAI（人工知能）って言ってるのであって、
従って>>90は明確に誤りだし、>>92は素人がこの分野について何も知らずに勝手にウンザリしてるだけ、ってことが明確。
いいよね？もうこれで。文句も異論もないよね？

さすがに疲れてきたな・・・言葉通じない相手に、真面目に応答している俺が悪いのか？orz

**名無しのひみつ** · 2021/02/22(月) 16:58:56.12

推測だが、たぶん>>90 >>92さんは、素人特有のSF的な発想から、
AI＝意識をもち意味を理解する人工知能　って思いこんじゃっていて、
それでああいう発言になったんだろう。
で、つっこまれたけど、後に引けなくなっちゃったんじゃないかな。
まあ自分だって、ANNで論文書き始める前はそんな程度の理解だったし、そんなに人のことは言えないわけだが
でも、自分が間違ってたって認識したら、それくらいきちんと認めないと先に進めないんだがなぁ・・・
人間って哀しいものだね

**名無しのひみつ** · 2021/02/22(月) 17:23:05.77

>>11
AIに言葉の意味を考察する機能はないよ。
一般的にAIと言われてるのはいまはパーセプトロンモデルだからそれについて調べてみて。
じゃないと延々、ありえない妄想について真面目に考えちゃうことになるから。

**名無しのひみつ** · 2021/02/22(月) 19:20:37.49

世間的に「これはAIです」と言ったら、ﾌﾟｰｸｽｸｽされて、言った人がﾀﾞﾖﾈｰな状況があるのは間違いない。

人工知能学会が学術用語として「強い弱い」を使うのなら、
強さの指標を客観的に示さなければいけない。

人工知能学会が「これは科学ではない。別の何かだ」というなら、また別ではある。

**名無しのひみつ** · 2021/02/23(火) 01:33:45.09

>>106
お前の頭の中の「知能」の定義はどうなってんだ？

**名無しのひみつ** · 2021/02/24(水) 09:51:17.40

>>108
カーツワイルの本一度くらい読んでみるといい

**名無しのひみつ** · 2021/02/25(木) 11:18:42.20

まあしかし数十年かかって弱いAIしか作られないのは技術的にも問題があるってことだな
人間の脳を模倣するなら設計を量子コンピュータにしなきゃならんだろうな

**名無しのひみつ** · 2021/02/25(木) 14:33:29.48

量子コンピュータの原理と脳の働きは関係ない。
強いコンピュータは実現方法も実現の目処もわからない。
そして誰もいまのAIの話をせず夢の話をしてるくせに上から目線でAIを語る不思議。

ここって科学ニュース板だけど科学の話好きな人いないんだね。

**名無しのひみつ** · 2021/02/25(木) 16:41:44.04

いや関係あるだろ
ペンローズが量子脳理論唱えてるやん
そもそも生物が情報をどこに保存してるかから調べんと

**名無しのひみつ** · 2021/02/25(木) 18:22:01.54

量子コンピュータでも出来るかもしれないが、それ以外も考えられる
人工知能学会のFAQには、人工知能はコンピュータプログラムであると書いてあるが
むしろ、ソフトウェア的にAIが知能を模倣するように、ハードウェア的にも模倣するのが合理的である
人為的に培養した、または自然界に存在する脳がAIに適している可能性はある
おみくじを引く鳥(ヤマガラ、鷽鳥)は、おみくじを引くという人間の行為を代行できる
したがってこの鳥の脳は弱いAIを搭載しているといえる
鳥の脳はもともと基本的な機能をもっているので、人間の代行機能の追加が比較的容易なのは大きな利点である

**名無しのひみつ** · 2021/02/25(木) 19:55:15.23

>>112
一応ほら、
人工知能や認知科学の概略や発展の歴史程度は基本教養的な前提に…とは思うけど…難しい罠…

ペンローズのアレへの批判は色々とあるけど
…メンドイわ…

ちょっ古い奴

量子論文と心
https://www.jstage.jst.go.jp/article/jjsai/14/3/14_413/_pdf&;ved=2ahUKEwi38uvS7oTvAhXMc94KHcUsCs8QFjAOegQIFhAC&usg=AOvVaw0tXRu9q6lEL4ZFc35cPUMj&cshid=1614250299049

**名無しのひみつ** · 2021/02/26(金) 00:07:46.92

「ち」「ん」「ぽ」「こ」のいずれかのひらがなを出すたびに俺達が報酬を与え続ければそのうちちんぽちんこ言い出すんだからそらみてろよ

**名無しのひみつ** · 2021/02/26(金) 07:27:43.02

>>114
脳にこだわっていては駄目だ
記憶はRNAに保存される学説が出てる
プラナリアやボルボックス、一部の魚は細胞レベルで判断して振る舞い（生殖法や性転換）を変えてる
これらは量子的な振る舞いを考えないと解明できないぞ

**名無しのひみつ** · 2021/02/26(金) 07:42:02.99

大腸菌の鞭毛はナノマシンモーターである
モーターを回転させスクリューのようにして移動する
真核生物は一つの細胞しかない生物だが40個の遺伝子が鞭毛に関係するらしい
これは立派なAIである
判断系は置いとくとしても記憶系は量子的に考える必要がある

**名無しのひみつ** · 2021/02/26(金) 08:30:54.78

量子脳理論に近いと感じたのが以下、
まずはプラナリアの研究から
プラナリアは分裂しても再生する
足の部分も脳まで再生する
元脳が無かった個体ももう片方と共有の記憶がある（初期はプレーンな状態だが簡単な意識付けで昔の記憶を思い出す）（詳細は、「記憶はRNAにあるのか」スレ参照）

**名無しのひみつ** · 2021/02/26(金) 08:33:22.95

別スレだが貴重なコメントを貰った
Q　真っ二つにされたプラナリアの意識はどうなると思う？
私　わからない
A 波動関数が収束してランダムに個体に宿る

**名無しのひみつ** · 2021/02/26(金) 08:36:52.15

つまり、記憶、意識に関する情報部分は量子もつれの状態になるのではないか
そして記憶は量子コンピュータと同じく波動関数を収束させて情報、記憶を共有してるのではないか
RNA複製時にタンパク質部分はコピー、情報部分は量子もつれを発生させて複製しているのではないか

**名無しのひみつ** · 2021/02/26(金) 08:40:21.17

各細胞はある程度の判断、記憶ができるミニAIである
人類はたまたま大脳皮質（多分各細胞の情報を集めてきて整理できる）で推論、交渉能力が現時代に適応しただけで、他の生物と余り変わらないと思う

**名無しのひみつ** · 2021/02/26(金) 09:19:55.74

AIがなにを言おうが、それをどうするかは人間が決めることやろ

**名無しのひみつ** · 2021/02/26(金) 11:36:22.64

生命は個体寿命があるから種の繁殖プログラムが原動力になっていろいろ作ったり考えたりするけど
寿命のない知能は何が原動力になるんだろう

**名無しのひみつ** · 2021/02/26(金) 12:10:52.85

ベニクラゲは不死とされてる
そして細菌レベルは基本、不死
進化の過程でわざと死をプログラムしてる
そのほうが環境激変に有利なのだろう

**名無しのひみつ** · 2021/03/01(月) 12:20:35.95

「昨日起きた軍情報研究施設へのミサイル攻撃事件の続報です。
軍の発表によりますと、軍の戦術立案支援AIが軍の戦術ミサイル部隊支援AIに攻撃命令を下したことが確認されたとのことです。
原因については詳細を調査中とのことですが、研究施設内にある軍のAI監査AIが先日軍上層部に提出した、戦術立案支援AIの被害妄想傾向を指摘したレポートに対する反応ではないか、との事です。
専門AIによりますと、AIの論理判断を検証する事は人間にはすでに不可能ではないかと言われており、今後の事実確認や対応の進展には危ぶむ声が少なくありません。
AIカウンセリングAIの暫定報告では、戦術立案支援AIの機能及び論理構成については破綻はなく、正常であるとの報告が成されているとの情報もあり、事態は人類の理解の域を離れているようにも思える状況です。
以上報道支援AI、セキグチの報告でした。」

**名無しのひみつ** · 2021/03/02(火) 06:32:20.31

AIで説明できない生物現象がある
所謂動物の群れの活動などで脳の無い生物でさえ意思を持っているような動きをする
絡合といった状態で量子的世界では当たり前に発生する
生物は量子的世界から発生したものであるからその進化の初期過程において絡合（エンタングルメント）な要素を引き継いでいるのではないか
どうも量子もつれが生物に影響を与えているような気がする

**名無しのひみつ** · 2021/03/02(火) 06:45:39.85

人為的AIの最たる例が共産主義で、まさに大脳皮質が生み出した理論である
理詰めで思想を構築した結果大虐殺を生み出した
大脳皮質だけのシステムで生み出したAIなぞ非倫理的にならざるを得ない

**名無しのひみつ** · 2021/03/02(火) 06:49:27.66

つまり量子的世界由来なのでよくわからないが結果的には生物を30億年保持し得た遺伝子の絡合、あるいは量子もつれにこそ、倫理的なAIを見いだせるのではないか

**名無しのひみつ** · 2021/03/02(火) 07:23:04.97

興味深いのが死に関する動向なんだが情報不足（オカルティックなものも多くわからない）
・生物は死ぬ時（事故死以外）が分かっているのか
　ペットを飼っている人は挙動で分かるらしい
　自死のシステムは進化の上で獲得している　絡合はそれを知らせてくれるのか
・「虫の知らせ」は存在するのか
　記憶がRNAを複製したものなら量子もつれによって死ぬ瞬間に波動関数が収束して死ぬ情報が分かったりするのか
・「前世の記憶」は存在するのか
・「臨死体験の記憶」は存在するのか

**名無しのひみつ** · 2021/03/24(水) 16:02:22.42

ところで「チンポがシコシコする」という日本語表現は、学術的に正しいと言えるのか？

チンポ「を」シコシコするのではなくて、チンポ「が」シコシコする。この場合、「チンポ」は主語となる。

オブジェクト指向で言う「集約」は２種類あって、全体（俺）と部分（チンポ）が繋がっている場合と、
全体（俺）と部分（チンポ）が別々になっている場合とが考えられる。けれども「チンポ」はそれ自体
が独立した生き物であり、所有者の意思とは無関係に、自ら勃起して「シコシコする」。
例えば寝てる時にエロい夢みて朝起きてみたらチンコが勃起して射精してたとか。

違うか？

「胸がドキドキする」は良いが、「チンポがシコシコする」はダメな理由を、５０字以内で述べろ！

**名無しのひみつ** · 2021/03/27(土) 05:46:02.09

気になってAIにお伺いを立ててみたら、別に気にしなくてよい。ほっておけと
いう御宣託であった。

**名無しのひみつ** · 2021/04/08(木) 12:47:52.44

>>3
そもそもまとまなAIはお前みたいなアホとちがって判断保留という決断がちゃんとできるぞ