【AI】アルゴリズムの弊害　「巨大IT企業に制約を」　米数学者オニール氏 [北条怜★]

**北条怜 ★** · 2022/11/16(水) 22:39:55.62

ソーシャルメディアや企業の採用試験など、私たちの暮らしで広く使われている人工知能（AI）。米数学者キャシー・オニール氏は2016年の著書「あなたを支配し、社会を破壊する、AI・ビッグデータの罠（わな）」で、AIのアルゴリズム（計算手法）による偏見や格差の拡大に警鐘を鳴らした。あれから6年たち、状況はどう変わったのか。オニール氏に聞いた。

――そもそも、アルゴリズムとは何ですか。

　大半のアルゴリズムは、予測のためのものだ。過去のパターンにもとづいて、未来を予測しようとしている。たとえば、誰がこの広告をクリックするか、誰がこの製品をオンラインで買うか、誰がこの投稿を友人とシェアするか、誰がこの動画を見るか。これらはすべて予測だ。アルゴリズムは、こうした予測の精度を上げる手助けをする。

　私たち自身も過去の記憶に基づいて、頭の中で予測をしている。過去に着た服の情報に基づいて、今日着ている服は快適だろうかと考える。コンピューターもこれと同じようなことをしている。違いは、コンピューターは我々よりもずっと愚かだということだ。一方で、コンピューターは飽きることがない。誰が広告をクリックするかなどの計算を数え切れない回数こなしてくれる。

　コンピューターは、人間や世界についてのとても小さなモデルを作っているにすぎない。彼らは人間を深いレベルでは理解しておらず、人々についての集められた情報を持っているだけだ。そのため、彼らの推測は当てずっぽうよりはましだが、核心を突くようなものではない。

https://www.asahi.com/articles/ASQCB539NQ7WUHBI014.html

**名無しのひみつ** · 2022/11/16(水) 22:46:31.69

数学者ならaiが単なる関数フィルタと確率分布と近似の関数に過ぎないことを強調してくれよ
まるで生きてるかのような喩えは勘違い野郎を増やしてしまう

**名無しのひみつ** · 2022/11/16(水) 22:47:21.35

でもAIならポリコレが怖くて人が言えないようなことでもさらっと答え出してくれるよね
すぐ修正かけられちゃうけどある意味正直ではある

**名無しのひみつ** · 2022/11/16(水) 22:50:39.68

俺「私も最初からそう思っていました」

**名無しのひみつ** · 2022/11/16(水) 23:05:44.96

>米数学者キャシー・オニール氏は

一瞬シャキール・オニールに見えてしまった

**名無しのひみつ** · 2022/11/16(水) 23:10:59.52

>>2
人間の脳も単なる関数フィルタと確率分布と近似の関数に過ぎないかもしれない。

**名無しのひみつ** · 2022/11/16(水) 23:38:42.23

>>1
偏見や格差を拡大させるのは情報網、つまりインターネットやマスメディアであってAIではない
今から30年前、インターネットがまだ日本になかった時代、オタク=気持ち悪いという偏見を広めたのはTVだ
勝手にAIのせいにしないで欲しい

**名無しのひみつ** · 2022/11/17(木) 01:37:10.41

>>1
私もそう思ってました
人間よりうっすい根拠で決めつけてくるよね
違うと言う機会を与えない

AIとかアルゴリズムってすごいことやってそうだけど人間が手作業で変数いじったりしてるんだろ？

**名無しのひみつ** · 2022/11/17(木) 03:28:08.33

SF映画とかで機械が人間を支配する話。
機械が神を目指すんじゃなく
人間が機械を神扱いするんだな。

金融工学でシステムトレードやってる連中同様
自分のシステムに溺れて死ぬ奴が後を絶たないもんな。

**名無しのひみつ** · 2022/11/17(木) 03:46:10.00

広告に税金かけろ

**名無しのひみつ** · 2022/11/17(木) 09:44:42.41

オニール氏。ヴィジュアル系ロックスターみたい。

**名無しのひみつ** · 2022/11/17(木) 10:02:23.63

勝手に予測しないでほしいわ。

**名無しのひみつ** · 2022/11/17(木) 10:35:31.88

また似非科学板だな
当たり前に分かってる話
バカな記事取り上げてもっとバカを釣る

**名無しのひみつ** · 2022/11/17(木) 10:36:43.34

>>3
コンピュータだから正しいと言い張る銀行員レベル

**名無しのひみつ** · 2022/11/17(木) 10:37:31.93

>>8
いやなら使うなよ
拒否する権利がある

**名無しのひみつ** · 2022/11/17(木) 10:39:26.47

>>8
テレビで最近よくやる
AIが選んだなんとか
あれも毎回手作業でくだらないの消して
おおよそ予想通りで
しかもテレビ局が推したいネタを大きくしてる
視聴者アホ扱いの
新しいヤラセ

**名無しのひみつ** · 2022/11/17(木) 10:40:03.97

さいきんのAIは人間にそん色ない絵を描いたり
高浜虚子よりうまい俳句作ったりしてるからな
そうとは言い切れない時代になりかかってる気がする

**名無しのひみつ** · 2022/11/17(木) 10:59:17.15

>>17
100年前の自動車が人間より速く走れる
50年前の飛行機が空を飛べる
コンピュータは計算が早かった
人間よりうまいだろ

コンピュータがやれることは人間がやることを仕込んだからだ
遜色ないとか
うまいとか
判断は人間の判断だ

コンピュータが独自にこれがうまいなんて言ったら人間は認めない

コンピュータがこれは美人だと
なぜ評価するのか
それは教えたやつがいるからだ
カエルを美人だと言わないのは人間のことを忖度してるだけだ
教えたことしかできない

魚だけを美人だと教えたら魚を美人として提案してくるぞ
全部都合よく使ってるだけ

**名無しのひみつ** · 2022/11/17(木) 11:08:46.10

>>18
人間がこれは美人だと評価するのは
生きていくうちに学習した結果だろう。
そういう意味では同じじゃん。
魚だけを美人だと子供たちに教えたら魚を美人としてくるだろ。

**名無しのひみつ** · 2022/11/17(木) 12:47:48.83

多分アメリカによくある古き時代は良き時代って論
ピューリタニズムの一種
ツールに過ぎないのだから極端に考えても意味ない

**名無しのひみつ** · 2022/11/17(木) 13:45:03.19

AIが突拍子も無く強引に意見を封殺する様は独裁者と良く似ている
この板で他人のレスを模倣して口撃するヤツがチラホラいるけど、
ロジックのループに陥ったそういう精神障害者と大体似たような反応してるよな

まぁAIはそういった配慮や同情の無い人間の写し鏡なんだろうが

**名無しのひみつ** · 2022/11/17(木) 13:53:31.85

>>8
もはやそんなところはない
解に近くなるように設定せずとも
勝手に最適なところに行き着く

**名無しのひみつ** · 2022/11/17(木) 13:58:17.28

>>22
>>1をよく見たら女性数学者でキャシー・オニール氏という人か

日本も女性で数学者の新井氏が、2016年に著書でAIは大したことないが
それでも普通の人より凄いかも知れないって書いた

だがその後でAIがどんどん巨大化したらこれら女性数学者のイメージするものを
超えてしまったんだよなあ

**名無しのひみつ** · 2022/11/17(木) 14:02:39.18

自分は文章を読んでいて意味が分からんとイメージできなくなったら

・文章の各小文を、更に主語と述語と目的語と修飾語に分ける
・そしてその文章が意味している絵を作ってみる。
概念的なものだとしたらそれらは箱的なもので置き換えて動詞部分の作用を考える
・更に各文の意味する絵を繋ぎ合わせてその文章全体をイメージする

ようにして意味を捉えるようにしている

>>1のキャシー氏や新井氏の頃はそういうのが殆ど出来なかった
だが今では、Stable Diffusionに代表されるように文章から絵を作れてしまうので
人間とある程度似た感じで文章あるいは問いかけに対応できてしまうんだよなあ

もちろん、極めて長い長文にはまだ対応できていないのも事実だが

**名無しのひみつ** · 2022/11/17(木) 15:13:10.54

新井さんは専門の数学基礎論における連続体仮説みたいなのをAIは解く事は出来ないというようなことを言ってると思う
よく知られた問題は解けても
どういう問題かも分からないものをどうやって解くかも考えながら解くのは難しいと言うようなこと
これも将来は出来るようになる気はするが

**名無しのひみつ** · 2022/11/17(木) 15:22:00.95

>>24
認知意味論がそういうアプローチで文章読解する
イメージスキーマというのを使う

**名無しのひみつ** · 2022/11/17(木) 15:22:10.87

AI云々と宣伝していたら、今後も大半が詐欺まがいのシロモノだろうけど
数学者が警鐘をならす類の話なのか？
AI云々以前に今の状況だとweb広告はゴミという認識が定着してしまっているが
使ってる画像があからさまにどっかから勝手に持ってきたものとわかるものが
最近多いような気がする

**名無しのひみつ** · 2022/11/17(木) 15:35:26.61

そのうち人生の全ての判断をAIに委ねるようになるだろうな

**名無しのひみつ** · 2022/11/17(木) 17:04:29.10

>>17
コンピュータは計算に基づいて
3原色のLEDを順番に光らせてるだけ

**名無しのひみつ** · 2022/11/17(木) 17:55:55.99

>>27
AIが作った詐欺を人間は見分けられない
人間が作った詐欺と同レベルかそれ以上のものが量産出来る
これらはただの脅威論だけど現実味がある
巧妙な犯罪が更に手軽に出来るようになる

**名無しのひみつ** · 2022/11/17(木) 18:18:38.55

>>19
美人が人によって違うんだなあ
カルチャーによって違うんだなあ

**名無しのひみつ** · 2022/11/17(木) 18:40:38.47

あなたへのおすすめ
これも気にいると思います

当たってたためしがない

**名無しのひみつ** · 2022/11/17(木) 20:02:44.22

>>32
あなたが見た動画と同じような動画を見ている人が見ている動画

だからなあ

古い教育関連の動画を複数見た後で
その動画が作成されたのと同じ時代のバラエティ番組動画ばっかり出て来て
これじゃねぇだろよｗｗｗとかな
その人たちはそれも見たんだろうなと
関心の持ち方のテーマが違う人にはさすがに対応がまだ難しいよ

**名無しのひみつ** · 2022/11/18(金) 02:53:05.42

>>6
割とそれだよな
AIは確かに計算を繰り返すだけの雑な関数マシンかもしれない
しかし人間の「真の知能」とやらも、実態は今のAIと大差ない可能性が高い

人間の創造性最後の砦だと思われていた絵画などの芸術分野も最近では
総崩れ状態だし、正直今の人間の知能の価値はコストが安いとかそんな
微妙な感じになりつつある

**名無しのひみつ** · 2022/11/18(金) 04:10:42.34

>>34
だからさぁｗ
その“人間らしさ”に近付けようとするほど
人為的な操作が入るわけ。
そーすると機械的思考にならないわけ。
そして、ここは越えられない壁なんだよ。
勝手な答えが出ることを多くの人間が
色々な意味で受け入れられないわけ。
だから芸術家は異端児で麻薬もやったりして作品を後世に残すの。

**名無しのひみつ** · 2022/11/18(金) 04:30:11.41

計算の材料がすでに人間から排出された出がらしのゴミだからな。
出たゴミの解をいくら集めたって新たな解なんかねーよ。
新たな発見をするのはあくまで優秀な人間様。
機械はせいぜい硬質の鏡を湾曲して伸ばしたり縮めたりそれを高速で多量に弄るだけの遊び。
機械が短時間でできることを超えられない凡人は今まで通り掃いて捨てられる。

**名無しのひみつ** · 2022/11/18(金) 04:52:28.98

そんなにＡＩが優秀なら金融のシステムトレードで簡単に稼げてしまうわｗ
しかし機械より優秀な人間様は世界に多く居るんで
機械に出させた解は即座に陳腐化してゴミになる。
>>1は凡人が調整した凡ＡＩを使って多数の凡人を捌くだけの話だ。
余談に最近のAmazonの出す答えがバカすぎるんで優秀な人材確保に敗退してるんだろうな。

**名無しのひみつ** · 2022/11/18(金) 05:33:11.12

AIを過度に抽象化して生き物と同じに見てる人って何なんだろうね。

**名無しのひみつ** · 2022/11/18(金) 10:15:10.38

>>2
アルゴリズムを選択して使用してるのは生きている人間だ
恣意的なのにただの数式ですよという言い逃れできるのは良くない

**名無しのひみつ** · 2022/11/18(金) 21:45:43.70

アルゴリズムだって人為的に偏らせてネットの情報が操作されてるしそっちのほうが問題。
Googleの検索もだいぶ偏ってるよな。

**名無しのひみつ** · 2022/11/19(土) 15:25:31.30

>>38
生物とは思わんが知性とは思う

**名無しのひみつ** · 2022/11/19(土) 15:27:48.25

>>36
囲碁という戦略ゲームにおいて人が歯が立たなくなった事実から目を逸らし続ける人間

**名無しのひみつ** · 2022/11/19(土) 15:29:27.82

今は人の方が優れているだけで将来においても人を超えないと言う人間は居なくなったな

**名無しのひみつ** · 2022/11/20(日) 02:56:18.87

アルゴリズムくらい吉田でも書けるだろ

**名無しのひみつ** · 2022/11/20(日) 17:26:58.00

AIの基本アルゴリズムはRNNとかCNNとか、この開発者は世界で20年に1人の天才クラス。
この上に更に画像系とかだとGANとかDiffusionとか多数のアルゴリズムが存在してる。
ただ、このレベルのアルゴリズムはスタンフォードのPhDとか相当な人材でなければ生み出すことはできない。
AIの場合はこの上にさらに機械学習があるが、機械学習の結果はブラックボックスで中身はわからない。
したがって、少なくともAIのアルゴリズムを吉田レベルの人材が開発することは不可能。

**名無しのひみつ** · 2022/11/20(日) 17:37:39.91

IT企業は節操がないからな
出来んならやっちゃえはSNSを身ての通り
猿にツールを渡すこととほぼ同義だからな

2022/11/25(金) 14:41:52.31

無能数学者(？)が必死なアピールか
そんなんだから新しいことなんも発見できねーんだよ！！

2023/01/07(土) 22:02:57.39

TEST

【AI】アルゴリズムの弊害 「巨大IT企業に制約を」 米数学者オニール氏 [北条怜★]

【AI】アルゴリズムの弊害　「巨大IT企業に制約を」　米数学者オニール氏 [北条怜★]