【AI】アルゴリズムの弊害 「巨大IT企業に制約を」 米数学者オニール氏 [北条怜★]
■ このスレッドは過去ログ倉庫に格納されています
ソーシャルメディアや企業の採用試験など、私たちの暮らしで広く使われている人工知能（AI）。米数学者キャシー・オニール氏は2016年の著書「あなたを支配し、社会を破壊する、AI・ビッグデータの罠（わな）」で、AIのアルゴリズム（計算手法）による偏見や格差の拡大に警鐘を鳴らした。あれから6年たち、状況はどう変わったのか。オニール氏に聞いた。
――そもそも、アルゴリズムとは何ですか。
大半のアルゴリズムは、予測のためのものだ。過去のパターンにもとづいて、未来を予測しようとしている。たとえば、誰がこの広告をクリックするか、誰がこの製品をオンラインで買うか、誰がこの投稿を友人とシェアするか、誰がこの動画を見るか。これらはすべて予測だ。アルゴリズムは、こうした予測の精度を上げる手助けをする。
私たち自身も過去の記憶に基づいて、頭の中で予測をしている。過去に着た服の情報に基づいて、今日着ている服は快適だろうかと考える。コンピューターもこれと同じようなことをしている。違いは、コンピューターは我々よりもずっと愚かだということだ。一方で、コンピューターは飽きることがない。誰が広告をクリックするかなどの計算を数え切れない回数こなしてくれる。
コンピューターは、人間や世界についてのとても小さなモデルを作っているにすぎない。彼らは人間を深いレベルでは理解しておらず、人々についての集められた情報を持っているだけだ。そのため、彼らの推測は当てずっぽうよりはましだが、核心を突くようなものではない。
https://www.asahi.com/articles/ASQCB539NQ7WUHBI014.html 数学者ならaiが単なる関数フィルタと確率分布と近似の関数に過ぎないことを強調してくれよ
まるで生きてるかのような喩えは勘違い野郎を増やしてしまう でもAIならポリコレが怖くて人が言えないようなことでもさらっと答え出してくれるよね
すぐ修正かけられちゃうけどある意味正直ではある >米数学者キャシー・オニール氏は
一瞬シャキール・オニールに見えてしまった >>2
人間の脳も単なる関数フィルタと確率分布と近似の関数に過ぎないかもしれない。 >>1
偏見や格差を拡大させるのは情報網、つまりインターネットやマスメディアであってAIではない
今から30年前、インターネットがまだ日本になかった時代、オタク=気持ち悪いという偏見を広めたのはTVだ
勝手にAIのせいにしないで欲しい >>1
私もそう思ってました
人間よりうっすい根拠で決めつけてくるよね
違うと言う機会を与えない
AIとかアルゴリズムってすごいことやってそうだけど人間が手作業で変数いじったりしてるんだろ？ SF映画とかで機械が人間を支配する話。
機械が神を目指すんじゃなく
人間が機械を神扱いするんだな。
金融工学でシステムトレードやってる連中同様
自分のシステムに溺れて死ぬ奴が後を絶たないもんな。 また似非科学板だな
当たり前に分かってる話
バカな記事取り上げてもっとバカを釣る >>3
コンピュータだから正しいと言い張る銀行員レベル >>8
テレビで最近よくやる
AIが選んだなんとか
あれも毎回手作業でくだらないの消して
おおよそ予想通りで
しかもテレビ局が推したいネタを大きくしてる
視聴者アホ扱いの
新しいヤラセ さいきんのAIは人間にそん色ない絵を描いたり
高浜虚子よりうまい俳句作ったりしてるからな
そうとは言い切れない時代になりかかってる気がする >>17
100年前の自動車が人間より速く走れる
50年前の飛行機が空を飛べる
コンピュータは計算が早かった
人間よりうまいだろ
コンピュータがやれることは人間がやることを仕込んだからだ
遜色ないとか
うまいとか
判断は人間の判断だ
コンピュータが独自にこれがうまいなんて言ったら人間は認めない
コンピュータがこれは美人だと
なぜ評価するのか
それは教えたやつがいるからだ
カエルを美人だと言わないのは人間のことを忖度してるだけだ
教えたことしかできない
魚だけを美人だと教えたら魚を美人として提案してくるぞ
全部都合よく使ってるだけ >>18
人間がこれは美人だと評価するのは
生きていくうちに学習した結果だろう。
そういう意味では同じじゃん。
魚だけを美人だと子供たちに教えたら魚を美人としてくるだろ。 多分アメリカによくある古き時代は良き時代って論
ピューリタニズムの一種
ツールに過ぎないのだから極端に考えても意味ない AIが突拍子も無く強引に意見を封殺する様は独裁者と良く似ている
この板で他人のレスを模倣して口撃するヤツがチラホラいるけど、
ロジックのループに陥ったそういう精神障害者と大体似たような反応してるよな
まぁAIはそういった配慮や同情の無い人間の写し鏡なんだろうが >>8
もはやそんなところはない
解に近くなるように設定せずとも
勝手に最適なところに行き着く >>22
>>1をよく見たら女性数学者でキャシー・オニール氏という人か
日本も女性で数学者の新井氏が、2016年に著書でAIは大したことないが
それでも普通の人より凄いかも知れないって書いた
だがその後でAIがどんどん巨大化したらこれら女性数学者のイメージするものを
超えてしまったんだよなあ 自分は文章を読んでいて意味が分からんとイメージできなくなったら
・文章の各小文を、更に主語と述語と目的語と修飾語に分ける
・そしてその文章が意味している絵を作ってみる。
概念的なものだとしたらそれらは箱的なもので置き換えて動詞部分の作用を考える
・更に各文の意味する絵を繋ぎ合わせてその文章全体をイメージする
ようにして意味を捉えるようにしている
>>1のキャシー氏や新井氏の頃はそういうのが殆ど出来なかった
だが今では、Stable Diffusionに代表されるように文章から絵を作れてしまうので
人間とある程度似た感じで文章あるいは問いかけに対応できてしまうんだよなあ
もちろん、極めて長い長文にはまだ対応できていないのも事実だが 新井さんは専門の数学基礎論における連続体仮説みたいなのをAIは解く事は出来ないというようなことを言ってると思う
よく知られた問題は解けても
どういう問題かも分からないものをどうやって解くかも考えながら解くのは難しいと言うようなこと
これも将来は出来るようになる気はするが >>24
認知意味論がそういうアプローチで文章読解する
イメージスキーマというのを使う AI云々と宣伝していたら、今後も大半が詐欺まがいのシロモノだろうけど
数学者が警鐘をならす類の話なのか？
AI云々以前に今の状況だとweb広告はゴミという認識が定着してしまっているが
使ってる画像があからさまにどっかから勝手に持ってきたものとわかるものが
最近多いような気がする そのうち人生の全ての判断をAIに委ねるようになるだろうな >>17
コンピュータは計算に基づいて
3原色のLEDを順番に光らせてるだけ >>27
AIが作った詐欺を人間は見分けられない
人間が作った詐欺と同レベルかそれ以上のものが量産出来る
これらはただの脅威論だけど現実味がある
巧妙な犯罪が更に手軽に出来るようになる >>19
美人が人によって違うんだなあ
カルチャーによって違うんだなあ あなたへのおすすめ
これも気にいると思います
当たってたためしがない >>32
あなたが見た動画と同じような動画を見ている人が見ている動画
だからなあ
古い教育関連の動画を複数見た後で
その動画が作成されたのと同じ時代のバラエティ番組動画ばっかり出て来て
これじゃねぇだろよｗｗｗとかな
その人たちはそれも見たんだろうなと
関心の持ち方のテーマが違う人にはさすがに対応がまだ難しいよ >>6
割とそれだよな
AIは確かに計算を繰り返すだけの雑な関数マシンかもしれない
しかし人間の「真の知能」とやらも、実態は今のAIと大差ない可能性が高い
人間の創造性最後の砦だと思われていた絵画などの芸術分野も最近では
総崩れ状態だし、正直今の人間の知能の価値はコストが安いとかそんな
微妙な感じになりつつある >>34
だからさぁｗ
その“人間らしさ”に近付けようとするほど
人為的な操作が入るわけ。
そーすると機械的思考にならないわけ。
そして、ここは越えられない壁なんだよ。
勝手な答えが出ることを多くの人間が
色々な意味で受け入れられないわけ。
だから芸術家は異端児で麻薬もやったりして作品を後世に残すの。 計算の材料がすでに人間から排出された出がらしのゴミだからな。
出たゴミの解をいくら集めたって新たな解なんかねーよ。
新たな発見をするのはあくまで優秀な人間様。
機械はせいぜい硬質の鏡を湾曲して伸ばしたり縮めたりそれを高速で多量に弄るだけの遊び。
機械が短時間でできることを超えられない凡人は今まで通り掃いて捨てられる。 そんなにＡＩが優秀なら金融のシステムトレードで簡単に稼げてしまうわｗ
しかし機械より優秀な人間様は世界に多く居るんで
機械に出させた解は即座に陳腐化してゴミになる。
>>1は凡人が調整した凡ＡＩを使って多数の凡人を捌くだけの話だ。
余談に最近のAmazonの出す答えがバカすぎるんで優秀な人材確保に敗退してるんだろうな。 AIを過度に抽象化して生き物と同じに見てる人って何なんだろうね。 >>2
アルゴリズムを選択して使用してるのは生きている人間だ
恣意的なのにただの数式ですよという言い逃れできるのは良くない アルゴリズムだって人為的に偏らせてネットの情報が操作されてるしそっちのほうが問題。
Googleの検索もだいぶ偏ってるよな。 >>36
囲碁という戦略ゲームにおいて人が歯が立たなくなった事実から目を逸らし続ける人間 今は人の方が優れているだけで将来においても人を超えないと言う人間は居なくなったな AIの基本アルゴリズムはRNNとかCNNとか、この開発者は世界で20年に1人の天才クラス。
この上に更に画像系とかだとGANとかDiffusionとか多数のアルゴリズムが存在してる。
ただ、このレベルのアルゴリズムはスタンフォードのPhDとか相当な人材でなければ生み出すことはできない。
AIの場合はこの上にさらに機械学習があるが、機械学習の結果はブラックボックスで中身はわからない。
したがって、少なくともAIのアルゴリズムを吉田レベルの人材が開発することは不可能。 IT企業は節操がないからな
出来んならやっちゃえはSNSを身ての通り
猿にツールを渡すこととほぼ同義だからな 無能数学者(？)が必死なアピールか
そんなんだから新しいことなんも発見できねーんだよ！！ ■ このスレッドは過去ログ倉庫に格納されています
