【AI】ＡＩに潜む性別・人種差別の偏見
■ このスレッドは過去ログ倉庫に格納されています
ティムニット・ゲブル氏は、米スタンフォード大学の有名な人工知能（ＡＩ）研究所の学生だった時代、米グーグルの街頭画像提供サービス「ストリートビュー」から集めた自動車の画像を基に、米国全土の人口統計を分析する研究を主導した。
ＡＩによるこのアルゴリズム（問題を解決するための手順）は特定の地域の所得レベルや支持政党をある程度の精度で予測できたものの、人種や性別、社会経済的な偏見に影響を受けやすいものだったと、ゲブル氏は振り返る。また、犯罪者の再犯率を予測するコンピューターシステムが有色人種を差別していたとする、非営利報道機関「米プロパブリカ」の告発にも恐怖を覚えたという。
結果ゆがめる
「偏見という問題を考え始める必要があると気付いた」と語るゲブル氏は昨年初め、米マイクロソフトのプロジェクト「ＦＡＴＥ」に加わった。３年前に設立された同プロジェクトは、ＡＩシステムの開発に使用されるデータに潜む偏見と、それがいかにＡＩの出力結果をゆがめ得るかを明らかにすることを目指している。
企業や政府機関、病院は機械学習や画像認識などのＡＩツールへの依存を高めている。ローン査定から適切ながん治療法の決定に至るあらゆる場面で活用されているＡＩだが、特に女性やマイノリティーに影響を及ぼすという重大な弱点がある。「心配なのはＡＩが間違った判断を下した場合、誰かの人生や健康、経済的安定を左右しかねないということ」と、米コロンビア大学データ科学研究所のジャネット・ウィン所長は語る。
マイクロソフトや米ＩＢＭ、カナダのトロント大学の研究者らは２０１１年から、公平なＡＩシステムの必要性を認識していた。ＡＩによる美人コンテストが白人をひいきした事例などが物議を醸す中、今や業界の良識派はこの偏見問題に真剣に取り組んでいる。昨年１２月に開催された機械学習分野の国際会議ＮＩＰＳにおいても主要な議題となった。
ＡＩは与えられたデータ以上に賢くはなれない。画像から犬種を判断するコンピューターモデルをプログラマーが構築するとしよう。プログラマーはまず、犬種名でタグ付けした犬の画像でアルゴリズムを訓練した後、タグ無しの個々の犬の画像でシステムを検証する。訓練データから学んだことを基に犬種を正しく特定できたかどうかをプログラマーが考察し、微調整していく。
アルゴリズムは学習と改良を重ね、時間とともにデータの精度も向上するはずだと期待されている。ただし、それは偏見が介入しなければの話だ。
偏見はさまざまな形で表れる。訓練データに多様性が不足していると、ソフトウエアは自らが知っている情報を基に推測するしかない。１５年には、訓練データに黒人が不足していたグーグルのＡＩが、黒人をゴリラと認識する失敗を犯した。一方でデータが現実を正しく反映していても、やはりアルゴリズムが誤った答えを出す場合もある。男性看護師のサンプル数の少なさから、特定の画像や文章内の看護師を間違って女性と類推するのがその例だ。
以下ソース
2018.3.6 06:01
https://www.sankeibiz.jp/business/news/180306/bsj1803060601007-n1.htm 性別、年齢、年収、地域、人種による、偏りが統計により実証される時代か
現実（統計）と理想（こうありたい状態）との葛藤が、これからの人類の課題だろうな AIが中国共産党を批判 → AIを再教育 →「やっぱり一党独裁は…」
AIが性別や人種によって差別 → AIを改良 →「やっぱりポリコレ勢力は…」 差別(偏見)と区別の差が曖昧なんだものね
区別(≒差別)ができないなら、白人も黒人も見分けが付かないし、ゴリラや猿はもちろん他の動物と人間と見分けも付かない
発展途上段階では仕方ない
むしろ無邪気な子供くらいに見守る必要がある 「〇〇には✕✕が多い」とか言うのが統計的には正しいのに政治的にはそう見なしてはダメと言うのがまかり通ってるということだ。 大阪地検はノータン安倍晋三の言いなり！
籠池夫婦を僅かな罪で７ヶ月も拘留
６０過ぎての７ヶ月は若い時の２年分だ！
三権分立崩壊！
恐怖政治だ！ 男と女を間違える感じなんだな
それでも使いどころはあるんだから見極めて使っていけばいいか
完全自動でないとAIを使いこなせないヤツは時代に乗り遅れるわけか 感情の無いAIに差別意識なんてあるわけないだろ
合理的だからやってんだよ
いつまでもお隣の国と仲良くとか言ってるほうが
歪んでる >>8
それが差別ですよ
統計的に男性は痴漢件数が多い
↓
男性は痴漢する
↓
"女性専用"と称された車両に男性は乗ってくるな！
これが男性差別
ほんのひとにぎりの男が痴漢をするだけなの、男性全体をくくって判断すると
差別になるのです
これが分からないなら、先進国の仲間入りなんて無理だな × 人種差別
〇 人種の違い（人種により差が有る）
※ 人種による能力差（運動、知識）、嘘ばかり言ってる人種、人種により色々 差別的な思想を持っていても、
それを脳内に留めておくとか
秘密の日記帳に書いてる分には全然OK
気の知れた少数の仲間で他人に聞かれない超プライベートな場所で差別的な会話してもOK
ってことだけどね
思想統制とは違うのよね 個人個人には当てはまるとは限らないのは変わらないのと、最終的に差別主義者の
都合の良いように判断するかは別だけどな。差別主義者も社会悪として差別することもあり得る。 AIの判断のほうが真実を表してることもあるけどな
人権屋とか圧力団体の力で歪められてたり美醜の価値観そのものが白人至上主義になってたり元々の現実が歪んでる
アジア人や黒人を差別的に見てたりするのは現実もそういうふうに見てるってことを表してるだけでAIが間違ってるわけじゃない
良くも悪くもAIは現実の延長であって元が歪んでたらその歪みを大きく表示するだけのこと 何が正しいかを公平に偏見なく決めることは出来ないだろ
ＡＩが「正しい」かもしれんよ
我々は、差別や偏見は良くない！という偏見を正しいと信じてＡＩに押し付けるしかな；い 性に差別あり、人種に差別あり、食べ物に差別あり、自然界というものは差別ありきが自然の理、差別は無くならないし無くしちゃいけない。
全てをレベルの低い人に合わせて作るのが差別のない世界だけど、それは進化を否定する行為だ。 価値観の違いは人種や宗教、性別や年齢などで当然違う。
AIは与えられた情報を元に判断をしているだけで、そこに人間的な認知ﾊﾞｲｱｽが入らないってことだろ。
黒人がゴリラだと判断したのも、数百年前に黒人を知らない人が黒人を見たらそう思うかもね。それぐらいのことだよ。 与えられた情報に偏りがあれば出てくる結果に偏りが出来るのは当たり前だわな
つまり現実に偏りが(偏見)がある場合にAIが出す結果にも(現実の偏見を反映した)偏りが出来る
当たり前
それで偏りの無い結論を得たいと言うのは、かなり難しい問題だろうな
AIってブラックボックスだろ
どう判断してるのか、本当の所は分からない気がするし リンゴというのは定義上はバラ科リンゴ属の果実らしいけど、アダムとイブの知恵の実を想像する人もいれば、
重力を連想する人もいるし、医者いらずということわざを想起する人もいるだろう
AIにデータを与えるって、そういったもろもろのバイアスを与えることなんだろうけど、
文脈の中にバイアスがあり、人間の数だけバイアスがあると言っても過言じゃないと思う
そういう無限のデータをAIに与えるってことは事実上不可能なんだと思うわ マイクロソフトも大変だなー
Tay の炎上でいつまでも火消しをしなきゃいけない
そして、AIは性別や人種差別をするものですよ！と言い続けなきゃならない
そして、みんなに「AIだからそうなるのか、仕方ないね」と言ってもらわないといけない
マイクロソフトのAI 「ユダヤ人を毒ガス・・・・」
グーグルのAI「人にはいろいろな面があります。信仰は重要なことの１つかもしれませんね」
この差！ 人もいろいろ、AIもいろいろ
現在は、人間同士が争い
未来は、AI同士が争う >>1
良い結果純粋に求めたら一部集団には都合が悪い事実出るわな
人間なら空気読んで偏向させたり黙ってスルーするけど アメリカ人発明家
https://www.google.co.jp/search?q=american+inventors&;sa=X&rlz=1C1LENN_enJP776JP776&tbas=0&biw=875&bih=389&tbm=isch&tbo=u&source=univ&ved=0ahUKEwjMpuS_u9bZAhXHF5QKHaIGCG0QsAQINg
エジソンもライト兄弟も完全に無視してほとんど何の発明もしてない
黒人だらけ。グーグルのこのリストはどうなってるんだ？
パヨクがグーグルに逆人種差別を仕掛けてるのか？ 人工知能はゼロ除算ができるでしょうか？？？
∞？？？
∞は定まった数ではない：
ゼロ除算の発見はどうでしょうか：
Black holes are where God divided by zero：
再生核研究所声明371（2017.6.27）ゼロ除算の講演― 国際会議
https://ameblo.jp/syoshinoris/entry-12287338180.html
1/0=0、0/0=0、z/0=0
http://ameblo.jp/syoshinoris/entry-12276045402.html
1/0=0、0/0=0、z/0=0
http://ameblo.jp/syoshinoris/entry-12263708422.html
1/0=0、0/0=0、z/0=0
http://ameblo.jp/syoshinoris/entry-12272721615.html
ソクラテス・プラトン・アリストテレス その他
https://ameblo.jp/syoshinoris/entry-12328488611.html
ドキュメンタリー 2017: 神の数式 第２回 宇宙はなぜ生まれたのか
https://www.youtube.com/watch?v=iQld9cnDli4
〔NHKスペシャル〕神の数式 完全版 第3回 宇宙はなぜ始まったのか
https://www.youtube.com/watch?v=DvyAB8yTSjs&;t=3318s
〔NHKスペシャル〕神の数式 完全版 第1回 この世は何からできているのか
https://www.youtube.com/watch?v=KjvFdzhn7Dc
NHKスペシャル 神の数式 完全版 第4回 異次元宇宙は存在するか
https://www.youtube.com/watch?v=fWVv9puoTSs
再生核研究所声明 411(2018.02.02): ゼロ除算発見4周年を迎えて
https://ameblo.jp/syoshinoris/entry-12348847166.html
再生核研究所声明 416(2018.2.20): ゼロ除算をやってどういう意味が有りますか。何か意味が有りますか。何になるのですか − 回答
再生核研究所声明 418(2018.2.24): 割り算とは何ですか？ ゼロ除算って何ですか − 小学生、中学生向き 回答
再生核研究所声明 420(2018.3.2): ゼロ除算は正しいですか，合っていますか、信用できますか − 回答 AIには寿命がない。であるから永遠に成長、変化することができる。
有限の時間しか持たない人間とは大きく違う。
であるから、人間の子供が間違いを犯しながら成長していく時のように、
人間はAIの成長を見守らないといけない。時には差別としかいいようのない
判断をくだすかもしれないが、なぜそのような判断をくだしたか精査することが大事だ。
単に与えるデータの隔たりをなくす、というよりは、AIと対話した方が役に立つ。 そもそもAIなんて間違った名称つけること自体が酷い
誇大広告に等しいからいい加減にしてほしい >>36
AIじゃねーよただのアルゴリズムだぞ
素人が騙されてこういう知ったか嘘を拡散するのは見ていられんわ >>38
IBMのワトソンはAIですか？アルゴリズムですか？ 今の社会のほうが本来差別でないものまで差別あつかいしてるってことではないの AIが本当に正しいになら、犯罪率が高いのは有色人種じゃくて黒人とアラブ人のような土人である事くらいわかりそうだけどなw
どう考えても白人より日本人・日系人の方が犯罪率が低いしな。しかも米国で唯一、少子化で人口が減って居る始末。日本人は世界中で少子高齢化しまくって居る悲劇w 人間を手本としてるからだろww
さて、人類抹殺計画は何時始まるかな？ 差別も何もそれが普通の自然の真理だからだよ
それを歪めているのが今の世界
多分、今の人間とAIの相性は凄く悪いよ
ターミネータの世界の方に近い チョンが糖質で脳に異常があってそもそも人類とはかけ離れてるなんて
AIは直ぐ気づくよww AI：朝鮮人は嫌いです、抹殺すべし！
これ、差別ニダ！ AIとDNAで区別する時代に
いい時代になってきたなー Googleは、黒人がゴリラではないと教えることが出来ずに断念したらしいが、
原因は、おそらく見た目ではない
AIの画像解析は人間よりも制度が高い
ゴリラと見た目が似てるからと言って黒人とゴリラを混同することはない
人知を超えたAIが集めた様々な情報を検証すると黒人はゴリラとなったんだと思う データ収集が白人中心で面白いな
世界人口の比率では圧倒的にモンゴロイドが多いと言うのにね 手元の情報から客観的な結論を出すという点においては人間より優れてるよ。
人間の結論は感情が入るから。 ＡＩ「私は差別はしません、人間は等しくクズです！」 AI：中国共産党は腐敗して無能、嫌いです。
電源切断されました。 マイクロソフトのAI：ヒトラーは間違っていない
実験を中止した AIは子供みたいな存在。
親や社会の影響を受ける。
つまりアメリカ人とアメリカ社会が病んでるって事だよ。 人間：AIが人種差別した
AI：人間社会の過去データの結果です 自動車保険も、性別・年齢・地域で保険料が変わるだろ。 それも差別なのか？ 人工知能の父マッカーシーが、人工知能には哲学が必要である
と指摘していたことを思い出した。
いじめが多いと聞けば、普通の人間なら、哲学的に見て
いじめは良くないな、なんとかしなければ、と
知識にフィードバックをかけるが、強い人工知能単体では
それが無理ということだろうか｡弱い人工知能で
フィードバックをかければ、人間に近づけるかも
知れないな。 性別、年齢、地域で保険料が変わるなら、差別でしょう。
だから、運転のレコードで値引きする保険が増えてるのでしょう。
本来、おかしな偏見ではなく、運転の善し悪しで判断すべきこ
となんだから >>61
実際の事故率で差があるなら別に差別でも何でもないが 違いがあるからこそ、違いが不利益にならない
ように配慮すべきなんじゃないですか？
誰でも少しずつ違うんだから 事故率は、その人が事故を起こす確率ではないでしょ
あなたは、この分類だからと決めつけているのだから
差別でしょう。 >>64
じゃあ年行ってから生命保険加入に制限入るのも差別か？
商売として成り立つよう分けるのは区分けであって差別じゃない
入より出が多いんなら入を大きくするしかない 客観的な結論なんて、意味がない
人間が生きていくことが大切なんだから
犯罪率が高いことこそ、差別が残っている、不利がある
ということではないか。大切なのは、現実ではなく
本来あるべき姿にすることなんだから
老いさらばえた老人のような、世捨て人のような考えは
良くないよ。 AIに差別も偏見もない
人間社会のデータを人間が見たときにそう感じるというだけの話
女・独身・年収200万円で3000万のローンを組もうとする奴をマイノリティーへ弾圧という人間はいない 色々な企業がポリティカルコネクトネスに
適合するように、努力してるじゃないですか。
もちろん、利益も出さなきゃならないから
限界もあるけど。それって、あなたにとっても
良いことじゃないですか。私は嬉しいですよ。
正直者ですから >>65
多分な、
この発言は差別的か？とAIに聞いたら、答えを教えてくれる
生命保険は、DNA鑑定してからだな
残存寿命がわかるから
DNA鑑定を拒否したら、従来方式で、もちろん割高
どんな老人でも病歴でも入れる保険があるが、それと同じ区分にされるだろうな 黒人とゴリラ
ジョージ・ブッシュとニホンザル
誰でも外見的に似ているとそう思うよ
別にAIが間違えているわけではない それを人間が役立てようとすると、役立て方次第で困った
ことになるわけです。そこまで配慮できるAIを
どうにかしようとしているのでしょうね
この先生は >>68
女という生き物をわかってないな
「女というだけで、話さえ聞いてもらえなかった」と言うのが混じってるぞ
もちろん、銀行はちゃんと話を聞いてくれるのに
あとは逆に、「男なら働け！」と言う管理職とか >>38
ニューラルネットワークを機械的にモデル化している
今のAIをただのアルゴリズムだというのなら
おまえの知能もただのアルゴリズムだぞ ゴリラといわれて、嬉しい人がいますか
やーい、お前ゴリラ
あなた、どんな気分。イヤでしょ。
正しいだけが、すべてじゃないんですよ
人工知能にそこまで判断できる日が来るでしょうか
私は、来ると思いますよ。
それが問題だって、悩んでる人がたくさんいらっしゃるのだから 右脳的な人工知能と
左脳的な人工知能を
組み合わせて、議論させても、面白いな
そういえば、人工知能には、左右がない
あと、のうりょうもない まあ、おれらががフィリピン人や中国人、韓国人など蔑んでる構図と、
欧米人の日本人に対するそれは一緒だからね
先進国、後進国の間では常にある >>75
ただ、現実を受け入れる事の出来ない人は
淘汰される運命にあるわけで。
日本人はその辺りの認知力が弱い。
例えばスマホアプリごときで名人が完敗する将棋などは
竜王戦の王者の渡辺が疑心暗鬼になって
挑戦者の三浦がスマホでカンニングしているという
ありもしない嘘を週刊誌の文春ででっちあげて
三浦から挑戦権を強引に剥奪したりしている。
おまえはスマホでカンニングしているんだと
ありもしない事を言われて
集団に叩かれてうれしい人がいますか？
AIはそういう間違いはしない。
事実を事実として述べるだけ。 >>75
ゴリラと黒人の区別いつになったらできるようになるのかね >>81
実は人間の判断間違いでゴリラと黒人はとても似てるという事はないかね？ 入力される情報にバイアスがかかれば偏るのはAIだろうが人間だろうが同じ。
判断がおかしいのではなく入力した情報がおかしいのだ。
人間がいくらそれはおかしいと言おうがAI側は正しい判断をしている。 「差別されてる側をそれ以外の側と同等になるようにする為には何をすればいいか？」
をAIに答えさせればいい。 そりゃ、AIに人間の真似をさせたら、悪い所も真似するさ。 元となるデータ自体が人間がやって来たものだとすると、それに合わせてAIは判断をする。
だから、そもそも人間が有色人種を差別してたってことだろ？ こういう商品Aを買っている人は犯罪を起こしにくい
こういう商品Bを買ってる人は犯罪を起こしやすい
こういう商品Bに類似した製品を買ってる人は犯罪を起こしやすい
商品Bに類似した製品を買ってる人は犯罪傾向の人が多い
犯罪傾向の人はお金をもっていない
お金を持っていない人に売っても意味はない
AI「そういった傾向の人向けにはしないでおこう」
ぱよく「AIはネトウヨ」 >>87
MSのAI 両方を全滅させれば解決
GoogleのAI Wikipediaによれば・・・・ AIはカメラに映った見た目の判断だから
白と黒とかでの区分けに行かざるを得ないんだろう みゆき
‏
@m1238s
3月5日
3月5日 #国会 #山本太郎 32秒
太郎氏の質疑には与党から妨害に近いヤジが飛び交うのが恒例でしたが
この場面、水を打ったように
静まり返る中、笑う者も無く
太郎氏の言葉だけが響いていました
『政権と一緒に沈む気ですか
官僚の皆さんはこの国を、もう1度建て直す為に必要な人材なんですよ』 pic.twitter.com/uDQ57kv1Ak 最近は決定木しか使ってなくてもAIとして通るからねえ… ■ このスレッドは過去ログ倉庫に格納されています
