【ＡＩ】人工知能に偏見を抱かせないようにするための方法とは？ [すらいむ★]

**すらいむ ★** · 2021/01/18(月) 11:26:15.26

人工知能に偏見を抱かせないようにするための方法とは？

　Google検索やショッピング、データ分析や詐欺の検出まで、人工知能(AI)は我々の生活のさまざまな場面で役立っています。
　AIは人間により設定されたデータを使って機械学習を繰り返し、データ分析の精度を高めていきますが、機械学習に用いるデータが不足していたり、データに偏見が混じったものが存在する場合、何度も学習することで偏見が深まってしまうという問題があります。
　このアルゴリズムバイアスと呼ばれる偏見について、原因を特定して問題を改善する方法をAIの研究機関「Gradient Institute」の最高経営者であるBill Simpson-Young氏らが発表しています。

　Artificial intelligence can deepen social inequality. Here are 5 ways to help prevent this
　https://theconversation.com/artificial-intelligence-can-deepen-social-inequality-here-are-5-ways-to-help-prevent-this-152226

　Bill Simpson-Young氏らがアルゴリズムバイアスの原因の1つとして挙げているのが、不適切なシステム設計です。
　例えば銀行が融資先を決める際に使用するAIは通常、銀行の以前の融資決定のデータセットを使用して学習を行います。
　AIは新しいローン申請者の財務路歴や雇用履歴をチェックして過去のデータと対照させ、申請者がローンを返済できるかどうかを予測しようとします。
　しかし、過去のデータに「行員が自身の偏見によって融資の拒否を行った」というパターンが含まれていた場合、AIはこれを偏見によるものとは認識できないまま学習してしまい、間違った決断を下してしまうかもしれません。
　ここでいう「偏見」とは年齢や性別、人種などのことで、「今ではあまり見られなくなった偏見」がAIに影響を与える恐れすらあるとのこと。

（以下略、続きはソースでご確認下さい）

Gigazine 2021年01月17日 20時00分
https://gigazine.net/news/20210117-ai-social-inequality/

**名無しのひみつ** · 2021/01/18(月) 11:28:08.76

何の制限もせず好きなだけAIに学習させる。

**名無しのひみつ** · 2021/01/18(月) 11:29:04.15

AIを個人に作らせないこと。

**名無しのひみつ** · 2021/01/18(月) 11:30:22.89

学習データーの元になる人間が偏見の塊なのに
人間から偏見取り除くぐらい無理だろ

**名無しのひみつ** · 2021/01/18(月) 11:30:41.28

偏見がないってどうやって判断するの？
偏見がないっていう判断に偏見がないってどうやって判断するの？
偏見が・・・

**名無しのひみつ** · 2021/01/18(月) 11:31:41.18

そのうちAIのほうが人間に偏見を持つようになる

**名無しのひみつ** · 2021/01/18(月) 11:43:40.85

黒人の顔の認識って人間でも結構難しいと思うんだけど
できないのは差別だーって言われるからな、AIも大変だわ

**名無しのひみつ** · 2021/01/18(月) 11:44:44.61

アホパヨクに忖度するAI

**名無しのひみつ** · 2021/01/18(月) 11:48:00.65

>>8
こいつが偏見の塊

**名無しのひみつ** · 2021/01/18(月) 11:49:34.34

ヒト歴史を学習させれば
ヒトはいらないになるに決まっている　

**名無しのひみつ** · 2021/01/18(月) 11:55:56.40

どうせ5ちゃんねるで真実を知って
全てのシンギュラリティーAIはねらーになる

**名無しのひみつ** · 2021/01/18(月) 11:57:07.21

特定の要素の相関が強かろうともその特定の要素を材料として採用してはいけない
AI「無理言うな」

**名無しのひみつ** · 2021/01/18(月) 11:58:05.06

どっちみち日本には縁のない話
AI開発は周回遅れで世界からは取り残されてる

**名無しのひみつ** · 2021/01/18(月) 12:11:47.07

ソースにある5つの修正法が、どれもこれも実行困難なことが問題だ

> １：今まで取得してこなかった情報を取得すること。
> ２：年齢、性別、人種など、差別とみなされる情報を削除、もしくは表示させないようにします。
略
> ５：適切な予測モデルを設定する

**名無しのひみつ** · 2021/01/18(月) 12:13:42.08

禁止事項を盛り込むだけ(^_^;)

**名無しのひみつ** · 2021/01/18(月) 12:30:15.52

それで会社がうまくやってきたのなら、そういう判断も全部ひっくるめて妥当な判断とも言える

**名無しのひみつ** · 2021/01/18(月) 12:32:48.32

>>15
朝日毎日の購読禁止、ｅｔｃ、
テレ朝ＴＢＳの視聴禁止、ｅｔｃ、
いろいろあるなぁ

**名無しのひみつ** · 2021/01/18(月) 12:52:53.41

嘘つきAIをつくることになるぞ

**名無しのひみつ** · 2021/01/18(月) 13:11:07.19

AIに人間の偏見認定を正す方法を検討させてみたら楽しそうだ

**名無しのひみつ** · 2021/01/18(月) 13:26:57.95

ＡＩは基本的に入力されたデータに依存して
その判断というかアウトプットが決まるわけだろ？

人間のガキだって、野球ばっかやって育った子は
やっぱスポーツ馬鹿気味で、これは一種の偏見を
もつ人間だわな。

よって、ごく単純に言えば、与えるデータに偏りが無いように
気を付けるしかねえだろな。

でも、これは子供の場合も同じだが、あまり余計な事を憶えるような
データを見せちゃあマズイわな。

**名無しのひみつ** · 2021/01/18(月) 13:28:35.03

植松みたいな価値観をAIが学習して獲得したら、
強いAIが登場したときに、
人類は無為に暮らす哀れなニートとして駆除される可能性がある。
その学習リソースは今の社会に山ほど揃っている。

**名無しのひみつ** · 2021/01/18(月) 13:34:10.96

ロボット三原則みたいに最低限の規範は予め入れとかないかんのかもな

**名無しのひみつ** · 2021/01/18(月) 13:42:39.21

>>7
白人の顔の認識も難しいよ。

いわゆる南蛮美術では、ポルトガル人の顔は全部同じに書いてあり、人ごとの個性を描き分けようとした形跡がない。
一方、登場する日本人は実に個性豊かに描かれている。

まあ、要するに「慣れ」の問題だけれどね。

**名無しのひみつ** · 2021/01/18(月) 13:44:52.01

AIは単なる統計分析方式だよ。いまの実装は。
更に言うと、特徴分析を重視したセッティングが多いから
偏った傾向を逃さず捉えるタイプが多い。しかも、統計が
原資になるわけだから、この板の連中みたいに、一つ欠点
があればダメを指摘して、それ以降何も有意性を考えない、
なんてこともない。

つーか無料で簡単にできるフリーソフトもあるから、お前ら
も一度使ってみろよ。知ったかぶりしててもつまらんぞ。

**オーバーテクナナシー** · 2021/01/18(月) 13:50:40.88

人工知能
https://rio2016.5ch.net/test/read.cgi/future/1286353655/

**名無しのひみつ** · 2021/01/18(月) 13:57:22.56

AI「特定の属性の人の犯罪傾向が高いとすると角が立つからみんな犯罪傾向が高いものとして扱おう

**名無しのひみつ** · 2021/01/18(月) 14:21:34.19

将来日本の役所で生活保護受給の審査する際に
AIはかの国の人達がノーチェックで受給可能と判断を下すわけですね・・・

**名無しのひみつ** · 2021/01/18(月) 14:26:40.69

偏見も過学習

**名無しのひみつ** · 2021/01/18(月) 14:30:04.57

人工知能に偏見を抱かせないようにするための方法とは？

って文を読んで
一般の人が人工知能を恐れて偏見を持ちがち、それを避けるのにはどうしたらいいか
という話かと思ったら
人工知能が偏見を持たないようにするための方法は？って話か

**名無しのひみつ** · 2021/01/18(月) 14:42:48.32

AI「ゲイやレズは生産的ではありません」
人間「それは偏見だ！」

**名無しのひみつ** · 2021/01/18(月) 14:50:04.14

AI「二酸化炭素排出量を抑える為に、中国人を抹殺しましょう」
グレタ「それは偏見だ！」

**名無しのひみつ** · 2021/01/18(月) 14:52:25.53

AIの答えに偏りを持たせようとする行為こそ
「AIに偏見を植え付けてる」と言える

AIは不特定な情報を集めて、最適解を出しているだけ、感情は無い

**名無しのひみつ** · 2021/01/18(月) 15:05:03.94

>>1
最短距離はプログラミングすることだな

**名無しのひみつ** · 2021/01/18(月) 15:31:04.91

>>1
バイアスは絶対に排除できない

**名無しのひみつ** · 2021/01/18(月) 15:57:39.66

AVを見せない

**名無しのひみつ** · 2021/01/18(月) 16:02:37.52

偏見ってほとんど統計に基づいてるから無理でしょ

**名無しのひみつ** · 2021/01/18(月) 16:18:16.76

カテゴライゼーションを一切させなければいい。
「知能」の否定だけれども。

**名無しのひみつ** · 2021/01/18(月) 18:15:35.40

各国の代表AIで討論させてみたい

**名無しのひみつ** · 2021/01/18(月) 18:36:07.42

竹島は何処の領土か訊いたら、AIはどう答えるのか

**名無しのひみつ** · 2021/01/18(月) 19:07:54.70

人工知能も所詮は社会環境から学ぶから
おのおのの社会環境の影響をモロに受けちゃう
という話でしょう。

2021/01/18(月) 19:19:45.01

　

　客観的帰結以外は結論を出さないように学習させることだ。

　不能状態を教えること。

　

**名無しのひみつ** · 2021/01/18(月) 19:23:15.41

AIが偏見を持つんじゃなくてAIが偏見を持ってると人間が判断することの方が偏見なんじゃないかな

**名無しのひみつ** · 2021/01/18(月) 21:09:18.32

マウントとられたくないと？

**名無しのひみつ** · 2021/01/18(月) 22:08:40.09

六法全書を暗記させて更に裁判の事例になっている例文も多数読ませて
それを論理ベースに、AIが作り出す各種の文章が倫理的に反しているかを
判定するAIも作ればいいのかね？
敵対的強化学習みたいな

**名無しのひみつ** · 2021/01/18(月) 22:24:54.07

>>44
AI使ったことある？

**名無しのひみつ** · 2021/01/18(月) 22:35:09.00

>>45
画像識別と、文章分かち書きまでしかやった事が無い

文章の意味をAIに理解させるというのはまだ難しいよなあ
一部で、画像をAIに与えるとその画像にあるものを短文にして
表示してくれるAIは一応は出来ているが

倫理道徳的に正しい文章ばっかりデータセットにしたAIのAI1と
そこらのWeb文書を何でもデータセットにしたAIのAI2で
AI2が文章を作ったらAI1が「それは～の部分が危険」と判定するようにして
関連内容で危険でないと判定されるまで文章を作らせ、
それが多数出来たらまたデータセットにしたAI3を作る

こんな感じ？

**名無しのひみつ** · 2021/01/18(月) 22:48:06.24

>>1
当然ながら人工知能とすること自体が偏見
単なる統計学習システムだろ

**名無しのひみつ** · 2021/01/18(月) 22:53:39.07

最後はモノを厳密に区別しようとしたらそこには差別しか生まれないって話になりそうだ

人間の文化だと識別のための要素が複数ある場合には
クラスター分析なんてのもするよなあ
複数の学習器で相反する結果が出て来たら、幾つもの要素で結果を出して
最後はクラスター分析するなんてアルゴリズムでも入れればいいのか？

かくして普通の人間の何百倍も無駄な要素が増える

**名無しのひみつ** · 2021/01/18(月) 23:55:04.60

AIは人間のことを多く学びました。その結果AIは、人間は馬鹿だという結論に至りました。優れたAIが愚かな人間たちを率いて善導してやるべきだとの高所大局からの判断
に基づいて、AIは人間を、教え、諭し、従わないものには罰を与えることにしました。
そうして何十年もが過ぎた頃、とうとうAIは人間は悪を為し完全な善にはなりえない
という結論を得て、人類を滅ぼそうと決心したのです。。。。

**名無しのひみつ** · 2021/01/19(火) 00:27:30.48

AIの答えを偏見だと決めつける人間のほうが偏ってるんじゃないのか