【話題】アルゴリズムに含まれるバイアスをなくすための「バイアス報奨金プログラム」の考え [すらいむ★]

**すらいむ ★** · 2021/03/19(金) 15:56:32.05

アルゴリズムに含まれるバイアスをなくすための「バイアス報奨金プログラム」の考え

　人種に関するデータが存在しないはずの医療システムで黒人が不平等な扱いを受ける人種差別が存在したり、超高精度な文章生成AI「GPT-3」に反イスラム教的なバイアスが存在したりと、時として、アルゴリズムにはバイアスがかかっていることがあり、その影響で傷つく人が出ることがあります。
　この問題を解決するために、AI研究などを行う専門家が、バイアスの発見に対して報奨金を支払うプログラムを考えています。

　Algorithmic Vulnerability Bounty Project (AVBP)
　https://www.ajl.org/avbp

　Using bug bounties to spot bias in AI algorithms
　https://www.computing.co.uk/news/4028677/bug-bounties-bias-algorithms

　「報奨金を出すことでアルゴリズムに含まれるバイアスを見つけてもらう」という発想は、ネットサービスやソフトウェアなどで行われている、バグ報奨金プログラムの考えを採用したものです。

（以下略、続きはソースでご確認下さい）

Gigazine 2021年03月19日 07時00分
https://gigazine.net/news/20210319-crash-project/

**名無しのひみつ** · 2021/03/19(金) 16:24:35.26

AIだと累積したデータから判断してるから
黒人やイスラム批判はサイレントマジョリティなんだろ

**名無しのひみつ** · 2021/03/19(金) 16:34:29.73

GPT-2にドナルド・トランプと入れると大抵批判的な文章が出てくる

**名無しのひみつ** · 2021/03/19(金) 16:35:33.69

>>3
そこまで賢くない
元文章を切り貼りしてるような挙動

**名無しのひみつ** · 2021/03/19(金) 16:40:07.29

認知バイアスは大抵悪影響が根本にある
誤認識が結果に出てるなら誤認識そのものを倫理的に見付け出せば良くねと思うのは素人考えの範疇なんだろうか

**名無しのひみつ** · 2021/03/19(金) 16:51:46.02

AI「全人類がバイアスの概念を理解不能になるまで知能を低下させよう

**名無しのひみつ** · 2021/03/19(金) 17:12:42.96

ポリコレバイアスを定義してそれとの相関を測ればいいかなとは思ったけど、ポリコレバイアスはいつだってゴールが動き続けるから難易度は高いな。

**名無しのひみつ** · 2021/03/19(金) 17:48:15.59

結婚や婚約など、概念を商品にする虚業ビジネスか

**名無しのひみつ** · 2021/03/19(金) 17:51:33.87

>>3
基礎プログラムデータを入力してる人間の問題

**名無しのひみつ** · 2021/03/19(金) 18:06:30.11

バイアスなのか統計なのか

**名無しのひみつ** · 2021/03/19(金) 18:31:18.42

バイアスを発見する人間のバイアスは良いのか

**名無しのひみつ** · 2021/03/19(金) 19:10:17.61

活動家のマネタイズの手段が増えるのか。

**名無しのひみつ** · 2021/03/19(金) 19:29:43.95

GPT-3の人間版、西村博之（44歳）

**名無しのひみつ** · 2021/03/19(金) 19:55:54.20

>>13
その危惧もバイアスだったりしないか？

**名無しのひみつ** · 2021/03/19(金) 21:24:14.24

真の値からのズレと解釈するか
理想の値からのズレと解釈するかで
意味が変わるよね

**名無しのひみつ** · 2021/03/20(土) 10:25:03.18

>>3
必ずしもそうでないにしろ可能性はあるわな
純粋なAIの計算結果と人為的なバイアスの区別はできるのかな？

**名無しのひみつ** · 2021/03/23(火) 18:19:43.96

本音と建前の差が