【人工知能】「AI裁判官」は全然公平ではなかった 人種差別やミス連発で人間以下 人工知能裁判のお粗末な実態
■ このスレッドは過去ログ倉庫に格納されています
◆「AI裁判官」は全然公平ではなかった！ 差別やミス連発で人間以下… 人工知能裁判のお粗末な実態
アメリカの一部の州では、裁判でコンピュータアルゴリズムが使われている。
刑務所へ行くか執行猶予がつくか、懲役は何年か、保釈をするかしないか、コンピュータが計算したリスクスコアが使われているのだ。
だが今月17日の「Science News」によると、その判定アルゴリズムが本当に公平なのかどうか、当のアメリカで大きな議論になっているという。
■COMPASとは
有罪の被告を刑務所に入れるか否か、保釈申請を認めるか否かなどを裁判で決めるとき、裁判官や陪審員たちは被告の家族や友人、財産の状況から過去の犯罪歴といった大量の資料に目を通して判決を出すことが求められる。
だが、アメリカのいくつかの州ではこの過程をコンピュータアルゴリズムに任せている。
アルゴリズムは入力された犯罪歴、年齢、人種、雇用状況、教育レベル、薬物使用状況などに加え、家族の犯罪歴などから再犯や犯罪発生のリスクスコアを判定し、保釈・判決・仮釈放などを決定するのだという。
アルゴリズムを開発したのは国家機関ではなく、民間企業だ。
例えばウィスコンシン州で使われる「COMPAS」はNorthpointe社（現在はequivant社）が開発したもので、どのように判定が行われているのかの詳細は不明だ。
このブラックボックスが本当に公平なのかは疑問が多く、白人より黒人のほうがリスクを高く判定されているという指摘もあった。
過去には裁判での使用は不適切であるとの訴訟も起きている。
そこで、米国ダートマス大学のコンピュータサイエンス研究者であるJulia Dressel氏とHany Farid氏は、COMPASと人間の予測のどちらが正しいか検証を行った。
COMPASで評価されたフロリダ州の被告人1000人を無作為に抽出し、年齢や性別、家族構成、逮捕後から2年間の逮捕情報などの情報をデータベース化した。
そして、クラウドソーシングサイトで集めたボランティア400人にそれぞれ被告50人分のデータを渡し、2年後までに再犯するかを予測させた。
■驚きの結果
結果、ボランティアの予測精度はCOMPAS（約65％）とほぼ同じ（63〜67％）であった。
また、人間もCOMPASと同様の人種差別的な誤った推測もしていることが明らかとなった。
予測の誤りを検討したところ、白人の被告では再犯しないと予測されたものの再犯したという間違いが多く、黒人の被告では再犯すると予測されたが実際には再犯していないという間違いが多かったのだ。
また、COMPASに対抗する単純なアルゴリズムを独自に作成し、COMPASと同じ程度の精度で再犯を予測することに成功した。
この結果をまとめた論文は今月17日付で学術誌「Science Advances」に掲載された。
COMPASは人間とほぼ同程度の予測精度を発揮したものの、機械判定に期待される公平さにはいささか欠けている。
判定における透明性にも疑問は多く、一部では基礎的なデータの更新がされていなかったなどの問題も発覚しており、COMPAS利用の難しさが示されている。
リスク判定のアルゴリズムは裁判のみならず、ローンの承認、教師の評価、そして児童虐待発生のリスク判定など幅広く使われつつある。
裁判や人事評価にアルゴリズムを使うことは、評価者の偏見や思い込みを排除して判定を行う大いなる助けになるだろう。
だが、使用しているアルゴリズムが最新のデータに基づくか、適切な判断を下しているかどうかは常に監視していなければならない。
AIを活用する社会はもうすぐ側まで来ているのかもしれないが、それを適切に使っていくにはやはり人間の介入が不可欠ということだろう。
TOCANA 2018/01/29
http://tocana.jp/2018/01/post_15729_entry_2.html 過去の判例が黒人＝犯罪者なデータだから、こういう予測になったんじゃね？
黒人＝ゴリラな判定が出たのは骨格的事実か知らないが
偏見で歪んでるのは、差別に人一倍敏感な自称平等主義の人間のほうに見えるがね
AIを作る側のミスというよりは、AIを使う側の忖度で不公平って言ってるみたい >>27
>アルゴリズムは入力された犯罪歴、年齢、人種、雇用状況、教育レベル、薬物使用状況などに加え、
>家族の犯罪歴などから再犯や犯罪発生のリスクスコアを判定し、保釈・判決・仮釈放などを決定するのだという。
いややっぱこれ、前提がおかしいわな
AIの判定アルゴリズムに人種が入ってるところが
白人社会の深層心理に根づいてる差別意識ってところか 過去の判例が差別的だったという事実があぶりだされただけだろう ＞結果、ボランティアの予測精度はCOMPAS（約65％）とほぼ同じ（63〜67％）であった。
ならコストが著しく低いAIでおｋになるのでは？ 人工知能は人のバカなところも模倣しちゃう。ただの猿真似知能。 人間と互角なのを、人間以下という表現をする
以下は＝も含むと言い訳する
確かに公平ではない アメリカの裁判って野球見るようなノリでやってそうなイメージおる コンピュータだと精確だ、中立だと信じられているぶん、互角だと有害なんだよ。
人がやったことならヒューマンエラーがあったと人びとは疑いやすいが、
コンピュータだとみんなが信じやすい。それが落とし穴なんだ。
同じ水準のエラー率ではコンピュータは人間に勝てない。 ふつう、機械は最初は人件費よりもうんと高価。
使い物にならないからといって解雇できないしね。
だから導入時点がいちばん普及へのハードルが高い。
だから機械の能力は人間を凌駕している必要がある。
同等ではハードルが高い。 差別的なところ最初から排除しとかないのかAIって
そんなもん直ぐ人間の敵になると思うが 人間以下とは書いてないじゃん
それならとりあえずいいんじゃない 
AIは過去の出来事を計算するだけ
そうだね マザーコンピュータが核戦争すると言ったらそれが正しいのだ
コンピュータは間違え無いのだ >>173
AIの技術は山ほど使われている。
要するにコンピュータを擬人化する人が多く、そういう人に
違和感があるだけで、実際のところ、AIってのは手放しで
実用的な動きをするようになっているよ。
いまいま実用的なAIは統計計算。統計といっても、古典の
数学で一発で計算できるような予測じゃない。入力があって
都度にスコア付けを修正し、現実で使える値に修正しながら
使える数字をたたき出すってのが一番よくつかわれてる。
それが実用的だからこそ、検索エンジンは、利用者に便利で、
かつCMスポンサーにも都合のいい検索結果を返してくれる。
音声認識や音声合成は、数兆回の答え合わせを経ていまの
レベルになってある程度の実用化がされている。
ドローンが空飛べて、メーカーが提示する条件を守っていれば
墜落することがないのもデータの積み重ねをAIが処理して、
よりよい動きを考えてきた結果だし。 AIが経営最高責任者を務めたとしても社員の依怙贔屓で大変なことになりそう。 >>150
半径160kmって言ったのは規制委員会な >>177
エンジンといってもいいしライブラリといってもいいしサービスと言ってもいい。
統計をもとにした傾向推定はAIの一部ではあるけど、AIイコール傾向推定だけじゃない。 亀の甲羅を焼くと同じこと 人間って変わらないね
AIはもっと駄目だが AIに判定させたら人間なら忖度するようなタブーをじゃんじゃん指摘してくるんじゃね これはAIではない、なんら自己学習してるわけじゃないだろ 人間とほぼ同じ判断をしているのに、最後で「人間の介入が不可欠」？？？？ 元のデータが中央から分散し過ぎてやべえんだな
こりゃ一からプログラムし直した方が早いかと ビッグブラザーは数学的に設計された完璧な人格だと主張する主流派。
それを批判する異端派。 ＡＩは 人間の知識が生み出した物でしかない。
生物に対する尊敬を持たないＡＩには、人間社会生活は馴染めない。
本質は未知への畏れだから。未知への畏れと興味を持つ迄、ＡＩに心は無い。 欧米人の思想がしっかり入ってる人間臭いAIでいいじゃん
＞どのように判定が行われているのかの詳細は不明だ。
こんなもんよく許しとくなｗ
基準となる数値を人種ごとに分けてるなら結果は当然人種ごとに違うけど、それはＡＩの差別というより
アルゴリズムの正当性を疑う話だよ AIなら大丈夫って盲目的に考えるのはもう止めよう。
プログラムや学習の問題と言ってる奴は、すでに知識が古い。
今のAIは出した答えが理論的に説明できない。正しいか間違っているかを判断する根拠が無い。人間が勝手に外から独断で判断してるだけ、笑えるだろ。
ビックデータを使ったAIだろうが、デープラーニングだろうが同じ。 如何にもそれっぽい答えが出てるだけ。
そんな曖昧な答えでも使える場所はある。その理解が必要。
もう後２、３段階進むと、意識が有るか無いかも分からないので。
無自覚に人に害を与えても、それを理解できない世界が見える。 AIが間違ってるんじゃなくて学習元の人間がみんな駄目だからそういうAIに育っただけ。 AIに人間の社会、感覚、体の構造、家族などのシュミレータを追加しないと
人間の判断とずれる、数学のような分野なら別だが
たくさんのAIを集めて集合知で結論を出す方法も要検討
ナヴァヤス（アルゼンチン）の方法 >197>198
少し前の延長でしか今を見ていない。 【誤判】命や金を奪う裁判官の制裁方法【冤罪】
裁判官は不正裁判をしても罰せられたり償わされないため権力犯罪だらけです。
裁判所は出世のために不正裁判をする裁判官で成り立っているという説もあります。
殺人や強盗や知財のような難易度の高い事件ほど能力不足の裁判官が事実に反する不正な誤判や冤罪などを発生させています。
特に最高裁や高裁は思考回路の劣化した反科学的で無責任な退官予定の老害裁判官ばかりです。
犯罪裁判官は職権を濫用して不正に命や金を奪い放題ですから国民が厳重に監督しなければなりません。
国民は出世のために不正や犯罪をして悪儲けする裁判官に知恵で対抗しなければなりません。
不正裁判で失った命や金を賠償請求する方法はありません。
裁判官に命や金を奪われる犠牲をなくすために不正裁判を行う裁判官に制裁を与える方法を考えましょう。
せめて裁判官を提訴する事と人事評価や罷免制度の活用だけでもしなくてはなりません。
不正裁判被害者の会
事務局
wrong_judge@outlook.jp 公平かどうかの議論になるレベルじゃないような気も。公平ってなんだっ気はする。
そもそもAIのアルゴリズム上で裁判の目的はなんだろうな。
アルゴリズムがおかしいか、凡例データを集積したら人間がそういう判断をしてたか。もしくはその判断は実は合理的なものなのか。
興味はつきないな。 結局のところね、人種には明らかに差があるんだよ
現状のAIは空気読めないから本当の事を言ってしまうだけなんだな >「AI裁判官」は全然公平ではなかった！ 差別やミス連発で人間以下… 人工知能裁判のお粗末な実態
調査した現在のアメリカの話
裁判は公平ではない
自分が出世する為には公平、正義よりも早く裁判を終結させることを考える
裁判官を公平な人間、聖人君子のように思っている人が多いのは主にドラマの悪影響
元裁判官等による実態を指摘した本などもあるが、裁判の公平化が進むのは当分先
になりそう ■ このスレッドは過去ログ倉庫に格納されています
