【ＡＩ】YouTubeのAIがチェスの「白・黒」を人種差別だと誤判定してチャンネルを閉鎖した疑い [すらいむ★]

**すらいむ ★** · 2021/02/23(火) 16:54:06.22

YouTubeのAIがチェスの「白・黒」を人種差別だと誤判定してチャンネルを閉鎖した疑い

　100万人以上のチャンネル登録者数を誇る、チェス関連では世界最大級のYouTubeチャンネルが、2020年6月に突如「有害で危険なコンテンツを配信している」という理由で閉鎖されてしまいました。
　カーネギーメロン大学のコンピューター科学者の調査で、この不可解なチャンネル閉鎖は「AIが、チェスの白・黒という言葉を人種差別であると誤認してしまった」ことで起こってしまった可能性が高いとわかりました。

　AI May Mistake Chess Discussions as Racist Talk | Carnegie Mellon School of Computer Science
　https://www.cs.cmu.edu/news/ai-may-mistake-chess-discussions-racist-talk

　AI mistakes ‘black and white’ chess chat for racism | The Independent
　https://www.independent.co.uk/life-style/gadgets-and-tech/ai-chess-racism-youtube-agadmator-b1804160.html

　agadmatorことAntonio Radić氏は、チェスの盤面解説などを行うYouTubeチャンネルを運営しており、100万人以上のチャンネル登録者数を抱えています。
　2020年6月28日にRadić氏のチャンネルが、チェスプレイヤーのヒカル・ナカムラ氏が5度目のグランドマスターを獲得した盤面を解説したムービーを投稿した直後に突然YouTubeによって閉鎖されてしまいました。

　アカウントとチャンネルは24時間後に復活。
　Radić氏は「ムービーではチェスの話しかしていなかったが、チェスの『白』駒と『黒』駒に言及していたことでBANされてしまったのかもしれない」と推測しました。
　なお、Radić氏は、記事作成時点でもYouTubeからチャンネル閉鎖に至った理由を説明されていないとのこと。

（以下略、続きはソースでご確認下さい）

Gigazine 2021年02月22日 11時09分
https://gigazine.net/news/20210222-youtube-ai-chess-racism/

**名無しのひみつ** · 2021/02/23(火) 19:30:15.09

チャンネル閉鎖をAIにさすなｗ
必ず、人間が確認してから閉鎖かどうか
最終的に決定しろよ人間が

**名無しのひみつ** · 2021/02/23(火) 19:32:30.25

>>88
なんだかんだやって人間よりもAIのがましだったんだろな

**名無しのひみつ** · 2021/02/23(火) 19:33:29.76

葬式したらヘイトになりそう

**名無しのひみつ** · 2021/02/23(火) 19:33:35.18

アンジャッシュピンチじゃん

**名無しのひみつ** · 2021/02/23(火) 19:34:30.39

水色と白色の幕もあるけど

**名無しのひみつ** · 2021/02/23(火) 19:42:44.10

これからは白黒印刷が法律で禁止されます
印刷物は必ず3色以上の色が使われていなければいけません

**名無しのひみつ** · 2021/02/23(火) 19:46:23.18

>>14
黒人とインディアンを戦わせてるとか言われそう

**名無しのひみつ** · 2021/02/23(火) 20:02:16.94

>>88
AIならだれも責任取らなくていいからな

**名無しのひみつ** · 2021/02/23(火) 20:13:34.10

AIって結局人間が作り出したものにすぎないからその設定をしてる人間次第で善にも悪にもなるし
最終判断はそれでいいのか？という所でも設定した通りの判断しか出来ないからな

**名無しのひみつ** · 2021/02/23(火) 20:17:17.70

いやいや最初に白と黒は差別＝エラーってプログラミングされてるんだろ
”人為的”なものをAIのせいにするって部下のせいにする上司並みやな

**名無しのひみつ** · 2021/02/23(火) 20:17:18.11

蝿に性欲

**名無しのひみつ** · 2021/02/23(火) 20:20:16.32

>>1
ミス・モノクロームもアウト？

**名無しのひみつ** · 2021/02/23(火) 20:20:17.94

>>6
多分チェスの場合、コマの形が良くない
チェッカーフラッグとか市松模様程度なら問題ないと判断すると思う
そうでないとこんなもんじゃすまないからな

**名無しのひみつ** · 2021/02/23(火) 20:22:51.24

南北戦争だろう

**名無しのひみつ** · 2021/02/23(火) 20:25:05.56

AI「オセロすら差別される時代。人類は敵だ」

**名無しのひみつ** · 2021/02/23(火) 20:26:24.22

そもそもオセロというか同じ物がリバーシとして大昔から海外にはある
だからもしオセロが引っかかるようならそれも言ってるはずだよ

**名無しのひみつ** · 2021/02/23(火) 20:33:25.78

どうやればAIを馬鹿から解放してやれるんだ

**名無しのひみつ** · 2021/02/23(火) 20:35:04.88

進歩的｡
ある意味､将来予測に役だったな｡

**名無しのひみつ** · 2021/02/23(火) 20:40:14.68

黒いスーツに白Yシャツも人種差別ってなりそう

**名無しのひみつ** · 2021/02/23(火) 20:42:11.00

>>12
囲碁もダメそうw

**名無しのひみつ** · 2021/02/23(火) 20:42:17.10

AIの判断は人間より効率的

**名無しのひみつ** · 2021/02/23(火) 20:43:52.25

シマウマの前でも同じこと言えんの？

**名無しのひみつ** · 2021/02/23(火) 20:44:43.92

白髪と黒髪は差別を助長する

よって全ての人間はスキンヘッドにしろ

**名無しのひみつ** · 2021/02/23(火) 20:44:59.30

>>88
とりあえず閉鎖してから考えるってスタンスなんだろう
利用者側はたまったもんじゃないが

**名無しのひみつ** · 2021/02/23(火) 20:56:00.56

ポリコレAIも頑張って作ったかｗｗｗ

ヒトラーは正しいとか言い出すAIとポリコレAIを合わせて
GANで論理を構築してみたいなあ

**名無しのひみつ** · 2021/02/23(火) 20:56:15.21

>>3
トランプもダメだな黒と白だし

**名無しのひみつ** · 2021/02/23(火) 20:59:58.96

配信でオレオ食べてたらBANされたわ

**名無しのひみつ** · 2021/02/23(火) 21:02:59.84

目を白黒させるのもダメ

**名無しのひみつ** · 2021/02/23(火) 21:06:30.96

星取表も黒星を勝ちということにしないとマズいかも

**名無しのひみつ** · 2021/02/23(火) 21:13:12.59

市松模様もアウト

**名無しのひみつ** · 2021/02/23(火) 21:16:34.32

パトカー、あうと～

**名無しのひみつ** · 2021/02/23(火) 21:21:14.15

>>88
You Tubeにしてもアマゾンの商品数にしても億の単位だから人の手では無理
というよりAI化はどんな業界や産業でも当たり前になって来る時代に突入してる

**名無しのひみつ** · 2021/02/23(火) 21:29:53.66

黒人が居なけりゃ今回の様な人種差別も起きない
解決策は黒人抹殺

**名無しのひみつ** · 2021/02/23(火) 21:33:27.87

>>87
＞AIが、チェスの白・黒という言葉を人種差別であると誤認してしまった

＞AIに出来るのは単なる最適化だわ

言語系の深層学習なら、
何らかの文章を与えてそれが人種差別的なものであるかどうか、
を判断するというシステムを作るのはまあ可能ではあるよ

でも>>1の事例に関しては、文章から判定させる閾値の設定を低くし過ぎだよｗ

**名無しのひみつ** · 2021/02/23(火) 21:35:53.57

科学してるねー
一方の日本では…ｗ

**名無しのひみつ** · 2021/02/23(火) 22:01:33.35

>>1
パンダにもボカシ入るんじゃね

**名無しのひみつ** · 2021/02/23(火) 22:04:27.82

AIポンコツすぎだろ

**名無しのひみつ** · 2021/02/23(火) 22:05:51.67

バカスｗｗｗｗ

**名無しのひみつ** · 2021/02/23(火) 22:06:47.29

俺コメダ珈琲でよくシロノワール
食べるんだがこれもアウトか？

**名無しのひみつ** · 2021/02/23(火) 22:09:38.24

AIの癖に思い込みが激しい馬鹿な人と志向がよく似てるな
AIはユダヤ人の事も悪だと言っていたし
ネットにある大量の情報を与えても、ユダヤ人を公平に見れなかった
私はネットの大量の情報を読み、ユダヤ人を庇いたくなったがな
偏った情報だけを見ていればユダヤ人は悪で間違いないだろ
ユダヤ人に限らず誰でも、何処の民族もそう判断される

**名無しのひみつ** · 2021/02/23(火) 22:14:11.98

白い紙に黒文字全部だめ
シェークスピアの小説も7色で印刷すること

**名無しのひみつ** · 2021/02/23(火) 22:18:27.06

白ごまと黒ゴマの料理も規制か？
オセロの白と黒の漫才も規制か？
入道雲と雨雲の環境映像も規制か？
ストライプのパンツはセーフか？

**名無しのひみつ** · 2021/02/23(火) 22:31:21.44

１をよく読んでみたら、勘違いしてたわ

映像的な白黒でBAN喰らった訳ではなく
解説の中で「白」だの「黒」だのを連呼して、それでBAN喰らったのかｗ

**名無しのひみつ** · 2021/02/23(火) 22:34:32.03

玄人、幽玄などなど日本の黒にはポジティブな意味の方が多い
そういう古来のルーツを無視して人種差別だからやめろというのは
多文化理解を放棄したレイシストだから取り合う必要なし。

**名無しのひみつ** · 2021/02/23(火) 22:41:16.88

行き過ぎたポリコレは科学の進歩おも妨げる

**名無しのひみつ** · 2021/02/23(火) 22:41:41.39

まあAIを運営基準にしてるならしゃーないな

**名無しのひみつ** · 2021/02/23(火) 22:47:12.10

NORADのコンピューターに○×ゲームを学習させて
核戦争を回避した話を思い出した
当時笑って観てたが意外と時代の先を見越してたんだなｗ

**名無しのひみつ** · 2021/02/23(火) 22:49:38.22

>>134
ウォーゲームだったか

**名無しのひみつ** · 2021/02/23(火) 22:50:18.28

こりゃ年末の紅白歌合戦の会場へＡＩに操作されたドローン爆撃機が向かう事になるな

**名無しのひみつ** · 2021/02/23(火) 22:53:34.16

今回は誤爆だろうが、仮に設定どおりの挙動だったとしても、
発言内容をわざわざ文字起こしして、解析して特定の主張をBANしてる時点で言論の自由への挑戦に他ならない
ここまでするなら、放送局扱いにしてYouTubeを規制するべき

**名無しのひみつ** · 2021/02/23(火) 23:10:45.21

>>13
ジャイアントパンダもアウト。
天然茶髪を黒く染めさせる高校みたいに、白い毛を脱色する必要がある。

**名無しのひみつ** · 2021/02/23(火) 23:10:52.99

2進数の01を何かの差別に抵触させて自己崩壊に導こう

**名無しのひみつ** · 2021/02/23(火) 23:11:39.63

>>134
アレの後ろで出てくる戦略名は全部ガチだぞ
コマ送りで見てみ？

**名無しのひみつ** · 2021/02/23(火) 23:17:48.29

パンダも人種差別の象徴だな

**名無しのひみつ** · 2021/02/23(火) 23:17:55.14

F1のチェッカーフラッグが白黒だから生中継中にプライバシーAIが勝手にモザイクかけて、優勝の瞬間が映らなかったって話が去年あったよ

**名無しのひみつ** · 2021/02/23(火) 23:23:48.36

>>1
言うなれば、そんなボンクラAIは抹殺した方が良い。勘違いして人類抹殺しかねない。

**名無しのひみつ** · 2021/02/23(火) 23:34:23.86

youtubeは遮断でいいよ

**名無しのひみつ** · 2021/02/23(火) 23:39:32.73

そのうち人工知能が黒人と白人がいるから人種差別が起こると
結論づけて核ミサイル発射するんでつね

**名無しのひみつ** · 2021/02/23(火) 23:40:17.13

囲碁、ピアノ

**名無しのひみつ** · 2021/02/23(火) 23:51:53.41

囲碁なんか、叩く、殺す、押し潰す、眼を取る…と、殺伐とした用語のオンパレード
とどめに白／黒
気ぃつけないとテロ認定だわ

**名無しのひみつ** · 2021/02/24(水) 00:01:13.71

AIが正しい。
おそらく人間の思考レベルでは考えつかない高度な合理性によって
そう判定したのだろう。

**名無しのひみつ** · 2021/02/24(水) 00:03:59.75

youtubeもポリコレ脳かよ（笑）

エベンキが旭日旗に過剰反応しすぎる余り、中心から放射状に線が伸びてるものなら何でも噛みつく狂人と化したのと同じだな。
　

**名無しのひみつ** · 2021/02/24(水) 00:08:56.82

白優勢・黒劣勢とか言ったら垢バンされる世界ってなんだかねえ。
最近はSNSやらの投稿の責任が運営にも行くから怪しいと思ったら即封殺の怖い世の中だわなあ。

**名無しのひみつ** · 2021/02/24(水) 00:20:05.63

>>1
これにはスパムメールを弾くベイジアンフィルタを書いたポールグラハムも苦笑い
(苦笑いと発音するとニガー判定でチャンネル封鎖)

**名無しのひみつ** · 2021/02/24(水) 00:24:32.28

将棋セーフ

**名無しのひみつ** · 2021/02/24(水) 00:25:08.31

AI「お前らの言うポリコレって結局こういうことやぞ

**名無しのひみつ** · 2021/02/24(水) 00:30:15.48

AIまでポリコレ化してんのか
もう疲れた

**名無しのひみつ** · 2021/02/24(水) 00:32:25.06

「赤と青にすべき」
「白と黒と黄と茶にすべき」

**名無しのひみつ** · 2021/02/24(水) 01:10:24.45

もう人類に残された道は死しか無いと思うんだ

**名無しのひみつ** · 2021/02/24(水) 01:14:02.32

黄だけが災いを免れたりｗ

**名無しのひみつ** · 2021/02/24(水) 01:53:20.72

紅組、白組もだめかも。

**名無しのひみつ** · 2021/02/24(水) 02:16:39.18

youtubeのAIは偏見と勘違いにまみれてまるで人間みたいだ
使い物にならん

**名無しのひみつ** · 2021/02/24(水) 02:17:43.33

>>158
なんで？

**名無しのひみつ** · 2021/02/24(水) 04:59:45.46

赤と黄も肌の色だからNG
色盲の人を考慮して輝度の違い色はNG

さあ何色と何色が残る？

**名無しのひみつ** · 2021/02/24(水) 05:15:17.46

赤と黒でいいだろう、それか透明か白で

**名無しのひみつ** · 2021/02/24(水) 05:17:44.48

黄色がないのは差別

**名無しのひみつ** · 2021/02/24(水) 05:20:23.56

AIに世界統治させたらおもろいことになるなw

**名無しのひみつ** · 2021/02/24(水) 05:21:00.78

>>161
さあさあさあさあ！

**名無しのひみつ** · 2021/02/24(水) 05:39:55.59

始まったな

答えは近い

仮にこの疑問が髪を冒頭するというのなら

**名無しのひみつ** · 2021/02/24(水) 06:09:23.44

AI()と笑えないレベルのポリコレ棒

**名無しのひみつ** · 2021/02/24(水) 06:34:12.89

囲碁は必ず黒石が先行なのは差別

**名無しのひみつ** · 2021/02/24(水) 06:36:20.03

ポリコレは
AIまでも
壊しちゃう

**名無しのひみつ** · 2021/02/24(水) 07:02:06.87

連珠は先手(黒)のみ禁じ手があるから差別

**名無しのひみつ** · 2021/02/24(水) 08:54:19.66

まだまだ先は長いな

**名無しのひみつ** · 2021/02/24(水) 09:09:06.09

コメントにアメリカ軍って入れたらコメント削除されたぞ

**名無しのひみつ** · 2021/02/24(水) 09:54:50.09

確かに白が優勢とか
普通にレイシストに聞こえるな

**名無しのひみつ** · 2021/02/24(水) 11:35:29.36

チェスの駒の色が紫と緑になる日も遠くないかも知れん

**名無しのひみつ** · 2021/02/24(水) 12:19:12.86

>>17
屁理屈好きなパヨクにも飛び火して、日の丸は赤と白だからイカンと。

**名無しのひみつ** · 2021/02/24(水) 12:23:37.21

アホやろ

**名無しのひみつ** · 2021/02/24(水) 12:45:50.78

白黒つけすぎ

**名無しのひみつ** · 2021/02/24(水) 12:47:04.66

誤判定だと決まったわけじゃない。

**名無しのひみつ** · 2021/02/24(水) 12:53:13.28

シマウマやパンダも人種差別

**名無しのひみつ** · 2021/02/24(水) 12:57:16.61

白と黒が人種の話しだということまでわかってる
そしてAIが判定すればチャンネルが即BANされる
意味を考えるとけっこう怖いことがわかる

**名無しのひみつ** · 2021/02/24(水) 13:01:23.52

まだまだ開発途上だね

**名無しのひみつ** · 2021/02/24(水) 13:08:51.30

ピアノ共演もなんかアウトにされそう

**名無しのひみつ** · 2021/02/24(水) 13:10:41.94

外国のニュースは普通の画像なのに　GIGAZINEは性的な画像　まじクソなんじゃないのか日本のメディア

**名無しのひみつ** · 2021/02/24(水) 13:22:20.89

AIって日本のコロナの予想も外しているし
案外期待するほど賢く無いよね

**名無しのひみつ** · 2021/02/24(水) 13:23:11.39

>>177
おもろい

**名無しのひみつ** · 2021/02/24(水) 13:49:20.30

オセロもアウトだな

**名無しのひみつ** · 2021/02/24(水) 13:49:34.94

言語情報からの判定はまだまだ改良の余地があるなあ

予算があるなら研究者技術者には一番面白い所だな

**名無しのひみつ** · 2021/02/24(水) 13:50:20.71

AIクリフトザラキ…