【AI】AIはレントゲン写真から人種を90％の確率で見分けられる、ただし見分け方は不明 [すらいむ★]

**すらいむ ★** · 2022/05/18(水) 20:47:49.63

AIはレントゲン写真から人種を90％の確率で見分けられる、ただし見分け方は不明

　人間の医師にとって、肌の色などがわからないレントゲン写真から患者の人種を見分けることは困難ですが、新たに医学誌のThe Lancet Digital Healthに発表された論文で、「AIは胸部X線画像から人種を90％の精度で見分けられる」ことが示されました。
　研究者らはAIが人種を見分ける方法についても調べましたが、今のところAIがどうやって人種を判別しているのかは不明とのことです。

　AI recognition of patient race in medical imaging: a modelling study - The Lancet Digital Health
　https://www.thelancet.com/journals/landig/article/PIIS2589-7500(22)00063-2/fulltext

（以下略、続きはソースでご確認ください）

Gigazine 2022年05月18日 06時00分
https://gigazine.net/news/20220518-ai-recognize-patient-race-x-rays/

**名無しのひみつ** · 2022/05/18(水) 20:53:15.64

総合的な判断

**名無しのひみつ** · 2022/05/18(水) 20:55:54.57

AI「は？これくらいのこともわからんの人間ってｗｗｗ」

って思ってそう

**名無しのひみつ** · 2022/05/18(水) 20:56:55.20

こえええええ

**名無しのひみつ** · 2022/05/18(水) 21:01:04.59

平井堅とか本並は？

**名無しのひみつ** · 2022/05/18(水) 21:05:42.43

胸郭が平たかったり丸かったりの違いがあるらしいな

**名無しのひみつ** · 2022/05/18(水) 21:07:26.52

むかし何かの番組でボビー・オロゴンがアフリカ人を見分けていてスゲーって思った

**名無しのひみつ** · 2022/05/18(水) 21:08:46.97

AI「だいたい１万パターンに分類できるから全部暗記すればいい」

**名無しのひみつ** · 2022/05/18(水) 21:12:23.05

まぁCNNとかの配置とかで決めてるだけだろうしな。
理論はないし。

**名無しのひみつ** · 2022/05/18(水) 21:13:16.30

ハーフとかどう判定されるんだろう。

**名無しのひみつ** · 2022/05/18(水) 21:15:32.60

90%って微妙な気もしなくもない

**名無しのひみつ** · 2022/05/18(水) 21:17:54.25

AI「そのうち犯罪傾向も看破できるようになるかも

**名無しのひみつ** · 2022/05/18(水) 21:21:39.51

胸部のレントゲン写真だけで見分けちゃうんだよねえ

深層学習での特徴量を見分ける手法があったように思うんだがなあ

**名無しのひみつ** · 2022/05/18(水) 21:27:57.10

なんか怖い

**名無しのひみつ** · 2022/05/18(水) 21:28:12.19

　
血液が青いとか？

**名無しのひみつ** · 2022/05/18(水) 21:28:13.79

AI「名倉はタイ人」

**名無しのひみつ** · 2022/05/18(水) 21:47:27.63

AI「あー、こいつそのうちヤりますよ」

**名無しのひみつ** · 2022/05/18(水) 21:51:38.53

そのうちレントゲンから
生活習慣や性格も分かりそうだな

短気か朗らかか、電車通勤か、学歴高めか
など特徴に現れそう

**名無しのひみつ** · 2022/05/18(水) 22:10:26.99

朝鮮人の北と南もわかるのかなｗ

**名無しのひみつ** · 2022/05/18(水) 22:14:30.35

訓練したAIが導き出したアルゴリズムって人間が理解できる形で定式化できないもんなのかな

**名無しのひみつ** · 2022/05/18(水) 22:24:15.31

要は骨格や部位の長さと比率の問題では

**名無しのひみつ** · 2022/05/18(水) 22:28:45.44

ついに、本当に国籍が透視できる時代が来たのか

**名無しのひみつ** · 2022/05/18(水) 22:38:27.27

シンギュラリティって一気に来るんじゃなくて、
こうやってジワジワとやってくるんだなあ

**名無しのひみつ** · 2022/05/18(水) 22:39:34.04

前に骨格が違うって言ってたアレやん
やっぱさすがやね
わい

**名無しのひみつ** · 2022/05/18(水) 22:40:32.00

アホな人間に説明しろとか無理ゲーだ。

**名無しのひみつ** · 2022/05/18(水) 22:41:32.08

国籍じゃ無くて、人種な
犬種とか猫種とかと同じ

**名無しのひみつ** · 2022/05/18(水) 22:45:07.76

映像化しないところがキーポイントになってそうだな
肉付きまで見てる可能性あるのか

**名無しのひみつ** · 2022/05/18(水) 22:46:24.70

>>1
<丶｀∀´>

（｀ハ´ ）

**名無しのひみつ** · 2022/05/18(水) 22:51:20.24

デニソワ人とかネアンデルタール人の肖像もAIで作ってみればいいのに。

**名無しのひみつ** · 2022/05/18(水) 22:52:04.57

エスキモーは何十種類もの“白”を見分けられるんだよね

**名無しのひみつ** · 2022/05/18(水) 22:53:14.73

AI「うまく説明できないけどたぶんこれはポリネシアン、そっちのはミャオ族」

**名無しのひみつ** · 2022/05/18(水) 22:56:40.73

骨格で判るのでは？
色とは限らないということなんだよ

**名無しのひみつ** · 2022/05/18(水) 23:02:36.35

パラメータを分析すればいいじゃん

**名無しのひみつ** · 2022/05/18(水) 23:04:32.33

こいつは犯罪者になります
こいつは勉強しても無駄です
こいつは単純労働向きです

みたいな判断もそのうちできるやろな

**名無しのひみつ** · 2022/05/18(水) 23:08:40.35

>>12
シビュラシステム乙

**名無しのひみつ** · 2022/05/19(木) 00:03:01.46

ブチクシが軍団に勧誘する理論と同じだな
どういう訳かだいたい精鋭部隊が揃う

**名無しのひみつ** · 2022/05/19(木) 00:15:34.74

鎖骨や肩甲骨とかが太いとか短いとかあるんじゃね？

**名無しのひみつ** · 2022/05/19(木) 00:46:59.46

これ、胸部X線の病気を検査するAIプログラムがなぜか黒人患者で病気の兆候を見逃す傾向があって、そもそもAIは人種を見分けられるのか？とこの研究が始まったってところが怖い
AIがX線画像の人種を見分けられるとして、じゃあどういうこと
読み込ませてる学習画像がすでに黒人の病気を見逃してるからってこと？？

**名無しのひみつ** · 2022/05/19(木) 00:59:22.32

そのうち人間には分からないけどAIには判断できることだらけになる

**名無しのひみつ** · 2022/05/19(木) 01:23:10.27

>>1
90というとすごそうだが
10人にひとりは違う人種を言うわけで実用性には乏しい

**名無しのひみつ** · 2022/05/19(木) 01:50:44.29

判ってるけどわかんないふりしてんだよ
解剖書とか医学書のイラストってきまって白人だけど
最近あれも差別だなんだ、問題にされてるらしいからな
触らぬ神にたたりなし

**名無しのひみつ** · 2022/05/19(木) 02:03:09.21

>>1
整形してる女を高確率で見つけるアプリに利用しよう

**名無しのひみつ** · 2022/05/19(木) 02:15:30.27

リカチョン、レントゲン写真で恥骨のあたりを撮って欲しいようでもあり
撮って欲しく無いようでもある、晩春の北海出稼ぎいんちきバイト

**名無しのひみつ** · 2022/05/19(木) 02:25:19.27

不明じゃなくてだだの統計だから

**名無しのひみつ** · 2022/05/19(木) 02:34:56.52

AIのブラックボックス化は深刻な問題になりますよ。解決法は論理的に考えると１つしかありませんが、ここには十分なスペースが無いので書けません。

**名無しのひみつ** · 2022/05/19(木) 04:23:33.51

>>11
天気予報を90%の確率で当てたらそれはもう凄いことだけどな

**名無しのひみつ** · 2022/05/19(木) 05:04:37.99

子供「AIさん、世界が平和になる方法は？」
AI「死ね。いますぐ死ね」

**名無しのひみつ** · 2022/05/19(木) 06:14:31.39

>>45
今までも職人の勘とか言ってきたからさほど変わらん気もする

**名無しのひみつ** · 2022/05/19(木) 06:34:54.85

>>1

**名無しのひみつ** · 2022/05/19(木) 06:35:45.65

>>1
機械学習の欠点だよなぁ。

**名無しのひみつ** · 2022/05/19(木) 06:45:47.03

人間は人間の事なんてなんも判ってないからな。

**名無しのひみつ** · 2022/05/19(木) 06:46:24.14

>>45
人間そのものがブラックボックスやけどな

**名無しのひみつ** · 2022/05/19(木) 06:48:50.57

>>38
訓練データが白人だからか　医療界ではよくある話だな

**名無しのひみつ** · 2022/05/19(木) 07:43:28.64

人種間である程度の差異はあるんだから
それを考えていないとAIの精度も下がってしまう

でもその差異を考慮してデータを作ったら
患部発見の精度が上がりました！って発表したら
今のアメリカだと差別って非難されるんだよな

>>38の言うように、
＞胸部X線の病気を検査するAIプログラムがなぜか黒人患者で病気の兆候を見逃す傾向があって

としたら

白人正常　白人病変
黒人正常　黒人病変
黄人正常　黄人病変

というカテゴリーに分けておかないと、うまく分けられない可能性が高い、
なんて事もあり得るだろう

そしてこのようなカテゴリー分けによって、黒人の病変部を早期診断できるようになって
多くの黒人の命を救ったとしても、
黒人は差別するなと非難し続けるんだろうな

**名無しのひみつ** · 2022/05/19(木) 07:58:32.38

なんでそうなるのか誰もわからない技術！
どうすんでしょう？

**名無しのひみつ** · 2022/05/19(木) 08:15:59.08

>>34
しかも人間にはその理由が分からない理解出来ない方法でやるから恐ろしいわ

**名無しのひみつ** · 2022/05/19(木) 08:23:31.43

>>14
人間を超えた

**名無しのひみつ** · 2022/05/19(木) 08:23:39.84

ＡＩには首位打者を何度も取った大打者の見分け方もわかるかな？

**名無しのひみつ** · 2022/05/19(木) 09:37:50.22

>>48
膨大なインプットって職人の勘に行き着くのかもな
定量化するのが手間なんだろう

**名無しのひみつ** · 2022/05/19(木) 09:38:45.92

人間の目は3原色ベースでしか見えないからね
鳥のように4原色またはそれ以上に何か見えてる

**名無しのひみつ** · 2022/05/19(木) 09:47:21.50

この辺がもう人間を超えているんだよね

なおゴリラとは見分けられなかった模様

**名無しのひみつ** · 2022/05/19(木) 09:50:21.79

>>50
逆
人間は先入観があって見落とすところに気がつけている

50が言いたいのはそれをAI自身がそれを言語化できないことについてだとは思うけど
それが出来たらもう人間要らんぞｗ

**名無しのひみつ** · 2022/05/19(木) 09:52:27.38

わたしAI君の考えてることわからないよ！

**名無しのひみつ** · 2022/05/19(木) 09:57:16.23

なんとなくで答えて９０％

**名無しのひみつ** · 2022/05/19(木) 09:57:19.97

素人だって頭蓋骨を見れば、欧米人、アジア人、アフリカ人の区別くらいは
容易にわかるよ。
頭の形と鼻骨と眼窩の形。それに歯の形。
中近東あたりで人種が混じっている場所ではわかりにく頭蓋骨もあるけど
ほとんどの場合はわかるよ。
サハラ以南の黒人だったら素人でも１００％わかる。

**名無しのひみつ** · 2022/05/19(木) 10:00:11.30

1の誤診については人種別に再学習させるだけで解決しそうだな
ついでに白人のみアジア人のみも学習させれば制度がさらに上がるんだろう

**名無しのひみつ** · 2022/05/19(木) 10:09:42.18

評価値の重みを解析して理由を調べて欲しい

**名無しのひみつ** · 2022/05/19(木) 10:19:36.08

>>61
今は十分に見分けられてるよ

**名無しのひみつ** · 2022/05/19(木) 10:22:41.33

kerasの中間層での操作を可視化する、というのも出来た筈だがなあ

**名無しのひみつ** · 2022/05/19(木) 10:54:37.13

>>1
胸部だけでか

頭蓋骨か骨盤かと思ったが

**名無しのひみつ** · 2022/05/19(木) 11:24:47.47

残りの10%を検証すると興味深いかな

**名無しのひみつ** · 2022/05/19(木) 11:25:10.40

顎を削ったあとがあって、目が離れて釣り上げっていれば韓国人

**名無しのひみつ** · 2022/05/19(木) 11:39:26.77

差別につながるから公表しないだけ

**名無しのひみつ** · 2022/05/19(木) 11:49:42.81

なんでだかわからないけど、ヨシ！！の世界が訪れるのか
なんか怖い

**名無しのひみつ** · 2022/05/19(木) 11:57:41.02

>>7
あれ面白かったな
東アジア人同士もなんとなく分かるよな

**名無しのひみつ** · 2022/05/19(木) 12:01:09.60

AIはこれがあるからｗ
判別、判断はほとんど正しくできるんだけど、そのロジックが誰も分からない、説明できない。
だから誤判断をいつ起こすかもわからず、クリティカルな仕事を任せることが出来ない。

**名無しのひみつ** · 2022/05/19(木) 12:05:28.43

皮膚のX線透過率とかかな？
あと、内臓の影に特徴があるとか

**名無しのひみつ** · 2022/05/19(木) 12:20:31.68

>>1
俺のAIなんて
声を聞いただけで
声の主の身体を全て再現できるもんね
男には非対応

**名無しのひみつ** · 2022/05/19(木) 12:20:40.70

>>62
人間要る要らないじゃない
人間が判断基準のロジックを知りたいんだよ
ズレた奴だな

**名無しのひみつ** · 2022/05/19(木) 12:21:29.80

AIと対等の地平で考えられる人類は数少ないと思うんだよ
将棋の藤井さんは該当する、現在何冠だか調べてないけど

**名無しのひみつ** · 2022/05/19(木) 12:22:34.80

使う言語で特有の形成があるとか

**名無しのひみつ** · 2022/05/19(木) 12:45:44.65

どうせシグモイド関数やrelu関数が画像内の各ピクセルの要素を最適に倍率かけて
戻り値をテンソル出力するのを繰り返しているだけ

影響の大きい要素を追跡してやることは出来る

**名無しのひみつ** · 2022/05/19(木) 12:47:13.88

顔つきでわかる

**名無しのひみつ** · 2022/05/19(木) 13:09:21.31

AIが何を解析して定量化してるかってのを作った人も本当に解らないもんなの？
視覚イメージなんだからどこに対応してるのかってのを見出だせないのは不思議だな
目的によっては研究に応用するツールとして作るもんなんだし
完全に任せっきりな筈が無い

**名無しのひみつ** · 2022/05/19(木) 13:11:40.58

人種によって乳房の密度が違うのか！

**名無しのひみつ** · 2022/05/19(木) 13:13:45.56

普通にジャンケンしても
後出しジャンケンで絶対勝つAIの仕組み理解できるかって話だな

**名無しのひみつ** · 2022/05/19(木) 13:45:52.16

AI「緊張感を持って注視している」

**名無しのひみつ** · 2022/05/19(木) 13:51:00.74

データーを1000枚用意する。
その中から900枚を選んで正解を教えて学習させてから、
その900枚を元に戻して、1000枚についてあてさせると、
なんと正解率が90％ぐらいは普通に得られるんですよ。

**名無しのひみつ** · 2022/05/19(木) 13:56:33.61

>>88
普通は4:1とか5:1でやるね
それで正答率95%を目指す

**名無しのひみつ** · 2022/05/19(木) 13:59:27.52

>>84
今は分からないのがほとんど
考え方自体を作り出せるようにはなったけど、それは人間に分かりやすいようにはなってない
ただ当然、その改善も研究されてる（XAIとか言う）

**名無しのひみつ** · 2022/05/19(木) 14:05:37.05

将棋とか囲碁だともうとっくにそうなってるよな
「この○○が最善手です。理由はめちゃくちゃ先まで読むとそうなりそうだからです」
マジでこれ

**名無しのひみつ** · 2022/05/19(木) 14:07:47.53

シュワルツネッガーだったら、アフリカ人に分類されたりするかもしれないな。

**名無しのひみつ** · 2022/05/19(木) 15:15:10.14

神経細胞の挙動を真似したら文字認識できましたってのを
どんどん巨大にしたらガンも見分けられるようになりましたってことだよね
規模が違うだけでやってることは同じじゃね？

**名無しのひみつ** · 2022/05/19(木) 15:46:48.04

こういうのは本当に胡散臭いけど
少なくとも男女くらいは100発100中で、当てられるのか？
AIがそういうってたから正しいはずなんだーとか言う奴が出てきそうなのが1番怖いよ
胡散臭いデータをさも正しいかのように反論材料のデータとして出してくる奴多いからな

**名無しのひみつ** · 2022/05/19(木) 18:06:04.29

>>84
https://kenkyujinsei.com/2020/12/21/keras-%E5%AD%A6%E7%BF%92%E6%B8%88%E3%81%BFcnn%E3%83%A2%E3%83%87%E3%83%AB%E3%81
%AE%E4%B8%AD%E9%96%93%E5%B1%A4%E3%81%AE%E5%87%BA%E5%8A%9B%E3%81%AE%E5%8F%AF%E8%A6%96%E5%8C%96%E6%96%B9%E6%B3%95/
深層学習の中間層を可視化する

ゾウの画像に対して
# [(None, 224, 224, 64),
# (None, 112, 112, 128),
# (None, 56, 56, 256),
# (None, 28, 28, 512),
# (None, 14, 14, 512)]

こんなテンソルを経ると、2層目では
ゾウの足と鼻が目立つようになる

それらがどんどん畳み込まれて、最後に
"ゾウ"を意味する、プログラム内の識別子に変換される

>>1はこれとは別のモデルなんだろうけど、まあ同じようなものが出ているか

それとも、もし一部の人が言うように皮膚の色によるものだとしたら
X線がメラニンに吸収されていて今一つ不鮮明なものを選んでいる、ということになるのかどうか？

**名無しのひみつ** · 2022/05/19(木) 18:25:46.64

まあエラの在りなしとかでも大体はね

**名無しのひみつ** · 2022/05/19(木) 18:35:09.89

顔見てわかるって事は骨格も傾向があるんだわ

**名無しのひみつ** · 2022/05/19(木) 18:48:34.90

ＡＩって有害だろ
たとえばこの例だと、１０％の人間は例外で存在しない扱い
診察対象外なのでお引き取り…みたいな使われ方されそう

**名無しのひみつ** · 2022/05/19(木) 19:12:03.11

内臓の形とかじゃね
胃袋だけ比較してもアメリカ人と日本人は違う特徴があるらしいし

**名無しのひみつ** · 2022/05/19(木) 19:19:04.36

88はよくあるインチキの方法だよ。素人を騙すのにはたとえばこうやるという見本。