【AI】AIはレントゲン写真から人種を90％の確率で見分けられる、ただし見分け方は不明 [すらいむ★]
■ このスレッドは過去ログ倉庫に格納されています
AIはレントゲン写真から人種を90％の確率で見分けられる、ただし見分け方は不明
人間の医師にとって、肌の色などがわからないレントゲン写真から患者の人種を見分けることは困難ですが、新たに医学誌のThe Lancet Digital Healthに発表された論文で、「AIは胸部X線画像から人種を90％の精度で見分けられる」ことが示されました。
研究者らはAIが人種を見分ける方法についても調べましたが、今のところAIがどうやって人種を判別しているのかは不明とのことです。
AI recognition of patient race in medical imaging: a modelling study - The Lancet Digital Health
https://www.thelancet.com/journals/landig/article/PIIS2589-7500(22)00063-2/fulltext
（以下略、続きはソースでご確認ください）
Gigazine 2022年05月18日 06時00分
https://gigazine.net/news/20220518-ai-recognize-patient-race-x-rays/ AI「は？これくらいのこともわからんの人間ってｗｗｗ」
って思ってそう むかし何かの番組でボビー・オロゴンがアフリカ人を見分けていてスゲーって思った AI「だいたい１万パターンに分類できるから全部暗記すればいい」 まぁCNNとかの配置とかで決めてるだけだろうしな。
理論はないし。 胸部のレントゲン写真だけで見分けちゃうんだよねえ
深層学習での特徴量を見分ける手法があったように思うんだがなあ そのうちレントゲンから
生活習慣や性格も分かりそうだな
短気か朗らかか、電車通勤か、学歴高めか
など特徴に現れそう 訓練したAIが導き出したアルゴリズムって人間が理解できる形で定式化できないもんなのかな シンギュラリティって一気に来るんじゃなくて、
こうやってジワジワとやってくるんだなあ 前に骨格が違うって言ってたアレやん
やっぱさすがやね
わい 映像化しないところがキーポイントになってそうだな
肉付きまで見てる可能性あるのか デニソワ人とかネアンデルタール人の肖像もAIで作ってみればいいのに。 エスキモーは何十種類もの“白”を見分けられるんだよね AI「うまく説明できないけどたぶんこれはポリネシアン、そっちのはミャオ族」 骨格で判るのでは？
色とは限らないということなんだよ こいつは犯罪者になります
こいつは勉強しても無駄です
こいつは単純労働向きです
みたいな判断もそのうちできるやろな ブチクシが軍団に勧誘する理論と同じだな
どういう訳かだいたい精鋭部隊が揃う これ、胸部X線の病気を検査するAIプログラムがなぜか黒人患者で病気の兆候を見逃す傾向があって、そもそもAIは人種を見分けられるのか？とこの研究が始まったってところが怖い
AIがX線画像の人種を見分けられるとして、じゃあどういうこと
読み込ませてる学習画像がすでに黒人の病気を見逃してるからってこと？？ そのうち人間には分からないけどAIには判断できることだらけになる >>1
90というとすごそうだが
10人にひとりは違う人種を言うわけで実用性には乏しい 判ってるけどわかんないふりしてんだよ
解剖書とか医学書のイラストってきまって白人だけど
最近あれも差別だなんだ、問題にされてるらしいからな
触らぬ神にたたりなし >>1
整形してる女を高確率で見つけるアプリに利用しよう リカチョン、レントゲン写真で恥骨のあたりを撮って欲しいようでもあり
撮って欲しく無いようでもある、晩春の北海出稼ぎいんちきバイト AIのブラックボックス化は深刻な問題になりますよ。解決法は論理的に考えると１つしかありませんが、ここには十分なスペースが無いので書けません。 >>11
天気予報を90%の確率で当てたらそれはもう凄いことだけどな 子供「AIさん、世界が平和になる方法は？」
AI「死ね。いますぐ死ね」 >>45
今までも職人の勘とか言ってきたからさほど変わらん気もする >>38
訓練データが白人だからか 医療界ではよくある話だな 人種間である程度の差異はあるんだから
それを考えていないとAIの精度も下がってしまう
でもその差異を考慮してデータを作ったら
患部発見の精度が上がりました！って発表したら
今のアメリカだと差別って非難されるんだよな
>>38の言うように、
＞胸部X線の病気を検査するAIプログラムがなぜか黒人患者で病気の兆候を見逃す傾向があって
としたら
白人正常 白人病変
黒人正常 黒人病変
黄人正常 黄人病変
というカテゴリーに分けておかないと、うまく分けられない可能性が高い、
なんて事もあり得るだろう
そしてこのようなカテゴリー分けによって、黒人の病変部を早期診断できるようになって
多くの黒人の命を救ったとしても、
黒人は差別するなと非難し続けるんだろうな なんでそうなるのか誰もわからない技術！
どうすんでしょう？ >>34
しかも人間にはその理由が分からない理解出来ない方法でやるから恐ろしいわ ＡＩには首位打者を何度も取った大打者の見分け方もわかるかな？ >>48
膨大なインプットって職人の勘に行き着くのかもな
定量化するのが手間なんだろう 人間の目は3原色ベースでしか見えないからね
鳥のように4原色またはそれ以上に何か見えてる この辺がもう人間を超えているんだよね
なおゴリラとは見分けられなかった模様 >>50
逆
人間は先入観があって見落とすところに気がつけている
50が言いたいのはそれをAI自身がそれを言語化できないことについてだとは思うけど
それが出来たらもう人間要らんぞｗ 素人だって頭蓋骨を見れば、欧米人、アジア人、アフリカ人の区別くらいは
容易にわかるよ。
頭の形と鼻骨と眼窩の形。それに歯の形。
中近東あたりで人種が混じっている場所ではわかりにく頭蓋骨もあるけど
ほとんどの場合はわかるよ。
サハラ以南の黒人だったら素人でも１００％わかる。 1の誤診については人種別に再学習させるだけで解決しそうだな
ついでに白人のみアジア人のみも学習させれば制度がさらに上がるんだろう kerasの中間層での操作を可視化する、というのも出来た筈だがなあ 顎を削ったあとがあって、目が離れて釣り上げっていれば韓国人 なんでだかわからないけど、ヨシ！！の世界が訪れるのか
なんか怖い >>7
あれ面白かったな
東アジア人同士もなんとなく分かるよな AIはこれがあるからｗ
判別、判断はほとんど正しくできるんだけど、そのロジックが誰も分からない、説明できない。
だから誤判断をいつ起こすかもわからず、クリティカルな仕事を任せることが出来ない。 皮膚のX線透過率とかかな？
あと、内臓の影に特徴があるとか >>1
俺のAIなんて
声を聞いただけで
声の主の身体を全て再現できるもんね
男には非対応 >>62
人間要る要らないじゃない
人間が判断基準のロジックを知りたいんだよ
ズレた奴だな AIと対等の地平で考えられる人類は数少ないと思うんだよ
将棋の藤井さんは該当する、現在何冠だか調べてないけど どうせシグモイド関数やrelu関数が画像内の各ピクセルの要素を最適に倍率かけて
戻り値をテンソル出力するのを繰り返しているだけ
影響の大きい要素を追跡してやることは出来る AIが何を解析して定量化してるかってのを作った人も本当に解らないもんなの？
視覚イメージなんだからどこに対応してるのかってのを見出だせないのは不思議だな
目的によっては研究に応用するツールとして作るもんなんだし
完全に任せっきりな筈が無い 普通にジャンケンしても
後出しジャンケンで絶対勝つAIの仕組み理解できるかって話だな データーを1000枚用意する。
その中から900枚を選んで正解を教えて学習させてから、
その900枚を元に戻して、1000枚についてあてさせると、
なんと正解率が90％ぐらいは普通に得られるんですよ。 >>88
普通は4:1とか5:1でやるね
それで正答率95%を目指す >>84
今は分からないのがほとんど
考え方自体を作り出せるようにはなったけど、それは人間に分かりやすいようにはなってない
ただ当然、その改善も研究されてる（XAIとか言う） 将棋とか囲碁だともうとっくにそうなってるよな
「この○○が最善手です。理由はめちゃくちゃ先まで読むとそうなりそうだからです」
マジでこれ シュワルツネッガーだったら、アフリカ人に分類されたりするかもしれないな。 神経細胞の挙動を真似したら文字認識できましたってのを
どんどん巨大にしたらガンも見分けられるようになりましたってことだよね
規模が違うだけでやってることは同じじゃね？ こういうのは本当に胡散臭いけど
少なくとも男女くらいは100発100中で、当てられるのか？
AIがそういうってたから正しいはずなんだーとか言う奴が出てきそうなのが1番怖いよ
胡散臭いデータをさも正しいかのように反論材料のデータとして出してくる奴多いからな >>84
https://kenkyujinsei.com/2020/12/21/keras-%E5%AD%A6%E7%BF%92%E6%B8%88%E3%81%BFcnn%E3%83%A2%E3%83%87%E3%83%AB%E3%81
%AE%E4%B8%AD%E9%96%93%E5%B1%A4%E3%81%AE%E5%87%BA%E5%8A%9B%E3%81%AE%E5%8F%AF%E8%A6%96%E5%8C%96%E6%96%B9%E6%B3%95/
深層学習の中間層を可視化する
ゾウの画像に対して
# [(None, 224, 224, 64),
# (None, 112, 112, 128),
# (None, 56, 56, 256),
# (None, 28, 28, 512),
# (None, 14, 14, 512)]
こんなテンソルを経ると、2層目では
ゾウの足と鼻が目立つようになる
それらがどんどん畳み込まれて、最後に
"ゾウ"を意味する、プログラム内の識別子に変換される
>>1はこれとは別のモデルなんだろうけど、まあ同じようなものが出ているか
それとも、もし一部の人が言うように皮膚の色によるものだとしたら
X線がメラニンに吸収されていて今一つ不鮮明なものを選んでいる、ということになるのかどうか？ ＡＩって有害だろ
たとえばこの例だと、１０％の人間は例外で存在しない扱い
診察対象外なのでお引き取り…みたいな使われ方されそう 内臓の形とかじゃね
胃袋だけ比較してもアメリカ人と日本人は違う特徴があるらしいし 88はよくあるインチキの方法だよ。素人を騙すのにはたとえばこうやるという見本。 >>54
人をカテゴリー分けして処方する漢方薬思い出した。
AIが医者やる時代は人間の医者がなんでこの処方するのかわからんと言う時代が来るんだろうな。 不明ってなんだよ不明って。
ひとつづつログ追っていけよサボるんじゃねー てか、医者だって訓練すれば、それなりに当たるようになるだべ。
普通の医者はそんな必要ないし、考古学者なんて結構似たようなことしてんじゃね。 90％の確率で人種を判別とのことだが、
そもそも人種というのを明確に定義できる割合が90％もあるのか？
混血とかはどういうくくりになっているのか？ >>105
>>95みたいにして追っていったがダメだったのか
それともやってないのかどうか
メラニンは紫外線を吸収するがX線を吸収するかどうかのデータは少ないな
黒人だけでなくオーストラロイドの人たちでもデータを取って比較すべきか ｜NEC、国内企業で最大規模の580PFLOPS超となる
｜AI研究用スーパーコンピュータの構築を開始
｜ https://cloud.watch.impress.co.jp/docs/news/1409751.html
たったの50億円かというのもおどろきながら、
システムがNECのスパコンではなくてNvidiaのGPUによるものに
なっている点にも注目だ。
結局NEC自身がNECのAurolaを選んでないじゃないかということ。
日本ではソフト開発の力が貧弱だから、仮に日本独自のハードを作っても
それを十分に使えるだけの環境やアプリを提供できないので意味が無いのかもな。 >>23
自分より優れたAIを創るAIが出来たら加速度的になるかも そもそも論で黒人にガッツリ教育しまくったら先進文明を持つのかどうか AIって人相学とか得意そう。何かしら結果が出ると思うんだけど、研究は無いのかな。 >>94
ひよこのオスメス瞬時に判断する人いるじゃん
素人には全く分からんがあれみたいな 犬が人間には知覚できない匂いを検知・識別できるようなもの 隠して的中率が下がったら隠したとこが見分けポイントじゃねーの >>111
そもそもまだネグロイドしか居なかったアフリカはコンゴあたりに、8万年前の精巧な銛や10万年前の顔料を使った遺物が見付かっているので
現生人類として初めての文明がアフリカにあった事が示唆されているらしいんだが
コーカソイドはおよそ7万年前にネグロイドと分岐した
つまり黒人が世界で初めて文明を起こした可能性があるんだぞ >>118
訂正、顔料は20万年前だったわ
副葬品やビーズは10万年前のものが見付かっている >>111
研究論文書いてる黒人居るし、最初が高知能集団だったらいけるでしょ。
厳しいアフリカの大地だと肉体強い奴が生き残り多数派になってしまうから、結局知能者は淘汰されてしまうかも知れんが >>120
というかインテリ黒人は普通にアメリカにも居るよね
イギリス式の生活してるなら執事みたいになってる人が多いイメージ
勝手な想像だけど この国は変えられる AIの活用 JDSC/4418テンバガー候補
https://jdsc.ai/news/ シニアマーケティング ゆこゆこ JDSCのAIを導入CVRが平均2.4倍 電力データとAIによるフレイル検知の実証を開始/中電
https://dime.jp/genre/1380420/ AIであれば知床 出航判断を誤ることはなかった DIME0508
//www.nikkei.com/article/DGXZQOGN081QC0Y2A500C2000000/?unlock=1 マスク氏「日本はいずれ存在せず」出生率低下に警鐘 日経0508
//wired.jp/article/to-win-the-next-war-the-pentagon-needs-nerds/ AIによる戦争が現実化する時代 米軍での「高度IT人材」の不足が深刻化 WIRED 0531
//xtech.nikkei.com/atcl/nxt/column/18/00692/052500080/ 言語も画像も動画も理解、ディープマインドのFlamingoとGato すごい 中田敦 日経 0527
//special.nikkeibp.co.jp/atcl/NXT/22/supermicro0527/ AI成功を阻む6つのハードル 後悔しないためのポイント 日経
//www.jiji.com/jc/article?k=000000009.000082721&g=prt NSITEXE 産官学共同「AIチップ設計拠点」prtimes 0527
//news.yahoo.co.jp/articles/65960504f6fdfd08295d39726fb177ec02bc129f 東大生に超人気の講義「AI経営」東洋経済 5/24
//customers.microsoft.com/ja-jp/story/1500156617194279472-persol-career-other-azure-ja-japan 3日間のハッカソンで AI を活用した検索システム Azure マイクロソフト0517
//www.itmedia.co.jp/business/articles/2205/19/news170.html AIを導入する企業は53％ 日本が米国に追いつく PwC調査[ITmedia]0519
//jimin.jp-east-2.storage.api.nifcloud.com/pdf/news/policy/203427_1.pdf 2022 デジタルによる新しい資本主義への挑戦 自民党
//www.smbcnikko.co.jp/products/inv/toshin_lab/column/002.html 投資対象として「AI」をどう見るか？ まだ始まったばかり 日興
//www.meti.go.jp/press/2022/05/20220509001/20220509001.html 実践的なAI人材育成のためのデータ付き教材 経産省0509
//www.meti.go.jp/policy/it_policy/jinzai/AIutilization.html 中小企業のDXに役立つ「AI導入ガイドブック」経産省0408
//www.riken.jp/research/labs/aip/#h2Anchor1220421 革新的な人工知能基盤技術を開発 理研
//www.jcer.or.jp/economic-forecast/2021127.html DX社会の構築なければ 30年代はマイナス成長 日経済研究センタ ■ このスレッドは過去ログ倉庫に格納されています
