X



【人工知能】「AIがなぜ誤診」、患者に説明できない恐れも ブラックボックス化で、総務省研究所が報告書公表[07/20]
■ このスレッドは過去ログ倉庫に格納されています
0001しじみ ★2018/07/21(土) 15:53:21.82ID:CAP_USER
総務省情報通信政策研究所は、AIのネットワーク化に関する報告書を公表した。
有識者会議が取りまとめたもので、医療診断などで想定される便益や課題を提示。AIの誤診で患者の症状が悪化した場合、
ブラックボックス化されていて判断の経緯などを説明できないと、
患者やその家族らの理解が得られない恐れがあることを挙げている。

この報告書は、「AIネットワーク社会推進会議」(議長=須藤修・東大大学院情報学環教授)が取りまとめたもので、
さまざまな分野でAIが活用されることを想定し、
AIのネットワーク化が社会・経済にもたらす影響の評価を行った上で課題を整理した。

 医療診断については、AIによる画像診断で病気の早期発見や見落としの改善につながるほか、
医師の負担が軽減されることを指摘。遠隔診断で専門医のいない地域でも適切な診断を受けられるようになり、
「医師不足・偏在などの問題の解決に貢献できるようになる」と予測している。

 その一方で、想定される課題も挙げている。AIの誤診によって適切な治療が行われず、患者の症状が悪化した場合、
「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
患者や家族などの理解が得られない恐れがある」としている。

 また、AIがハッキングの被害に遭い、患者の医療データが流出するケースも想定。
ネットワークを介して他のAIシステムとデータが共有されたり、
さまざまなデータが統合されたりすることで個人が特定され、重大なプライバシーの侵害につながる恐れがあるとしている。

https://www.cbnews.jp/20180720/20180719ai001.jpg

https://www.cbnews.jp/news/entry/20180719200753
0348ニュースソース検討中@自治議論スレ2018/10/07(日) 17:49:33.77ID:fN3/yNNm
>>346
例えば細菌性の判定。
内科でダルさや頭痛ときたら喉の腫れとリンパ腺の腫れは確認するけど、耳の張りなんかは、ベテランの医師が耳たぶ赤いとかリンパ腺見てる時に顔が赤いとかで気付いて、それから耳の中の腫れを検視筒で見ると言う具合。
最初から定型にない知見も盛り込めたら良いんだけど。

まあでも最低限は自治体の集団定期検診データと疾病データの照合だと思う。
0349ニュースソース検討中@自治議論スレ2018/10/07(日) 17:50:39.91ID:MCK8q0Gf
>>346
身体診察の正確性は今以上に要求されるかもね。きちんと
背中側からもまんべんなく聞くとか。
0350ニュースソース検討中@自治議論スレ2018/10/07(日) 17:54:16.42ID:fN3/yNNm
良性腫瘍の疑いをありとあらゆる患者に持ってありとあらゆる患者に
全身のレントゲン取らせてもしょうがない。
0351ニュースソース検討中@自治議論スレ2018/10/07(日) 17:55:25.42ID:MCK8q0Gf
>>348
でも胃内視鏡やら胸部CTで癌を見つける際の画像診断の能力は現時点で人間とほぼ同等か上回ってたはずで
、将来的には視診やらスナップ診断の領域も人間を凌駕すると思う。皮膚がんの一部はすでにそうじゃなかったっけ?
0352ニュースソース検討中@自治議論スレ2018/10/07(日) 17:57:08.82ID:MCK8q0Gf
>>350
人間には見逃したくないという恐れがあって、これが過剰な検査を
引き起こしている面があるけど、純粋に確率論に従うAIなら
むしろ検査は減るだろう。
0353ニュースソース検討中@自治議論スレ2018/10/07(日) 17:59:23.92ID:fN3/yNNm
CTやレントゲンの画像から患部を当てるのは
どのメーカーも実用化に成功してる。一定の
精度は出してるしこれから制度を上げていく
方法も確立しているよ。

画像判定は画像そのものと患部の場所をデータ
化していけばいいわけだから、人が作るデータは
一件で二つのみ。だから入力は簡単だ。

定型化されてない問診や定期検診データをもとに
数年先の疾病を予測するためのデータを作るとなると
一件で数千項目のデータ入力が必要になるよ。
0354ニュースソース検討中@自治議論スレ2018/10/07(日) 18:01:01.83ID:fN3/yNNm
>>352
そこまで行くのに莫大なデータ整理が必要という話。
あなたの検診および診察データによると、AIの分析では
こういう病気の可能性があります。来月はそこを確かめる
ために二枚レントゲンとってきてね、となればいいんだけど
それはまだまだこれからのお話。
0355ニュースソース検討中@自治議論スレ2018/10/07(日) 18:04:34.97ID:MCK8q0Gf
>>354
他スレでデータがないからAIが動かないってのあるけど
医療系も同じこと言えるね。国が電カルの共通フォーマット用意して
医療機関に配布してビッグデータを収集・分析するとかやれば、
医療費は大幅に削減されるはずだから、やればいいのにね。
0356ニュースソース検討中@自治議論スレ2018/10/07(日) 18:05:59.19ID:tG8XAOIn
【3日、茅ヶ崎市長、死亡、57歳】 サリンまいた奴が死刑なら、放射能まいてる奴も死刑にするべきだ
http://rosie.5ch.net/test/read.cgi/liveplus/1538706566/l50

いまグングン伸びてるスレ、総人口統計が証明した、大量被曝死の実態!
0357ニュースソース検討中@自治議論スレ2018/10/07(日) 18:06:25.21ID:fN3/yNNm
画像でいうとMRIの三次元データから外科的な骨の状態解析ができれば
医療はかなり役に立つ。骨折はしたときからもうくっつき始める。
でもいまは例えば肩みたいに複合的な部位のときにすぐどこが折れたか
診断できない。MRIのデータ解析は専門家が少なく、解析専門の会社に
送って一週間が標準になっている。

最後までの治療計画はそこからじゃないと検討することができない。
当日固定すれば大袈裟になることもない場合もあるのに。
0358ニュースソース検討中@自治議論スレ2018/10/07(日) 18:09:30.46ID:fN3/yNNm
>>355
それは医療前提の課題ではある。
でも問診カルテはまだまだ定型化するわけにはいかないと思う。
いまは医療そのものが医師の診察時の知見やテクニックに依存
している状態だから。

最初にできることとしては、学校、役所、自治体、企業の順で、
それらが主体となっている定期検診の情報を最大公約数の部分
だけでいいから同じフォーマットで保存していくことだと思う。
0359ニュースソース検討中@自治議論スレ2018/10/07(日) 18:10:10.07ID:fN3/yNNm
医療前提じゃねーや、医療全体の、いまの課題だと思う。
0360ニュースソース検討中@自治議論スレ2018/10/07(日) 18:14:09.78ID:MCK8q0Gf
>>358
検診って9割以上は健康な人々のデータ集めるだけだから、
疾患と紐づけされないとあまり意味ないと思うな。
あと保険病名とかも真の疾患名を曖昧にするから
無くした方がいいと思う。
まーなんつーか、やっぱ日本はアメリカの後塵を拝することに
なりそうだわ。up to dateよろしく外資がもってくるAIやらソフトを
利用し続けることになりそう。
0361ニュースソース検討中@自治議論スレ2018/10/07(日) 18:14:35.30ID:fN3/yNNm
でもMRIがすぐ解析できなくてもいいこともある。
俺が10年前に足首をやったときは、東京都のERで若い
女医が俺の足首を小さな胸に押し当てて、両手で足を
引き寄せ、必死にガチガチの固定をしてくれた。

後日なんともなかったんだけあの感触は素晴らしかった。
0362ニュースソース検討中@自治議論スレ2018/10/07(日) 18:16:39.84ID:mp1i5yxb
治療しても長生きして貢献しないので生きる価値がない。
だから治療中断ね。というAIの良心です。
0363ニュースソース検討中@自治議論スレ2018/10/07(日) 18:16:52.71ID:fN3/yNNm
>>360
んで医療の現場もアメリカに合わせるってことか、、、
それちょっとわからない。昔はカルテをドイツ語で書いてた
人がいたけどいまは日本語だし。現場がどう判断するかは
読みにくい。AIはともかくレセプトシステムは日本は結構
いいもの作ってるよ。運用もどこの医院も慣れたものだし、
それを一気に違うものに置き換えることできないと思う。
0364ニュースソース検討中@自治議論スレ2018/10/07(日) 18:31:46.64ID:zr1qO7gm
結局は人工知能とか言いつつ何も考えてないからに尽きる

要は単なる高性能検索システムに過ぎないということ

AIが人間の仕事を奪うとか当分ないことだから安心するこったな

ガンですら何十年と渡って研究しても未だ解決できていないのに
人間の脳なら模倣できるとか、根拠不明の戯言なんだよ
0365ニュースソース検討中@自治議論スレ2018/10/07(日) 18:32:25.36ID:fN3/yNNm
検索じゃなくて正規分布だよ
0366ニュースソース検討中@自治議論スレ2018/10/07(日) 18:33:35.07ID:fN3/yNNm
あと脳の模倣はまだまだできないよ。
いまのAIは脳細胞の機能の一部を模倣してるけど使われ方は脳とは違うよ。

脳の構造を模した仕掛けはまだまだできないよ。
0368ニュースソース検討中@自治議論スレ2018/10/07(日) 19:07:34.09ID:wmBOo+Vy
医師会か何かがAI導入に反対してるってこと?
0369ニュースソース検討中@自治議論スレ2018/10/07(日) 19:17:33.29ID:UMF17an0
ドローンも、自動運転も、日本じゃどうにもならん。

AIで失われる命の数だけ数えて、救われる命の数なんて数えないんだろ。
0370ニュースソース検討中@自治議論スレ2018/10/07(日) 19:19:51.76ID:MCK8q0Gf
>>364
人間の脳をマネするのは愚の骨頂。人間には様々な
認知バイアスがあり、これが誤診につながっているのは
よく知られている。検索という行為は決して侮ることはできず、
診断アルゴリズムがあるビッグデータを参照し、疾患に特徴的な
データを自ら見つけ出して、新たに診断基準に加えることも
将来的には普通になるだろう。
いかに早く人間的な思考から脱するかが技術的進歩には不可欠だ。
0371ニュースソース検討中@自治議論スレ2018/10/07(日) 19:22:41.59ID:MCK8q0Gf
>>369
まぁそうなんだよね。日本国内に情報技術の革新者となるような
企業も政府組織もないから。医師も失職する恐れが高まるから乗り気で
ないし。アメリカとか中国がフロンティアを開拓するのを
我々は眺めているだけになるだろう。
0372ニュースソース検討中@自治議論スレ2018/10/07(日) 19:39:35.42ID:UnlvXVrG
プログラムが悪いんちゃう?
0373ニュースソース検討中@自治議論スレ2018/10/11(木) 17:44:52.12ID:+PKbDGWK
例えば検査機器だって誤差があってそれで誤検診になることだってあって、それはそういう風に患者に説明するわけでしょ
それと一緒でいいじゃん
0374ニュースソース検討中@自治議論スレ2018/10/11(木) 19:37:07.08ID:8byfUuVc
>>364
「AIは何も考えていない」とか、そんなんどうでもいいんだよ
AIが例えちょっと高級な電卓でしかなくても、それで実際に作業が進むなら
その分だけ不要な人間はクビになる

AIが人間をクビにするのに、別に人間より優れている必要は全く無い
0375ニュースソース検討中@自治議論スレ2018/10/11(木) 20:10:29.09ID:1MlMNHu4
えっまだAIが人みたいなことができるものとして考えてる人がいるの?
0376ニュースソース検討中@自治議論スレ2018/10/11(木) 23:58:38.42ID:TBmuvROi
AI診断でも人による診断でも「〜の疑いあり要精密検査」と言われて精密検査の結果異常なしなら普通問題にならない
問題になるのは異常なしと診断した後異常が発覚した場合なわけだけど
AI診断を後から精査した結果異常なしとしたのは誤診だったと明らかになるのであれば人が診断していればわかったはずだということになるの?
0377ニュースソース検討中@自治議論スレ2018/10/12(金) 05:36:20.31ID:zVBNJx59
>>AI診断を後から精査した結果異常なしとしたのは誤診だったと明らかになるのであれば人が診断していればわかったはずだということになるの?

主語を書きなさい。
あと一文で数文の内容を詰め込まないように。
正直、何の意味かわからないよ。
0379ニュースソース検討中@自治議論スレ2018/10/12(金) 06:44:16.86ID:56qJ1/sH
>>377
主語? 「誤診だと」わかったはずだということになるの?かな? これは主語じゃないと思うけど
「精査」までしなくても人がチェックすればすぐわかるような誤診なら初めからチェックしとけAIじゃなく人のミスというか手抜きだろってことになりそうだし
逆に精査しなければわからないようなものなら結果がわかった後からの目線だからわかるようなもんであって今後の診断に生かすべき情報ではあっても誤診というのは厳しいような…
文字どおり「AIが誤診した」とわかりやすく認定できるケースというのがどういうケースなのかイメージできない
0380ニュースソース検討中@自治議論スレ2018/10/12(金) 06:47:38.85ID:zVBNJx59
文意がわからないからそのまま話を広げられても困る
0382ニュースソース検討中@自治議論スレ2018/10/12(金) 22:17:28.85ID:56qJ1/sH
AI診断「異常なし」→後に異常発覚→事後的に人がAI診断をチェック→あっさりと(わかりやすい)誤診を発見・・・という流れなら初めからチェックしとけ人のミスっていうか手抜きだろってことにならない?
AI診断「異常なし」→後に異常発覚→事後的に人が精査「結果から逆算して考えるにこの検査数値が異常の兆候であった可能性がある」・・・これはAIが誤診したと言えるのか?

AIが誤診というのはどちらのケースが想定されているんだろう?
前者? 後者? 他に?


これでどうでしょうか
0383ニュースソース検討中@自治議論スレ2018/10/13(土) 18:32:55.87ID:s66mqw+X
>>382
どうでしょうかって、あんた医療もAIも知らないじゃんw
0384ニュースソース検討中@自治議論スレ2018/10/13(土) 20:56:24.80ID:z0nsHg+q
>>383
知らないから質問してるんですよ
質問したら質問の文意がわからないと言われたから書き直してみましたけどこれでわかっていただけますか? って意味です
0385ニュースソース検討中@自治議論スレ2018/10/14(日) 09:45:45.71ID:mk3y2OoG
人間でもミスはあるんだから結局は「なんかあったときに納得できるかどうか」なんだろうな
個人的には別に問題ないんだけど
0386ニュースソース検討中@自治議論スレ2018/10/14(日) 10:27:11.40ID:C7w+2/YB
同じように人の生き死に関わる問題だけど自動運転の自動車が死亡事故を起こすケースという方がいくらかわかりやすい人がやっていても大概の人間にとってブラックボックスである医療診断と違って運転は一般人もするから

プログラムやハード面に明らかな問題があれば議論にならないんであって議論になるのはそうでないケース
そもそも運転者に過失があるから事故が起こるという前提が少なくともある程度フィクションなんであって人間どうしの事故であっても簡単に過失割合が決定出来る方がマレ
だいたいぶつかれば簡単に人が死ぬようなものが公道を走ることを許すのがそもそも最大の過失という結論になるのだけれどそれでは現代社会が立ち行かないからテクニカルなルールによって決定されているのが現状

よって自動運転車が事故を起こしても同じルールを適用して過失割合を算定するしかなく自動運転の技術的あるいは哲学的問題に立ち入る必要はないというのが私の結論

これが通ったとしてもでは自動運転に過失があった場合誰が責任を負うのかという問題は残るけどどっちみちフィクションなんでエイヤッ!と決めるしかないと思う国会が決めること

普及を優先させるならメーカーの責任にしない方がいいと思うけど事故を起こさないことを優先させるならメーカーの責任ということにしといた方がいいでしょうそうすれば自動運転車が普及するほど事故は減るでしょう普及は遅くなるけど
0387ニュースソース検討中@自治議論スレ2018/10/14(日) 19:02:26.14ID:ZWwEwKRy
>>386
哲学は時代と学派によってその言葉の意味すら全く違う。
初期のフィロソフィーを云うなら幾何学を軸とし論理で
現実・自然の現象を解析検討するための知識体系だよ。
0388ニュースソース検討中@自治議論スレ2018/10/14(日) 21:46:28.78ID:S/aB2aWc
医療判断をAI化すれば、
AIより優れた判断が出来る医者は
医者全体の1%未満が現実だろう。
0389ニュースソース検討中@自治議論スレ2018/10/15(月) 10:27:37.83ID:u4EDQOEC
人間の医者も誤診だらけだから気にするな
まずは簡単なところを早く本番運用してくれ
毎度同じ薬出したり風邪とかは余裕だろ
0390ニュースソース検討中@自治議論スレ2018/10/15(月) 21:20:33.33ID:PEznIAgO
>>387
現代においては実験・観測を基礎にした科学との対比でそれを基礎にしない考察をする学問って感じでしょうかね
初期の哲学ってギリシャ哲学のことでしょ?
ギリシャ人は肉体労働は奴隷のする卑しい仕事だと考えていたから実験観測なんかしなくても頭ん中で考えるだけで真実に至れると信じていた
現代の哲学はどういうふうに実験観測したらいいかわかっていない領域にだけ押し込められている感がある
AIの進歩は哲学の出番を一時的に増やすだろうけどまたすぐに逆に科学に領域を削られるきっかけになりそうに思う
0391ニュースソース検討中@自治議論スレ2018/10/15(月) 23:20:41.77ID:RNqesUxd
>>390
ギリシア人のフィロソフィーは実用的には土地の分割に始まり
そこから幾何が生まれて自然と一致する論理概念=幾何を自然の
原理とするところから論理を尊ぶフィロソフィーが始まった。
奴隷はいても都市間戦争で活躍すれば市民にもなったし。
中世〜現代の一部が考える身分とは違う。
0392ニュースソース検討中@自治議論スレ2018/10/16(火) 08:32:13.37ID:SRVtYxiF
なんでこの板の人って学ばないしそもそも自分が
理解できてないことに無頓着な人が多いんだろう。

別に無理解はいいと思うけどね。科学全般に詳しい
ジャーナリストでも知らないことはいっぱいあるんだろうし。

でもそれに気づかない上、一行で、あれはこれって
決めつけて覚えてその錯誤にしがみつく人の多いこと。
科学ニュース+というわりには、あまり科学とか
好きな人多くないんじゃないかと思う。
0393ニュースソース検討中@自治議論スレ2018/10/16(火) 11:01:08.84ID:qIXXp/WN
 


「えっ!誤診だった」
「AIのせいです」

「どうもありがとうございました、先生の的確な診断で助かりました」
「それほどでも」


 
0396ニュースソース検討中@自治議論スレ2018/10/16(火) 22:47:03.65ID:Jc31Xhdu
ワトソンヘルス、ビジネスとして軌道に乗らないとIBMは傾くかもね
すげー投資してるから
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況