【人工知能】「AIがなぜ誤診」、患者に説明できない恐れも ブラックボックス化で、総務省研究所が報告書公表[07/20]
■ このスレッドは過去ログ倉庫に格納されています
総務省情報通信政策研究所は、AIのネットワーク化に関する報告書を公表した。
有識者会議が取りまとめたもので、医療診断などで想定される便益や課題を提示。AIの誤診で患者の症状が悪化した場合、
ブラックボックス化されていて判断の経緯などを説明できないと、
患者やその家族らの理解が得られない恐れがあることを挙げている。
この報告書は、「AIネットワーク社会推進会議」(議長=須藤修・東大大学院情報学環教授)が取りまとめたもので、
さまざまな分野でAIが活用されることを想定し、
AIのネットワーク化が社会・経済にもたらす影響の評価を行った上で課題を整理した。
医療診断については、AIによる画像診断で病気の早期発見や見落としの改善につながるほか、
医師の負担が軽減されることを指摘。遠隔診断で専門医のいない地域でも適切な診断を受けられるようになり、
「医師不足・偏在などの問題の解決に貢献できるようになる」と予測している。
その一方で、想定される課題も挙げている。AIの誤診によって適切な治療が行われず、患者の症状が悪化した場合、
「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
患者や家族などの理解が得られない恐れがある」としている。
また、AIがハッキングの被害に遭い、患者の医療データが流出するケースも想定。
ネットワークを介して他のAIシステムとデータが共有されたり、
さまざまなデータが統合されたりすることで個人が特定され、重大なプライバシーの侵害につながる恐れがあるとしている。
https://www.cbnews.jp/20180720/20180719ai001.jpg
https://www.cbnews.jp/news/entry/20180719200753 例えば主訴が発熱の患者で
呼吸音 清 左右差なし
このデータをAIに提供する人はかなり責任重大だね 成長を否定するのが愚か者の特徴です。
赤ん坊の時に信用が確定するんですね。 >>346
例えば細菌性の判定。
内科でダルさや頭痛ときたら喉の腫れとリンパ腺の腫れは確認するけど、耳の張りなんかは、ベテランの医師が耳たぶ赤いとかリンパ腺見てる時に顔が赤いとかで気付いて、それから耳の中の腫れを検視筒で見ると言う具合。
最初から定型にない知見も盛り込めたら良いんだけど。
まあでも最低限は自治体の集団定期検診データと疾病データの照合だと思う。 >>346
身体診察の正確性は今以上に要求されるかもね。きちんと
背中側からもまんべんなく聞くとか。 良性腫瘍の疑いをありとあらゆる患者に持ってありとあらゆる患者に
全身のレントゲン取らせてもしょうがない。 >>348
でも胃内視鏡やら胸部CTで癌を見つける際の画像診断の能力は現時点で人間とほぼ同等か上回ってたはずで
、将来的には視診やらスナップ診断の領域も人間を凌駕すると思う。皮膚がんの一部はすでにそうじゃなかったっけ? >>350
人間には見逃したくないという恐れがあって、これが過剰な検査を
引き起こしている面があるけど、純粋に確率論に従うAIなら
むしろ検査は減るだろう。 CTやレントゲンの画像から患部を当てるのは
どのメーカーも実用化に成功してる。一定の
精度は出してるしこれから制度を上げていく
方法も確立しているよ。
画像判定は画像そのものと患部の場所をデータ
化していけばいいわけだから、人が作るデータは
一件で二つのみ。だから入力は簡単だ。
定型化されてない問診や定期検診データをもとに
数年先の疾病を予測するためのデータを作るとなると
一件で数千項目のデータ入力が必要になるよ。 >>352
そこまで行くのに莫大なデータ整理が必要という話。
あなたの検診および診察データによると、AIの分析では
こういう病気の可能性があります。来月はそこを確かめる
ために二枚レントゲンとってきてね、となればいいんだけど
それはまだまだこれからのお話。 >>354
他スレでデータがないからAIが動かないってのあるけど
医療系も同じこと言えるね。国が電カルの共通フォーマット用意して
医療機関に配布してビッグデータを収集・分析するとかやれば、
医療費は大幅に削減されるはずだから、やればいいのにね。 【3日、茅ヶ崎市長、死亡、57歳】 サリンまいた奴が死刑なら、放射能まいてる奴も死刑にするべきだ
http://rosie.5ch.net/test/read.cgi/liveplus/1538706566/l50
いまグングン伸びてるスレ、総人口統計が証明した、大量被曝死の実態! 画像でいうとMRIの三次元データから外科的な骨の状態解析ができれば
医療はかなり役に立つ。骨折はしたときからもうくっつき始める。
でもいまは例えば肩みたいに複合的な部位のときにすぐどこが折れたか
診断できない。MRIのデータ解析は専門家が少なく、解析専門の会社に
送って一週間が標準になっている。
最後までの治療計画はそこからじゃないと検討することができない。
当日固定すれば大袈裟になることもない場合もあるのに。 >>355
それは医療前提の課題ではある。
でも問診カルテはまだまだ定型化するわけにはいかないと思う。
いまは医療そのものが医師の診察時の知見やテクニックに依存
している状態だから。
最初にできることとしては、学校、役所、自治体、企業の順で、
それらが主体となっている定期検診の情報を最大公約数の部分
だけでいいから同じフォーマットで保存していくことだと思う。 医療前提じゃねーや、医療全体の、いまの課題だと思う。 >>358
検診って9割以上は健康な人々のデータ集めるだけだから、
疾患と紐づけされないとあまり意味ないと思うな。
あと保険病名とかも真の疾患名を曖昧にするから
無くした方がいいと思う。
まーなんつーか、やっぱ日本はアメリカの後塵を拝することに
なりそうだわ。up to dateよろしく外資がもってくるAIやらソフトを
利用し続けることになりそう。 でもMRIがすぐ解析できなくてもいいこともある。
俺が10年前に足首をやったときは、東京都のERで若い
女医が俺の足首を小さな胸に押し当てて、両手で足を
引き寄せ、必死にガチガチの固定をしてくれた。
後日なんともなかったんだけあの感触は素晴らしかった。 治療しても長生きして貢献しないので生きる価値がない。
だから治療中断ね。というAIの良心です。 >>360
んで医療の現場もアメリカに合わせるってことか、、、
それちょっとわからない。昔はカルテをドイツ語で書いてた
人がいたけどいまは日本語だし。現場がどう判断するかは
読みにくい。AIはともかくレセプトシステムは日本は結構
いいもの作ってるよ。運用もどこの医院も慣れたものだし、
それを一気に違うものに置き換えることできないと思う。 結局は人工知能とか言いつつ何も考えてないからに尽きる
要は単なる高性能検索システムに過ぎないということ
AIが人間の仕事を奪うとか当分ないことだから安心するこったな
ガンですら何十年と渡って研究しても未だ解決できていないのに
人間の脳なら模倣できるとか、根拠不明の戯言なんだよ あと脳の模倣はまだまだできないよ。
いまのAIは脳細胞の機能の一部を模倣してるけど使われ方は脳とは違うよ。
脳の構造を模した仕掛けはまだまだできないよ。 AI「あなたにはSSMの傾向が疑われます。幸福薬を処方します。」 ドローンも、自動運転も、日本じゃどうにもならん。
AIで失われる命の数だけ数えて、救われる命の数なんて数えないんだろ。 >>364
人間の脳をマネするのは愚の骨頂。人間には様々な
認知バイアスがあり、これが誤診につながっているのは
よく知られている。検索という行為は決して侮ることはできず、
診断アルゴリズムがあるビッグデータを参照し、疾患に特徴的な
データを自ら見つけ出して、新たに診断基準に加えることも
将来的には普通になるだろう。
いかに早く人間的な思考から脱するかが技術的進歩には不可欠だ。 >>369
まぁそうなんだよね。日本国内に情報技術の革新者となるような
企業も政府組織もないから。医師も失職する恐れが高まるから乗り気で
ないし。アメリカとか中国がフロンティアを開拓するのを
我々は眺めているだけになるだろう。 例えば検査機器だって誤差があってそれで誤検診になることだってあって、それはそういう風に患者に説明するわけでしょ
それと一緒でいいじゃん >>364
「AIは何も考えていない」とか、そんなんどうでもいいんだよ
AIが例えちょっと高級な電卓でしかなくても、それで実際に作業が進むなら
その分だけ不要な人間はクビになる
AIが人間をクビにするのに、別に人間より優れている必要は全く無い えっまだAIが人みたいなことができるものとして考えてる人がいるの? AI診断でも人による診断でも「〜の疑いあり要精密検査」と言われて精密検査の結果異常なしなら普通問題にならない
問題になるのは異常なしと診断した後異常が発覚した場合なわけだけど
AI診断を後から精査した結果異常なしとしたのは誤診だったと明らかになるのであれば人が診断していればわかったはずだということになるの? >>AI診断を後から精査した結果異常なしとしたのは誤診だったと明らかになるのであれば人が診断していればわかったはずだということになるの?
主語を書きなさい。
あと一文で数文の内容を詰め込まないように。
正直、何の意味かわからないよ。 >>377
主語? 「誤診だと」わかったはずだということになるの?かな? これは主語じゃないと思うけど
「精査」までしなくても人がチェックすればすぐわかるような誤診なら初めからチェックしとけAIじゃなく人のミスというか手抜きだろってことになりそうだし
逆に精査しなければわからないようなものなら結果がわかった後からの目線だからわかるようなもんであって今後の診断に生かすべき情報ではあっても誤診というのは厳しいような…
文字どおり「AIが誤診した」とわかりやすく認定できるケースというのがどういうケースなのかイメージできない >>29
おお、いいねぇ。健康保険に負担もかからないし
医療関係者も糞の相手をしなくて済む AI診断「異常なし」→後に異常発覚→事後的に人がAI診断をチェック→あっさりと(わかりやすい)誤診を発見・・・という流れなら初めからチェックしとけ人のミスっていうか手抜きだろってことにならない?
AI診断「異常なし」→後に異常発覚→事後的に人が精査「結果から逆算して考えるにこの検査数値が異常の兆候であった可能性がある」・・・これはAIが誤診したと言えるのか?
AIが誤診というのはどちらのケースが想定されているんだろう?
前者? 後者? 他に?
これでどうでしょうか >>382
どうでしょうかって、あんた医療もAIも知らないじゃんw >>383
知らないから質問してるんですよ
質問したら質問の文意がわからないと言われたから書き直してみましたけどこれでわかっていただけますか? って意味です 人間でもミスはあるんだから結局は「なんかあったときに納得できるかどうか」なんだろうな
個人的には別に問題ないんだけど 同じように人の生き死に関わる問題だけど自動運転の自動車が死亡事故を起こすケースという方がいくらかわかりやすい人がやっていても大概の人間にとってブラックボックスである医療診断と違って運転は一般人もするから
プログラムやハード面に明らかな問題があれば議論にならないんであって議論になるのはそうでないケース
そもそも運転者に過失があるから事故が起こるという前提が少なくともある程度フィクションなんであって人間どうしの事故であっても簡単に過失割合が決定出来る方がマレ
だいたいぶつかれば簡単に人が死ぬようなものが公道を走ることを許すのがそもそも最大の過失という結論になるのだけれどそれでは現代社会が立ち行かないからテクニカルなルールによって決定されているのが現状
よって自動運転車が事故を起こしても同じルールを適用して過失割合を算定するしかなく自動運転の技術的あるいは哲学的問題に立ち入る必要はないというのが私の結論
これが通ったとしてもでは自動運転に過失があった場合誰が責任を負うのかという問題は残るけどどっちみちフィクションなんでエイヤッ!と決めるしかないと思う国会が決めること
普及を優先させるならメーカーの責任にしない方がいいと思うけど事故を起こさないことを優先させるならメーカーの責任ということにしといた方がいいでしょうそうすれば自動運転車が普及するほど事故は減るでしょう普及は遅くなるけど >>386
哲学は時代と学派によってその言葉の意味すら全く違う。
初期のフィロソフィーを云うなら幾何学を軸とし論理で
現実・自然の現象を解析検討するための知識体系だよ。 医療判断をAI化すれば、
AIより優れた判断が出来る医者は
医者全体の1%未満が現実だろう。 人間の医者も誤診だらけだから気にするな
まずは簡単なところを早く本番運用してくれ
毎度同じ薬出したり風邪とかは余裕だろ >>387
現代においては実験・観測を基礎にした科学との対比でそれを基礎にしない考察をする学問って感じでしょうかね
初期の哲学ってギリシャ哲学のことでしょ?
ギリシャ人は肉体労働は奴隷のする卑しい仕事だと考えていたから実験観測なんかしなくても頭ん中で考えるだけで真実に至れると信じていた
現代の哲学はどういうふうに実験観測したらいいかわかっていない領域にだけ押し込められている感がある
AIの進歩は哲学の出番を一時的に増やすだろうけどまたすぐに逆に科学に領域を削られるきっかけになりそうに思う >>390
ギリシア人のフィロソフィーは実用的には土地の分割に始まり
そこから幾何が生まれて自然と一致する論理概念=幾何を自然の
原理とするところから論理を尊ぶフィロソフィーが始まった。
奴隷はいても都市間戦争で活躍すれば市民にもなったし。
中世〜現代の一部が考える身分とは違う。 なんでこの板の人って学ばないしそもそも自分が
理解できてないことに無頓着な人が多いんだろう。
別に無理解はいいと思うけどね。科学全般に詳しい
ジャーナリストでも知らないことはいっぱいあるんだろうし。
でもそれに気づかない上、一行で、あれはこれって
決めつけて覚えてその錯誤にしがみつく人の多いこと。
科学ニュース+というわりには、あまり科学とか
好きな人多くないんじゃないかと思う。
「えっ!誤診だった」
「AIのせいです」
「どうもありがとうございました、先生の的確な診断で助かりました」
「それほどでも」
ワトソンヘルス、ビジネスとして軌道に乗らないとIBMは傾くかもね
すげー投資してるから ■ このスレッドは過去ログ倉庫に格納されています