【人工知能】「AIがなぜ誤診」、患者に説明できない恐れも ブラックボックス化で、総務省研究所が報告書公表［07/20］
■ このスレッドは過去ログ倉庫に格納されています
総務省情報通信政策研究所は、AIのネットワーク化に関する報告書を公表した。
有識者会議が取りまとめたもので、医療診断などで想定される便益や課題を提示。AIの誤診で患者の症状が悪化した場合、
ブラックボックス化されていて判断の経緯などを説明できないと、
患者やその家族らの理解が得られない恐れがあることを挙げている。
この報告書は、「AIネットワーク社会推進会議」（議長＝須藤修・東大大学院情報学環教授）が取りまとめたもので、
さまざまな分野でAIが活用されることを想定し、
AIのネットワーク化が社会・経済にもたらす影響の評価を行った上で課題を整理した。
医療診断については、AIによる画像診断で病気の早期発見や見落としの改善につながるほか、
医師の負担が軽減されることを指摘。遠隔診断で専門医のいない地域でも適切な診断を受けられるようになり、
「医師不足・偏在などの問題の解決に貢献できるようになる」と予測している。
その一方で、想定される課題も挙げている。AIの誤診によって適切な治療が行われず、患者の症状が悪化した場合、
「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
患者や家族などの理解が得られない恐れがある」としている。
また、AIがハッキングの被害に遭い、患者の医療データが流出するケースも想定。
ネットワークを介して他のAIシステムとデータが共有されたり、
さまざまなデータが統合されたりすることで個人が特定され、重大なプライバシーの侵害につながる恐れがあるとしている。
https://www.cbnews.jp/20180720/20180719ai001.jpg
https://www.cbnews.jp/news/entry/20180719200753 >>283
人より性能よくなってもその判断のやり方は人と違う。
機械は責任とれないし。
その調子でもの考えてると現実見失うハメになるよw >>285
いやだから機械のかわりに責任をとるのが人間の仕事ってことにならないかって話なんだけど？
一文目については>>279
人より高性能なＡＩ診断が初めからある時代の医者は人間ならではの診断力を磨くことができるのか？
むしろ現在の医者よりそういう能力が低くなりＡＩを補完する能力すら足りなくなったりしないかを心配してるんだよ >>284の方見逃してましたすんません>>286後段の通りです
診断的中率については比較できるわけだしむしろ他にどう比較するのかそれこそ数字で比較できない部分は言葉で比較するしか私は方法を知らない
ＡＩに詳しい人が他の比較方法を考えられるなら教えてほしい
囲碁ではＡＩと人間でどっちが強いかはやってみりゃわかる基本同じでしょ？
人間ならではの能力が期待されるって話だと>>286後段の通り
タッグで囲碁をやるとして囲碁のプロと囲碁のＡＩが組む方が囲碁のＡＩと囲碁のプロではないＡＩの専門家というコンビより確実に強いだろうけど
囲碁のプロのトップがＡＩばかりになってしまって人間のレベルが下がってしまった世界だとその限りにあらずかもしれない
私はＡＩについてはほとんど何も知らないのはおっしゃるとおりだけどあなたよりは問題の本質を理解していると思う違うと言うならどう違うのか教えてほしい 囲碁はルールと盤面の中で閉じた世界
医療は検診記録と疾病の関係すらフォーマットになってない世界
人のからだの調子は盤面のように升が刻まれているわけじゃない
他に何かまだ書かないと判らないかな
人と機械は違うんだよ
ゲームと医療は違うんだよ
データ現実は違うんだよ
そういうところを無自覚に錯誤してるからこそ自分の認識のどこがおかしいかもわからない状態なんじゃないのかな 手放しで本質を理解してると言ってるのもすごい。
いまのAIの実装触って100行くらいのデータ食わせて試してみなよ。
といってもやらんで自分の中で判ってると思い込んで終わるんだろうけど。 この板のAIはシンギュラリティに繋がるAIだからいま企業が使ってるAIと一緒にしてもらっては困るオマル >>290
シンギュラリティーなんてオカルトかSFのネタでしかない だってオカルトじゃん。
いまのAIを指して手放しでのんなの知能じゃないって言ってるんだからw このスレを見ると「ＡＩ」って言葉が、バカを集める笛として有効なのが理解できる ninngenndattegosinnsurudaro まぁだから説明する所で医者は必要
今ほどの物は求められないかもしれないが AIだろうが人間医師だろうが
誤診のフォロー体制こそが重要やろ
何故誤診？なんてのは別問題や 日本でこれから行われるのは
AI化ではなく
IT革命だからな 今までの診療データーの蓄積だから、
今までの診療が怪しい こういうのは単純にそれぞれ独立なシステムを複数作って
総合に間違いがないかを診断するような感じにしたほうがいいのかな AIは人間の補助だろ？
あくまでも画像解析の診断結果を推定するだけ
それを聞いて合理性を医者が判断する AIでも誤診あるのはしょうがないじゃん。
それを超えるメリットがあるなら導入すべきなんじゃない。
それに、それをチェックするのは人間の役割で最終的には人間が詳細な診断をして判断するものだろ。 >>5
診断の正確さが問題にされているんじゃないヨ。
誤診について原因究明が不能で
医療が一切に責任を取らなくてもいいということになれば
医療システムに対する信頼そのものが
崩壊するということが問題にされている。
極端な話、鼻風邪にAIが毒薬を処方したって、
「AI様がお決めになったことだから、何かしっかりした理由がある」
という強弁せざるを得なくなる。
AIがやることは検証不能だとなった場合、
それは実験と観察の追試によって神の光に近づこうとする
近代科学の精神の放棄だ・・・ >>7
ＡＩ自身もどうしてその答えになったか理解してるわけじゃないから説明できないよ。
強いて言えば「学習データから自然に導き出されました」と言うだけ。 AI が診断を確定する形にするからおかしなことになる
AI は「○○の可能性が高い」と指摘するだけにとどめておけばいい
あとは医者がそれをどう判断するか
その意見を採用してもいいし
採用しなくてもいいし
なんらかの決定を下す時の決定権は医師に持たせるとともに
責任も医師が持つようにすればいい 文系が噛み付く案件だな
0か100しか認めない文系
そんな彼らはポエム書いて悦に浸ってる >>288>>289
遅レスすんません
ＡＩ診断なんて人間とまともに比較できるレベルになったりしないから安心しろってことでいいんでしょうか？
だとしたらなんだってお役人も騒いでるんでしょう？
ていうか開発に大枚突っ込んでるんじゃないの？ >>307
それって何のSF？
AIが根拠なく誤った診断を出すことはあるとして考えないと
統計診断なんて無理だよ。期待されてる効果は短時間で定型的に
医師が見逃すかもしれない「疑い」を提示すること。
あなたはコンピュータの言うこと従ってりゃいい。
>>312
ねぇねぇ、なんでいまだ基幹電力に1wも貢献せず、町単位ごころか
番地単位で数日持つバッテリーもない状態で、かつ制御義務もない
自然電力発電にたいしてそのまま買い取りしてるのかな？
わかるかな？
瞬発的な発電量山ほどあるんだからむしろ事業所内の閉域で使った
方がいいのになんでそんなことするのかな？なんで何にも電気が
活かされてないところにお金出すのかな？
レベルを合わせ同期するのは人でも大変なんだよね。 何故誤診って答えられるかってんだ アホだからだろ
セックスお味も分からん奴に何できる >>314
312ですが正直何をおっしゃっているのかわかりません申し訳ありませんが私のレベルに合わせていただけませんか？
自然電力発電同様誤った政治判断で税金がムダに使われているってことでよろしいですか？ AIが出してくる答えはAが○％、Bが○％、C が○％って感じなので
確定判断は医者がするだろう 仕事を奪われるヤブ医者の、言い訳
誤診と発見の割合は？（笑） AIって詰まるところが、人間で言うところの「勘」だから
説明は元々むりだからな。 正規化だよ。
勘じゃないよ。
なぜ現実と違う概念を堂々と書いて説明する気になったのかについては、興味がある。 指摘されてるようにＡＩ診断とは直接関係なしに医者の仕事はどんどんマニュアル化してる
マニュアル診断ってのはディープラーニングとやらでＡＩ診断がやるのとは対照的に単純明快に説明可能なやり方ってことでＡＩにうといアナログ人間としてはこういうのこそ機械任せでいいじゃんと思うのだけれど
人間の医者がする診断でもベテランの勘に基づく言葉による説明が難しい判断ってのもあるはずでＡＩ診断ってのは機械にそれをやらせようってことかと思ってたんだけどそうじゃないの？ ＡＩを買い被りすぎ？ 買い被りというか、ものを考えて現実に可能なこと、
人に一般的に説明できるかどうかってことを考える
センスが決定的に欠けている。
山ほど言外の意味を込めたその文章に意味はない。 >>326
？？？
こないだと同じ人？
それこそ言外に込められた意味がまったくわからないんだけど？？？
とりあえず質問ひとつだけバカでもわかるようにお答えお願いします
｢ＡＩにそんなことできるわけないでしょうが｣という意味ではない？ マニュアル診断は機械には出来ない。
機械は人のありようを知らないし人の論理で学問を修めることは出来ない。
ベテランの勘は、xxが痛い人でxxが習慣になってる人はこう、とか。
または風邪と似た症状でここが張ってる人はこう、とか。
説明の根拠が乏しいだけで、何に着目したかは説明できることが殆ど。
AIは処理優先で何を特徴として捉えたかは答えられない実装があまは殆ど。
医療を知ってるか。AIを知ってるか。
まあ本質を知ってる人なら野暮な話だよね。 >>328
だいぶんわかりやすくはなりましたありがとうございます
でも結論がわかりません
この間私はＡＩ診断が人間の医者の診断を上回るようになったら人間の医者の仕事はＡＩのかわりに責任をとることってことにならないかと書き込んだらあなたに否定されました
｢医療とＡＩの本質を知っていればそんなことにならないことは明らかだ｣ということでよろしいですか？
さらに言うと｢医療とＡＩの本質からして これからは分からない。
いまのAIは統計を数学の統計とは違う視点で扱うもの。 >>329
途中送信すんません
さらに言うと｢なぜなら医療とＡＩの本質からしてＡＩ診断は人間を補助するものに留まらざるを得ないからだ｣ということでよろしいですか？ 医療には医療の良いところもあればこれから良くしていかなきゃいけないこともある。
いまのAIは人より遥かに優れたところもあれば人に全く及ばないところもある。
機械で人のやってきたことを置き換えるには様々な条件がある。
それを無視して人と機械を比較するのはただのばか。
さらに言うと、自分の理解と世の中で実現できるもの、自分でやれることやれないことを自分で判断できない人の言うことだよ。 AIに出来ること
検査データから
○○に機能障害があります
精密検査のために一度病院を受信してください AIでがんの疑いがある言われたら、それを調べるのが医師だろ
何言ってるの？あほか？ こんな記事かくなら、
20年も先行しているはずのAI漢字変換のことも
話題にしてくれ最近のはひどすぎる！ >>334
そうなんだけど定型化された定期検診データも揃っていないのがいまの状況。 >>336
学習型の自動処理をAIというとおかしいと言われるのが現状だ。
バカは自分がどれだけバカかわからないながらも色んなことを
非現実の妄想で決めつけこれは違うと断じようとする。 ＞「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
患者や家族などの理解が得られない恐れがある」
人間の場合は「それらしい」説明をするけどそれが正しいかどうかは微妙なところ。
安易な納得を求めず、誤診率の低下を目指す勇気があればＡＩ診療は十分に合理的だ。
将来的に人間より正診率が高くなるのは確実だからだ。 >>333
突然キレないでよ・・・ そっちの方がキチガイに見えちゃうよ？
>>332の前段はまったくもっともだと思いますし後段も一文目は同意ですけど
私がＡＩを買い被っていたとすればあなたは人間ないし人間の世の中を信用しすぎではないですか？
機械が手仕事に取って代わってきた歴史を見ればあるいは現代社会の機械特にコンピュータの使われ方を見れば人間の方が優れている部分があるのはもちろんのこと
総合的にみてまだ機械が手仕事を上回っていない段階であっても機械に取って代わられる恐れはあると思います
経済性その他機械仕事に切り替える方が望ましい理由がそうではない理由より優先されると考える者の手によって
世の中その方が望ましいという方向にはなかなか行かないでしょ？ 機械ができること機械に切り替えた方がいいけどその際はコストとリスクを考えなきゃいけない。
人が定型でできることが全て機械に置き換え可能なわけがない。
機械には機械の特徴があって人には人の特徴がある。
こういうこと理解できないなら根本的にダメだと思うけどね〜。 繰り返し診断させて正誤を医師がチェックしてデータを蓄積していけばいいだけだろ >>343
そうなんだけどいまは判断の根拠が定型化されてない。
病院言ったら医者が問診中にどうカルテを書いてるかみてみよう。
不可能な話じゃないしその方向性で結果は出てくると思うけど
道のりは近くない。実際IBMは実用化までの年数を毎年修正してる。 >>342
いやですからそういう正論でもってＡＩ診断の導入は(少なくともそれを主とすることは)よくないという反対があっても強行する者はあるだろうって話なんですが
機械の長所短所人間の長所短所はあっても総合的にみて人間と同等の能力がある機械に全て任せてしまうのでも十分問題なのにまだそのレベルにすらない機械を生き死にかかってる現場に投入されるって方が悪夢でしょう 例えば主訴が発熱の患者で
呼吸音 清 左右差なし
このデータをAIに提供する人はかなり責任重大だね 成長を否定するのが愚か者の特徴です。
赤ん坊の時に信用が確定するんですね。 >>346
例えば細菌性の判定。
内科でダルさや頭痛ときたら喉の腫れとリンパ腺の腫れは確認するけど、耳の張りなんかは、ベテランの医師が耳たぶ赤いとかリンパ腺見てる時に顔が赤いとかで気付いて、それから耳の中の腫れを検視筒で見ると言う具合。
最初から定型にない知見も盛り込めたら良いんだけど。
まあでも最低限は自治体の集団定期検診データと疾病データの照合だと思う。 >>346
身体診察の正確性は今以上に要求されるかもね。きちんと
背中側からもまんべんなく聞くとか。 良性腫瘍の疑いをありとあらゆる患者に持ってありとあらゆる患者に
全身のレントゲン取らせてもしょうがない。 >>348
でも胃内視鏡やら胸部ＣＴで癌を見つける際の画像診断の能力は現時点で人間とほぼ同等か上回ってたはずで
、将来的には視診やらスナップ診断の領域も人間を凌駕すると思う。皮膚がんの一部はすでにそうじゃなかったっけ？ >>350
人間には見逃したくないという恐れがあって、これが過剰な検査を
引き起こしている面があるけど、純粋に確率論に従うＡＩなら
むしろ検査は減るだろう。 CTやレントゲンの画像から患部を当てるのは
どのメーカーも実用化に成功してる。一定の
精度は出してるしこれから制度を上げていく
方法も確立しているよ。
画像判定は画像そのものと患部の場所をデータ
化していけばいいわけだから、人が作るデータは
一件で二つのみ。だから入力は簡単だ。
定型化されてない問診や定期検診データをもとに
数年先の疾病を予測するためのデータを作るとなると
一件で数千項目のデータ入力が必要になるよ。 >>352
そこまで行くのに莫大なデータ整理が必要という話。
あなたの検診および診察データによると、AIの分析では
こういう病気の可能性があります。来月はそこを確かめる
ために二枚レントゲンとってきてね、となればいいんだけど
それはまだまだこれからのお話。 >>354
他スレでデータがないからＡＩが動かないってのあるけど
医療系も同じこと言えるね。国が電カルの共通フォーマット用意して
医療機関に配布してビッグデータを収集・分析するとかやれば、
医療費は大幅に削減されるはずだから、やればいいのにね。 【３日、茅ヶ崎市長、死亡、５７歳】 サリンまいた奴が死刑なら、放射能まいてる奴も死刑にするべきだ
http://rosie.5ch.net/test/read.cgi/liveplus/1538706566/l50
いまグングン伸びてるスレ、総人口統計が証明した、大量被曝死の実態！ 画像でいうとMRIの三次元データから外科的な骨の状態解析ができれば
医療はかなり役に立つ。骨折はしたときからもうくっつき始める。
でもいまは例えば肩みたいに複合的な部位のときにすぐどこが折れたか
診断できない。MRIのデータ解析は専門家が少なく、解析専門の会社に
送って一週間が標準になっている。
最後までの治療計画はそこからじゃないと検討することができない。
当日固定すれば大袈裟になることもない場合もあるのに。 >>355
それは医療前提の課題ではある。
でも問診カルテはまだまだ定型化するわけにはいかないと思う。
いまは医療そのものが医師の診察時の知見やテクニックに依存
している状態だから。
最初にできることとしては、学校、役所、自治体、企業の順で、
それらが主体となっている定期検診の情報を最大公約数の部分
だけでいいから同じフォーマットで保存していくことだと思う。 医療前提じゃねーや、医療全体の、いまの課題だと思う。 >>358
検診って９割以上は健康な人々のデータ集めるだけだから、
疾患と紐づけされないとあまり意味ないと思うな。
あと保険病名とかも真の疾患名を曖昧にするから
無くした方がいいと思う。
まーなんつーか、やっぱ日本はアメリカの後塵を拝することに
なりそうだわ。up to dateよろしく外資がもってくるＡＩやらソフトを
利用し続けることになりそう。 でもMRIがすぐ解析できなくてもいいこともある。
俺が10年前に足首をやったときは、東京都のERで若い
女医が俺の足首を小さな胸に押し当てて、両手で足を
引き寄せ、必死にガチガチの固定をしてくれた。
後日なんともなかったんだけあの感触は素晴らしかった。 治療しても長生きして貢献しないので生きる価値がない。
だから治療中断ね。というＡＩの良心です。 >>360
んで医療の現場もアメリカに合わせるってことか、、、
それちょっとわからない。昔はカルテをドイツ語で書いてた
人がいたけどいまは日本語だし。現場がどう判断するかは
読みにくい。AIはともかくレセプトシステムは日本は結構
いいもの作ってるよ。運用もどこの医院も慣れたものだし、
それを一気に違うものに置き換えることできないと思う。 結局は人工知能とか言いつつ何も考えてないからに尽きる
要は単なる高性能検索システムに過ぎないということ
AIが人間の仕事を奪うとか当分ないことだから安心するこったな
ガンですら何十年と渡って研究しても未だ解決できていないのに
人間の脳なら模倣できるとか、根拠不明の戯言なんだよ あと脳の模倣はまだまだできないよ。
いまのAIは脳細胞の機能の一部を模倣してるけど使われ方は脳とは違うよ。
脳の構造を模した仕掛けはまだまだできないよ。 AI「あなたにはSSMの傾向が疑われます。幸福薬を処方します。」 ドローンも、自動運転も、日本じゃどうにもならん。
AIで失われる命の数だけ数えて、救われる命の数なんて数えないんだろ。 >>364
人間の脳をマネするのは愚の骨頂。人間には様々な
認知バイアスがあり、これが誤診につながっているのは
よく知られている。検索という行為は決して侮ることはできず、
診断アルゴリズムがあるビッグデータを参照し、疾患に特徴的な
データを自ら見つけ出して、新たに診断基準に加えることも
将来的には普通になるだろう。
いかに早く人間的な思考から脱するかが技術的進歩には不可欠だ。 >>369
まぁそうなんだよね。日本国内に情報技術の革新者となるような
企業も政府組織もないから。医師も失職する恐れが高まるから乗り気で
ないし。アメリカとか中国がフロンティアを開拓するのを
我々は眺めているだけになるだろう。 例えば検査機器だって誤差があってそれで誤検診になることだってあって、それはそういう風に患者に説明するわけでしょ
それと一緒でいいじゃん >>364
「AIは何も考えていない」とか、そんなんどうでもいいんだよ
AIが例えちょっと高級な電卓でしかなくても、それで実際に作業が進むなら
その分だけ不要な人間はクビになる
AIが人間をクビにするのに、別に人間より優れている必要は全く無い えっまだAIが人みたいなことができるものとして考えてる人がいるの？ ＡＩ診断でも人による診断でも｢〜の疑いあり要精密検査｣と言われて精密検査の結果異常なしなら普通問題にならない
問題になるのは異常なしと診断した後異常が発覚した場合なわけだけど
ＡＩ診断を後から精査した結果異常なしとしたのは誤診だったと明らかになるのであれば人が診断していればわかったはずだということになるの？ >>ＡＩ診断を後から精査した結果異常なしとしたのは誤診だったと明らかになるのであれば人が診断していればわかったはずだということになるの？
主語を書きなさい。
あと一文で数文の内容を詰め込まないように。
正直、何の意味かわからないよ。 >>377
主語？ ｢誤診だと｣わかったはずだということになるの？かな？ これは主語じゃないと思うけど
｢精査｣までしなくても人がチェックすればすぐわかるような誤診なら初めからチェックしとけＡＩじゃなく人のミスというか手抜きだろってことになりそうだし
逆に精査しなければわからないようなものなら結果がわかった後からの目線だからわかるようなもんであって今後の診断に生かすべき情報ではあっても誤診というのは厳しいような…
文字どおり｢ＡＩが誤診した｣とわかりやすく認定できるケースというのがどういうケースなのかイメージできない >>29
おお、いいねぇ。健康保険に負担もかからないし
医療関係者も糞の相手をしなくて済む ＡＩ診断「異常なし」→後に異常発覚→事後的に人がＡＩ診断をチェック→あっさりと(わかりやすい)誤診を発見・・・という流れなら初めからチェックしとけ人のミスっていうか手抜きだろってことにならない？
ＡＩ診断「異常なし」→後に異常発覚→事後的に人が精査「結果から逆算して考えるにこの検査数値が異常の兆候であった可能性がある」・・・これはＡＩが誤診したと言えるのか？
ＡＩが誤診というのはどちらのケースが想定されているんだろう？
前者？ 後者？ 他に？
これでどうでしょうか >>382
どうでしょうかって、あんた医療もAIも知らないじゃんw >>383
知らないから質問してるんですよ
質問したら質問の文意がわからないと言われたから書き直してみましたけどこれでわかっていただけますか？ って意味です ■ このスレッドは過去ログ倉庫に格納されています
