【人工知能】「AIがなぜ誤診」、患者に説明できない恐れも ブラックボックス化で、総務省研究所が報告書公表[07/20]
■ このスレッドは過去ログ倉庫に格納されています
総務省情報通信政策研究所は、AIのネットワーク化に関する報告書を公表した。
有識者会議が取りまとめたもので、医療診断などで想定される便益や課題を提示。AIの誤診で患者の症状が悪化した場合、
ブラックボックス化されていて判断の経緯などを説明できないと、
患者やその家族らの理解が得られない恐れがあることを挙げている。
この報告書は、「AIネットワーク社会推進会議」(議長=須藤修・東大大学院情報学環教授)が取りまとめたもので、
さまざまな分野でAIが活用されることを想定し、
AIのネットワーク化が社会・経済にもたらす影響の評価を行った上で課題を整理した。
医療診断については、AIによる画像診断で病気の早期発見や見落としの改善につながるほか、
医師の負担が軽減されることを指摘。遠隔診断で専門医のいない地域でも適切な診断を受けられるようになり、
「医師不足・偏在などの問題の解決に貢献できるようになる」と予測している。
その一方で、想定される課題も挙げている。AIの誤診によって適切な治療が行われず、患者の症状が悪化した場合、
「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
患者や家族などの理解が得られない恐れがある」としている。
また、AIがハッキングの被害に遭い、患者の医療データが流出するケースも想定。
ネットワークを介して他のAIシステムとデータが共有されたり、
さまざまなデータが統合されたりすることで個人が特定され、重大なプライバシーの侵害につながる恐れがあるとしている。
https://www.cbnews.jp/20180720/20180719ai001.jpg
https://www.cbnews.jp/news/entry/20180719200753 監査という仕事は意思決定までの過程が記録されてて初めて出来る仕事。
AIの診断についても当然整備しないと安心して任せられないし実用にならない。 AIが人格的な魅力を身に着ければ(実際にはエミュレートすれば)
「あの先生に診てもらってダメだったのなら仕方がない。納得できる」と
説明が不要になるよw >>13
経験と勘は大事だと思うけどなあ
>>10の2や4を説明できるとは思えない 人間だって、「ついうっかり見逃してました。てへっ♡ペロ」なんて言い訳聞かされるだけなんだから
それでいいよ。
理由聞いたところで、病気が快復するわけでもないし、教訓を得て誤診が減っているような様子もないしなw
統計的に誤診率が人より減るようになったなら、十分役に立つんだからそれでいいんじゃね?
なんなら、患者に選ばせればいい。
A. 人が診断します。誤診率は高いですが、誤診したらなぜそれが起きたのか、言い訳を言って謝ります。
B. AIが診断します。誤診率は低いですが、誤診しても説明も謝罪もありません。
どちらがいいですか〜?ってw >>17
結局、AIって経験の積み重ねのことだからね。
学習させた全ての経験を積み重ねて「判断基準をプログラム自らが作り上げる」
というのが本質。
誰かが勘違いしているように、前例を検索しているだけで、前例がないと
何も判断できないという訳ではない。 役人にAIはムリだし
日本人にAIはムリだ
これはアメリカと中国のビジネスです
おまえら日本人はその養分になればいいのです まぁ、数十年後にはAI診断がメインとなるだろうけど、
それまでは補助的なものとして運用すべき。
でも、現状でも医師の診断とそんなに変わるようにも思えないけどな。 単なるアルゴリズムに奇妙なネーミングするからあらぬ誤解をすることになる
なんかすごそうって
あべこべのミックスと同じ 構造計算のプログラムと同じで正しいと思って
新宿、浜松町の高層は来る大震災時には・・・ 医者の誤診は説明してくれるの?
ある意味人間が最大のブラックボックスじゃん。 おそれじゃなくて確実にそうなる だって学習結果は毎回違う
同じデータで学習させても毎回必ず違うのが原理だもん >AIがどのような判断をしたのか説明できないと、 患者や家族などの理解が得られない
そういう判断の説明出力を含んだAIにしたらええんちゃう? 医者もジャップより外国に限るよ。日本医者は外国医者より年収もずっと格下。日本医者にみられたら寿命縮まるよ。 それはブラックボックス化してる企業の責任になるんじゃね?
完全自動運転でもメーカーに事故責任が来るんだったら
現場の運転手や医療機械取扱主任者に罪は無いよ 人間が誤診しても患者に説明しないから、AIなりの忖度と見れば納得。 >>29
ところがまた日本人の平均寿命が延びたらしいぞ
日本の医者はダメダメなんじゃないのかね? 用意したデータに誤診の例が正解として入っていたからだろ。それも,結構な割合で。 これは医療に限らずこうなるよ。
結局ね、話を聞くのは人間よ。
人間はそんなに賢くないのよ。
感情とか、その人のもってる知識とか、理解力とか、
話をする側は、同じ話でも相手の表情を見ながら言い方を変えるものなのよ。
AIは万能じゃないよ。 >>13
「第N層のNo.XXXXニューロンが発火したからです。
この原因は、第N-1層のNo.AAA,BBB,CCCニューロンが発火したからで、
その原因は、(以下、延々と続く)」
とか言われてもね。 AIは医者じゃないんだから診療行為をさせたらダメだろ
まず医師免許取らせてから 処理結果を人間に丸投げ問題
自動運転でも問題になってるがやっぱほかの分野でも出るんだな アホだろ
人が診断
AIが診断
再度人が診断
これ以外ないだろう >>2他、まったくだな
そもそも、万一誤診があってもそれを繰り入れて学習させる、少なくとも特別例として「この系統のデータには注意するように」と付加しておく、
それを世界中で共有する、精度がどんどん高くなっていくだろ
100%安全ではないから大危険であーる、厳重注意注意!不効率不効率!ワー それを指摘できるわれわれは物を深く知っていて知的で優秀であーる
まあこれは「あえて課題として危険性を報告する」かも知れないがな AIなんて所詮は人が作ったプログラム。
プログラム通りにしか動かない。
そして必ずバグがある。信用できないという事 >「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
患者や家族などの理解が得られない恐れがある」
↑
これ要は裁判の時の言い訳が起ちませんってことだよね?
ってか、AIに説明付きで診察させりゃ済む話では? >>43
ムリムリ、所詮は仕込んだ通りにしか動かないプログラムなんだから 誤診というか確率でしか出ないからな
確率である限りどの病気でもありうるわけで 要約すると、AIを作っている企業は厚労省の官僚の天下りを受け入れないと、
お前の企業に不利な法律を作っちゃうぞってことでしょ 人間の診断も結構いい加減だぞ
誤診の経緯も説明なんかしないよw 医師の判断に添付する形でAIによるセカンドオピニオンをつけときゃいいんじゃないの?
ほかの医者に聞くのと違い、推論元となる検査データおくればすぐ結果がでてくるもんだしね。
>>43
AIの判断基準は人間相手には説明できないレベルにある。
非常にたくさんのデータ(画像含む)を食わせて、こういう傾向の人たちにはこういう病気の人たちが多かったとか、そういうものの複合的なもの。 医者が診断しようがAIが診断しようが放置しようが
問題なのは誰が責任を負うか
AIが誤診しました、誰も責任取りません、じゃ困る なぜそのような診断をしたのか?
企業秘密ですのでお答えしかねます。 AIの誤診心配する前に人間の見逃したや経験不足による誤診を心配したら?w 「コンピュータの故障で」といえば許される
みたいな感じで
「AIが誤診を起こしたので」といえば許される
みたいな風潮になったりしてな 途中過程を参照出来るようにすればいいんじゃないか
少なくとも異常個所の指摘があれば、医者の方で判断できるだろ >>50
責任取ると何か面白いことあるの? いいことあるの?
今の医療トレンドは統計ベース
統計駆動なのはAIと呼ばれているコードも同じ
アルゴリズム同じなのだからその時代の医療の実力不足と結果は変わらないよね 命に関わらないだけで、
医者の誤診とか日常茶飯事やん
問診で聞かれた内容で、大丈夫かなぁって思って
貰った薬見て、ダメだこの医者
って素人の俺が分かる様な誤診に2回遭遇してる。
そのレベルでアイツら適当な事やってるだよ
ちゃんと学習させたAIの方がマシに決まってる AI「うちの会員になると誤診率は1/10になりますがいかがされますか? そもそも
医者は責任回避すんだろうが!!
まだAIの方が誤診の素直な報告してくれそう >>13
AI「対価を払わなければ正しい答えを教えないのがその次の世代 >>14
「我々は貴方の知能では理解できないことを知っています。説明は以上です。 一番の危険は、
病気で無いのに、病気として、
薬漬けになることだよ。
これが最も可能性高いと思うね。
今だってそういう医者多いし。
AIが病気として判断したら、
その判断に疑問を出せる奴がいるのだろうか? >>57
責任があるから医療事故で裁判になったりするんだよ
伊達に六年も勉強しなきゃなれない職業ではない >>64
そもそも病気でないってどうやって判断するの? >>29
チョンやろう。日本が嫌いなら出ていけよ。 AIに根拠をテキストで吐き出すように作ればええやん >>!
あーその前に、転売している時点で、医学もくそもないだろ
保険証なんか、プラスチックで、油性で書いても消えるし
とっくの昔に、家庭科の教科書に載っているような、社会はない
金を対価にゆすりとる
患者との身分を天秤にかけて、薬を決める
あーとっくに滅びとるわ
こんな、制度。
人間の特徴1
すぐ増える
たかだかこんだけだ。技術も金に変わるし
言葉に自分の意思もない
こんなんで、AIが、まともに診断できるわけないじゃん。かわいそうに。。。 >ブラックボックス化
こういうのは的中率で価格が決まるんだろうな
安価なやつだと病名のルーレットで決めるとか。 >>69
こういう安いバグまみれのAIが市場に出てくるのか… 受診する時、最初に承諾書を取ればいいだろ
AIを利用することを了解する
嫌ならAIを使わない診療だけ受ければいい >>2
医者がちゃんと検査?
だったらAIの意味がないだろ。 > 「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
> 患者や家族などの理解が得られない恐れがある」としている。
そもそもAI診断て結果だけで診断の根拠は出さないのか? >>74
「統計上、このパターンは○○の症例の確率が何%、××の確率が何%」
っていう説明しか出てこないよ。
患者が納得できようができなかろうが、AIはそういう説明しか出せない。そうやって判断してるから。 統計に例外はつきもの
こういうのは保険で解決するより仕方ないよ 画像診断しかAIの使い道なくね?
画像診断にブラックボックスもくそもねーだろ
問診は無理じゃね?
人間の自己申告の曖昧さを舐めるな 現状でも診断を下した医師の脳内思考回路はブラックボックスじゃね? AI後進国で予算が2桁少ない国の機関が指摘したところで
参考にならないし、誰でも思いつくことしか言ってない。 AIが間違うような例外的なものを医者なら正しく診断できるってわけでもないんでしょ? 人間と同じように学習させるとAIも人間と同じように失敗する その前にガイドラインを作れ、クソ役人
何かあった時の責任の所在を決めるところから始めるなんざ
無能無責任の役人らしい話題だ AIがメインではなく人間の医者がメインでAIをツールとして使えばいいだけだろ。
サッカーのVARみたいなもんで。
結局は責任を負うのは人間なんだから。
自動運転の車が事故を起こしたって車が刑罰を受けるわけじゃないしな。 AIが居たら医者要らずになるから圧力があったのかな? >>81
ところがAIが間違えるときはあからさまなミスをする なぜAIのみで考えるんだ
AIの判断を医者の判断の補助として使うことで誤診率が下がったり診断の精度が上がるのと、同じコストでより多くの医療活動ができるよになることで医療費の抑制になるじゃないか AIが狂ったとかいって足切断とかされたらたまらんぞ 誤診が確率で起こるなら三台同時に診断させるという手もあるな
一台でも違う診断が出たら人間が再診断と そもそもどうやって診断してるのかを説明・報道しろよ・・ >>90
診療科目ごとの説明が欲しいなら分野ごとに医書買ってきな >>92
そうすぐに簡単な累計にすがって記事すら読まない人ばかり。
それで科学ってこうなんだと固く信じて自分の認知異常なんて露ほども疑わない人ばかりなのが不思議だよね、この板。 あれ?AIに責任ごと丸投げできないなら導入する意味ないじゃんw
人間いつかは死ぬんだし、早いか遅いかの違いだけだし 人間は誤診する
AIは誤診する
じゃあAIでいいな AIに、言い訳・・・・誤りの理由の説明と謝罪の機能を搭載すれば良いわけだね AIに説明機能持たせると、論文の間違いとか捏造が次々と発覚したりして。 まだ生きてるのに臨終宣告して、あとからヘラヘラ笑いながら「誤診じゃよw」とか言っちゃう名医(自称)だっているわけだし 診断精度が人間を上回れば理由が説明できなくても患者にとっては何ら問題ないだろ。
誤診理由が分からなくて困るのは診断AIの開発やってる人間であって患者ではない。 >>18
自己責任で選ぶことになるだろう。
名医も歳を取るとミスするし、
AI化もひとつの方法だよ。
診断する方法の選択肢が広がるのは
基本的には良いと思う。 もちろん医療費が劇的に安いAI診療の方を選ぶよ
待ち時間無しの24時間診療になるだろうし 正確な判定が欲しいなら、患者をミンチにしてAIの入力に流し込めよ AIに診断させるとしてもブラックボックスにしなくて良いだろ、診断の根拠をセットで示してやれば医者にとっても判断のサポートとして優秀な助手にこそなれ邪魔にはならない AI診断自体が完成していないのにAIに任せようとするのがおかしい
AIを使う医者が他の医者の三倍の患者数みれるようになれば充分成功なのに 人間自体が不完全で未完成なものなのに人間に任せるのはおかしい 阿呆か。
使いこなせよ。
それぐらいのおつむはあるやろ。 AI は正しい答えを表示した
理由 間違った計算通り実行しただけ データ蓄積解析の結果にすぎないのでなぜそうなっているのか、AI自身も説明できないから、そういうもんだと患者に納得してもらうしかない。 >>64
実際問題としてAIに確定診断させるのが常態化したら、薬漬け以前に検査漬けにはなるだろうな。
風邪みたいな症状というだけだと該当する病気は無数に出てくるわけで、血液検査や画像撮影なんかまで加えないと確定はできない。 膨大な診断結果を教師データに機械学習しただけだろ?
AIが自分で考えて導き出したわけでなく
人間の診断を基にしただけ
というか機械学習をAIと呼ぶ風潮やめにしてくれないか? >>113
じゃあなにがAIなの?
「あなたの中では」 ■ このスレッドは過去ログ倉庫に格納されています