【人工知能】「AIがなぜ誤診」、患者に説明できない恐れも ブラックボックス化で、総務省研究所が報告書公表［07/20］
■ このスレッドは過去ログ倉庫に格納されています
総務省情報通信政策研究所は、AIのネットワーク化に関する報告書を公表した。
有識者会議が取りまとめたもので、医療診断などで想定される便益や課題を提示。AIの誤診で患者の症状が悪化した場合、
ブラックボックス化されていて判断の経緯などを説明できないと、
患者やその家族らの理解が得られない恐れがあることを挙げている。
この報告書は、「AIネットワーク社会推進会議」（議長＝須藤修・東大大学院情報学環教授）が取りまとめたもので、
さまざまな分野でAIが活用されることを想定し、
AIのネットワーク化が社会・経済にもたらす影響の評価を行った上で課題を整理した。
医療診断については、AIによる画像診断で病気の早期発見や見落としの改善につながるほか、
医師の負担が軽減されることを指摘。遠隔診断で専門医のいない地域でも適切な診断を受けられるようになり、
「医師不足・偏在などの問題の解決に貢献できるようになる」と予測している。
その一方で、想定される課題も挙げている。AIの誤診によって適切な治療が行われず、患者の症状が悪化した場合、
「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
患者や家族などの理解が得られない恐れがある」としている。
また、AIがハッキングの被害に遭い、患者の医療データが流出するケースも想定。
ネットワークを介して他のAIシステムとデータが共有されたり、
さまざまなデータが統合されたりすることで個人が特定され、重大なプライバシーの侵害につながる恐れがあるとしている。
https://www.cbnews.jp/20180720/20180719ai001.jpg
https://www.cbnews.jp/news/entry/20180719200753 それはブラックボックス化してる企業の責任になるんじゃね？
完全自動運転でもメーカーに事故責任が来るんだったら
現場の運転手や医療機械取扱主任者に罪は無いよ 人間が誤診しても患者に説明しないから、AIなりの忖度と見れば納得。 >>29
ところがまた日本人の平均寿命が延びたらしいぞ
日本の医者はダメダメなんじゃないのかね？ 用意したデータに誤診の例が正解として入っていたからだろ。それも，結構な割合で。 これは医療に限らずこうなるよ。
結局ね、話を聞くのは人間よ。
人間はそんなに賢くないのよ。
感情とか、その人のもってる知識とか、理解力とか、
話をする側は、同じ話でも相手の表情を見ながら言い方を変えるものなのよ。
ＡＩは万能じゃないよ。 >>13
「第N層のNo.XXXXニューロンが発火したからです。
この原因は、第N-1層のNo.AAA,BBB,CCCニューロンが発火したからで、
その原因は、（以下、延々と続く）」
とか言われてもね。 AIは医者じゃないんだから診療行為をさせたらダメだろ
まず医師免許取らせてから 処理結果を人間に丸投げ問題
自動運転でも問題になってるがやっぱほかの分野でも出るんだな アホだろ
人が診断
AIが診断
再度人が診断
これ以外ないだろう >>2他、まったくだな
そもそも、万一誤診があってもそれを繰り入れて学習させる、少なくとも特別例として「この系統のデータには注意するように」と付加しておく、
それを世界中で共有する、精度がどんどん高くなっていくだろ
100％安全ではないから大危険であーる、厳重注意注意！不効率不効率！ワー それを指摘できるわれわれは物を深く知っていて知的で優秀であーる
まあこれは「あえて課題として危険性を報告する」かも知れないがな AIなんて所詮は人が作ったプログラム。
プログラム通りにしか動かない。
そして必ずバグがある。信用できないという事 >「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
患者や家族などの理解が得られない恐れがある」
↑
これ要は裁判の時の言い訳が起ちませんってことだよね？
ってか、AIに説明付きで診察させりゃ済む話では？ >>43
ムリムリ、所詮は仕込んだ通りにしか動かないプログラムなんだから 誤診というか確率でしか出ないからな
確率である限りどの病気でもありうるわけで 要約すると、ＡＩを作っている企業は厚労省の官僚の天下りを受け入れないと、
お前の企業に不利な法律を作っちゃうぞってことでしょ 人間の診断も結構いい加減だぞ
誤診の経緯も説明なんかしないよｗ 医師の判断に添付する形でAIによるセカンドオピニオンをつけときゃいいんじゃないの？
ほかの医者に聞くのと違い、推論元となる検査データおくればすぐ結果がでてくるもんだしね。
>>43
AIの判断基準は人間相手には説明できないレベルにある。
非常にたくさんのデータ(画像含む）を食わせて、こういう傾向の人たちにはこういう病気の人たちが多かったとか、そういうものの複合的なもの。 医者が診断しようがAIが診断しようが放置しようが
問題なのは誰が責任を負うか
AIが誤診しました、誰も責任取りません、じゃ困る なぜそのような診断をしたのか？
企業秘密ですのでお答えしかねます。 AIの誤診心配する前に人間の見逃したや経験不足による誤診を心配したら？w 「コンピュータの故障で」といえば許される
みたいな感じで
「ＡＩが誤診を起こしたので」といえば許される
みたいな風潮になったりしてな 途中過程を参照出来るようにすればいいんじゃないか
少なくとも異常個所の指摘があれば、医者の方で判断できるだろ >>50
責任取ると何か面白いことあるの？ いいことあるの？
今の医療トレンドは統計ベース
統計駆動なのはAIと呼ばれているコードも同じ
アルゴリズム同じなのだからその時代の医療の実力不足と結果は変わらないよね 命に関わらないだけで、
医者の誤診とか日常茶飯事やん
問診で聞かれた内容で、大丈夫かなぁって思って
貰った薬見て、ダメだこの医者
って素人の俺が分かる様な誤診に2回遭遇してる。
そのレベルでアイツら適当な事やってるだよ
ちゃんと学習させたAIの方がマシに決まってる ＡＩ「うちの会員になると誤診率は１/１０になりますがいかがされますか？ そもそも
医者は責任回避すんだろうが!!
まだＡＩの方が誤診の素直な報告してくれそう >>13
ＡＩ「対価を払わなければ正しい答えを教えないのがその次の世代 >>14
「我々は貴方の知能では理解できないことを知っています。説明は以上です。 一番の危険は、
病気で無いのに、病気として、
薬漬けになることだよ。
これが最も可能性高いと思うね。
今だってそういう医者多いし。
AIが病気として判断したら、
その判断に疑問を出せる奴がいるのだろうか？ >>57
責任があるから医療事故で裁判になったりするんだよ
伊達に六年も勉強しなきゃなれない職業ではない >>64
そもそも病気でないってどうやって判断するの？ >>29
チョンやろう。日本が嫌いなら出ていけよ。 AIに根拠をテキストで吐き出すように作ればええやん >>!
あーその前に、転売している時点で、医学もくそもないだろ
保険証なんか、プラスチックで、油性で書いても消えるし
とっくの昔に、家庭科の教科書に載っているような、社会はない
金を対価にゆすりとる
患者との身分を天秤にかけて、薬を決める
あーとっくに滅びとるわ
こんな、制度。
人間の特徴１
すぐ増える
たかだかこんだけだ。技術も金に変わるし
言葉に自分の意思もない
こんなんで、ＡＩが、まともに診断できるわけないじゃん。かわいそうに。。。 ＞ブラックボックス化
こういうのは的中率で価格が決まるんだろうな
安価なやつだと病名のルーレットで決めるとか。 >>69
こういう安いバグまみれのAIが市場に出てくるのか… 受診する時、最初に承諾書を取ればいいだろ
ＡＩを利用することを了解する
嫌ならＡＩを使わない診療だけ受ければいい >>2
医者がちゃんと検査？
だったらAIの意味がないだろ。 > 「なぜ誤診したのか、AIがどのような判断をしたのか説明できないと、
> 患者や家族などの理解が得られない恐れがある」としている。
そもそもAI診断て結果だけで診断の根拠は出さないのか？ >>74
「統計上、このパターンは○○の症例の確率が何％、××の確率が何％」
っていう説明しか出てこないよ。
患者が納得できようができなかろうが、AIはそういう説明しか出せない。そうやって判断してるから。 統計に例外はつきもの
こういうのは保険で解決するより仕方ないよ 画像診断しかAIの使い道なくね？
画像診断にブラックボックスもくそもねーだろ
問診は無理じゃね？
人間の自己申告の曖昧さを舐めるな 現状でも診断を下した医師の脳内思考回路はブラックボックスじゃね？ AI後進国で予算が2桁少ない国の機関が指摘したところで
参考にならないし、誰でも思いつくことしか言ってない。 ＡＩが間違うような例外的なものを医者なら正しく診断できるってわけでもないんでしょ？ 人間と同じように学習させるとAIも人間と同じように失敗する その前にガイドラインを作れ、クソ役人
何かあった時の責任の所在を決めるところから始めるなんざ
無能無責任の役人らしい話題だ AIがメインではなく人間の医者がメインでAIをツールとして使えばいいだけだろ。
サッカーのVARみたいなもんで。
結局は責任を負うのは人間なんだから。
自動運転の車が事故を起こしたって車が刑罰を受けるわけじゃないしな。 AIが居たら医者要らずになるから圧力があったのかな？ >>81
ところがAIが間違えるときはあからさまなミスをする なぜAIのみで考えるんだ
AIの判断を医者の判断の補助として使うことで誤診率が下がったり診断の精度が上がるのと、同じコストでより多くの医療活動ができるよになることで医療費の抑制になるじゃないか AIが狂ったとかいって足切断とかされたらたまらんぞ 誤診が確率で起こるなら三台同時に診断させるという手もあるな
一台でも違う診断が出たら人間が再診断と そもそもどうやって診断してるのかを説明・報道しろよ・・ >>90
診療科目ごとの説明が欲しいなら分野ごとに医書買ってきな >>92
そうすぐに簡単な累計にすがって記事すら読まない人ばかり。
それで科学ってこうなんだと固く信じて自分の認知異常なんて露ほども疑わない人ばかりなのが不思議だよね、この板。 あれ？AIに責任ごと丸投げできないなら導入する意味ないじゃんｗ
人間いつかは死ぬんだし、早いか遅いかの違いだけだし 人間は誤診する
AIは誤診する
じゃあAIでいいな ＡＩに、言い訳・・・・誤りの理由の説明と謝罪の機能を搭載すれば良いわけだね AIに説明機能持たせると、論文の間違いとか捏造が次々と発覚したりして。 まだ生きてるのに臨終宣告して、あとからヘラヘラ笑いながら「誤診じゃよｗ」とか言っちゃう名医（自称）だっているわけだし 診断精度が人間を上回れば理由が説明できなくても患者にとっては何ら問題ないだろ。
誤診理由が分からなくて困るのは診断AIの開発やってる人間であって患者ではない。 >>18
自己責任で選ぶことになるだろう。
名医も歳を取るとミスするし、
ＡＩ化もひとつの方法だよ。
診断する方法の選択肢が広がるのは
基本的には良いと思う。 もちろん医療費が劇的に安いAI診療の方を選ぶよ
待ち時間無しの24時間診療になるだろうし 正確な判定が欲しいなら、患者をミンチにしてAIの入力に流し込めよ AIに診断させるとしてもブラックボックスにしなくて良いだろ、診断の根拠をセットで示してやれば医者にとっても判断のサポートとして優秀な助手にこそなれ邪魔にはならない AI診断自体が完成していないのにAIに任せようとするのがおかしい
AIを使う医者が他の医者の三倍の患者数みれるようになれば充分成功なのに 人間自体が不完全で未完成なものなのに人間に任せるのはおかしい 阿呆か。
使いこなせよ。
それぐらいのおつむはあるやろ。 AI は正しい答えを表示した
理由 間違った計算通り実行しただけ データ蓄積解析の結果にすぎないのでなぜそうなっているのか、AI自身も説明できないから、そういうもんだと患者に納得してもらうしかない。 >>64
実際問題としてAIに確定診断させるのが常態化したら、薬漬け以前に検査漬けにはなるだろうな。
風邪みたいな症状というだけだと該当する病気は無数に出てくるわけで、血液検査や画像撮影なんかまで加えないと確定はできない。 膨大な診断結果を教師データに機械学習しただけだろ？
AIが自分で考えて導き出したわけでなく
人間の診断を基にしただけ
というか機械学習をAIと呼ぶ風潮やめにしてくれないか？ >>113
じゃあなにがAIなの？
「あなたの中では」 >>115
どこで売ってるの？
誰がいま使って／作ってるの？ >>1
AIに誤診されたら、人類の叡智も及ばなかったかと納得するが
ヤブ医者に誤診されたら納得できないわw >>73
過程を簡易化できるメリットはあるんじゃね？ つーか、ポイントをチェックできないと何をもとに正しく判断したかがわからんわな お告げというか神託みたいに受けとるようになるんだろうな 所詮、AIは単なるツールなんだから、それだけに判断を委ねるとかアホだろ(笑)
ポイントポイントでどういう過程で判断したのかを可視化して、問題ないかチェックできる方向にするのが正しい えーとあれだ、タイプの異なる3種類のAIに診断させて多数決で病名を決めなさい >>112
検査漬けというのが医療としてあるべき姿だと思うね。 AIが誤診しても見抜けない医者は
もしかして、裏口入学等で不正に医者になった「なんちゃって医者」かもな
AIはあくまでも道具だよ 過去の症例を学習しての診断結果だから
検査結果と診断結果を結びつけるのは医者にとって容易なんじゃないかな
懸念すべきなのは誤った診断結果でも検査結果と結びつけられることがあることで
先に答えを与えられるとそれを前提に判断過程を作り上げてしまいかねない
あと基本的な見落としは減るかもしれないが
症例の少ない病気は見落としというか候補として上がってこない可能性もありそうだな マイナー疾患を鑑別にあげてくれるとか、見逃しチェックには有能そうだけど、そんなに劇的に変わるとは思えないな。 ■ このスレッドは過去ログ倉庫に格納されています
