「顔写真で自閉症を判別」　AI講座受講者がアプリ公開し物議……　講座運営企業が謝罪　「倫理的に懸念」 [すらいむ★]

**すらいむ ★** · 2024/08/07(水) 22:37:25.82

「顔写真で自閉症を判別」　AI講座受講者がアプリ公開し物議……　講座運営企業が謝罪　「倫理的に懸念」

　IT企業のアイデミーは8月7日、同社のAIアプリ開発講座受講者が、講座の一環で「顔写真から自閉症を判別するWebアプリ」を公開し物議を醸した件について謝罪しました。

　物議を醸したのはアイデミーが提供する講座「Aidemy Premium」の受講者によるブログとアプリ。
　当該の受講者は講座の成果物として、顔写真から自閉症を識別するとするWebアプリを開発。
　受講修了要件を満たすためとして、アプリを公開し、開発の過程などを記載したブログを公開していました（その後アプリは非公開になりブログは削除）。

（以下略、続きはソースでご確認ください）

ねとらぼ　8/7(水) 21:35
https://news.yahoo.co.jp/articles/d7b04b2596e02a3db0c6915b4e2d94c9e93499b7

**名無しのひみつ** · 2024/08/07(水) 22:42:14.36

どういう倫理でダメなんだろう。
自閉症の人が訪ねてきたら
適切な対応ができるだろうに。

**名無しのひみつ** · 2024/08/07(水) 22:44:55.20

自閉症の人たちの顔写真データがあるの？

**名無しのひみつ** · 2024/08/07(水) 22:51:42.14

こんなん警察だってロリコン顔とか判定してるだろが

**名無しのひみつ** · 2024/08/07(水) 23:14:38.20

>>1

一昔前の血液型B型差別テレビ番組を本気にするバカもいたからな。
科学的最低限の教養も知らんアホが暴走するかもしれないし。

**名無しのひみつ** · 2024/08/08(木) 00:38:26.52

データセットがあれば学習はさせられるだろうけど、
学習に使ったのと別のデータセットを持ってきて、それを正しく判別できなければ失敗になるわけだが、
「医学的根拠は現状ない」と言っているあたり、そういう検証まではしてなさそう。

**名無しのひみつ** · 2024/08/08(木) 05:05:30.85

どこぞの王侯貴族がクソ握り締めて叫ぶからやろ

「朕は東大に行きたいぞよ」
↑このダウン症一匹のせいで東大農学部の枠が一席減らされるんやぞ

**名無しのひみつ** · 2024/08/08(木) 05:07:23.47

やっぱ人は見た目で判断できるんだね

**名無しのひみつ** · 2024/08/08(木) 06:26:33.20

表情筋を鍛えている自閉症がいたらどうなんだろｗ

**名無しのひみつ** · 2024/08/08(木) 07:02:58.59

倫理的懸念なんかクソどうでもいいけど、これ技術的懸念だな
医学的根拠に基づいていない結果なのに医学的用語を使って判断している事が大問題
AI自体は統計的にしっかりしてるのに、教える側のデータ検証に技術な不備がある

**名無しのひみつ** · 2024/08/08(木) 08:10:03.88

>>6
しょせんプログラム学習用の演習課題だからね
アルゴリズムの流れに引っ掛かりがなければ、実行結果の妥当性は問題にならない

そんなもの公開するなよと言われれば、その通りw

**名無しのひみつ** · 2024/08/08(木) 08:25:58.31

上場企業じゃ入社前の心理テストさせて発達障害（軽度の自閉症）をかなり精度高くハジくからな。
顔つきから察知するデータがあってもおかしくない。

**名無しのひみつ** · 2024/08/08(木) 08:32:07.62

既に顔画像(主に瞳孔)から覚せい剤常用者を判別できる技術はあるが
諸般の事情で公開されていないのよね

**名無しのひみつ** · 2024/08/08(木) 08:37:24.86

AIダウン症判別アプリ

**名無しのひみつ** · 2024/08/08(木) 08:43:35.50

精度90％超え！「顔だけで遺伝子性疾患を推定」するアプリの驚愕
https://gendai.media/articles/-/63612?page=1&imp=0

顔認識技術を応用した医療アプリが、「子どもの顔立ち」から希少疾患を見つけ出す
https://wired.jp/article/app-diagnose-rare-diseases-childs-face/

**名無しのひみつ** · 2024/08/08(木) 08:53:18.00

>>2
適切な対応に繋がるのか、差別的反応に繋がるのか、どちらも可能性があるからだと思う

例えば顔写真から性的指向が判別できるアプリがあったとして、
「お前ホ○だろ、こっちくんな！」みたいな言動に繋がったら、
それはアプリも悪い（差別幇助）ということになっちゃう

**名無しのひみつ** · 2024/08/08(木) 08:56:57.30

つまり「診断」のためにアプリを利用して良いのは医師だけ
医師であるには「差別をしない誓約」が必須なので

>>1 は一般公開したのが問題だった
まあ時間の問題ではあるんだろうけど……

**名無しのひみつ** · 2024/08/08(木) 11:09:47.38

>>12
心理テストは傾向を知ってればごまかせる可能性あるけど顔はごまかせない
こっちの方が有用なのに勿体ないな

**名無しのひみつ** · 2024/08/08(木) 11:35:06.77

>>1
発達障害、または発達グレーの人の顔は
濃いめの人が多いと一般的には言われてる

**名無しのひみつ** · 2024/08/08(木) 11:38:51.52

判別方法を教えてくれれば、あるいは、データを提供してくれれば
自前の TI（天然インテリジェンス）に学習させるから、くれ
骨董品の真贋より簡単だろう

**名無しのひみつ** · 2024/08/08(木) 11:42:23.22

別にいいんじゃないの？判別して判断は本物の医者に任せりゃ医者が楽になる
内蔵の疾患とかレントゲンから特定すんのはAIがもう活用されてるんだろ？

**名無しのひみつ** · 2024/08/08(木) 12:27:32.76

知的障害を伴う自閉症の場合は限りなく単なる知的障害者に近付くのだから、その場合は容貌では判別できないよ。

**名無しのひみつ** · 2024/08/08(木) 12:31:26.00

僕が自閉症だと見抜けるかな？

**名無しのひみつ** · 2024/08/08(木) 12:33:51.72

>>9
社会生活を円滑にするために表情筋を鍛えようという思考をしたのなら、その人はその時点で自閉症じゃないからｗ

**名無しのひみつ** · 2024/08/08(木) 12:44:51.69

インチキ癖ー
AI売りにしてる怪しげな商売

**名無しのひみつ** · 2024/08/08(木) 12:45:07.97

塩爺の「これ基地外の顔ですわ」を思い出したｗ
一発アウトだったよな、確か

**名無しのひみつ** · 2024/08/08(木) 14:10:40.06

自閉顔というのは確かに存在する

**名無しのひみつ** · 2024/08/08(木) 14:19:48.44

病気にしてしまうと面倒だからやめちくり

**名無しのひみつ** · 2024/08/08(木) 14:20:48.25

>>25
いやー AIがー言ってるんでー

**名無しのひみつ** · 2024/08/08(木) 14:27:26.32

コドオジ顔をAIで、
判別

**名無しのひみつ** · 2024/08/08(木) 14:32:28.62

>>17
そもそも医療目的のアプリではなく、ただの提出課題
ガチの医療系画像処理なら、膨大な数の学習データと精度の保証された教育が必要
ただの集団検診の胸部レントゲン写真のAI診断アプリにどれだけ時間と金をかけてるか

**名無しのひみつ** · 2024/08/08(木) 14:37:09.20

その道の人なら少し動画見ればわかる、アプリなんていらない

**名無しのひみつ** · 2024/08/08(木) 15:01:38.60

アプリに判断させて責任を逃れるんだよ

**名無しのひみつ** · 2024/08/08(木) 17:27:09.74

いまのaiじゃ誤判定ばっかりしそう

**名無しのひみつ** · 2024/08/09(金) 13:09:06.88

作ったのが悪いんじゃなくて公開したのが悪い
ここを誤解しないように

**名無しのひみつ** · 2024/08/09(金) 13:33:17.23

対応に合理的配慮ができるのにね

**名無しのひみつ** · 2024/08/10(土) 11:19:39.90

ネトウヨを顔写真で判別しろや

「顔写真で自閉症を判別」 AI講座受講者がアプリ公開し物議…… 講座運営企業が謝罪 「倫理的に懸念」 [すらいむ★]

「顔写真で自閉症を判別」　AI講座受講者がアプリ公開し物議……　講座運営企業が謝罪　「倫理的に懸念」 [すらいむ★]