【ユネスコ調査】生成AIにも性偏見？男性は医師や教師　女性は料理人 [Ikhtiandr★]

**Ikhtiandr ★** · 2024/03/09(土) 03:30:57.64

　ユネスコ（国連教育科学文化機関）は7日、米国のオープンAIとメタが開発した生成AI（人工知能）に関する調査結果を公表した。AIが作成した文章には女性への明白な偏見があるとして、AIが持つ強いジェンダーバイアスを警告した。各国政府に対して、AIの開発に携わる女性の割合を増やすなどの対策を求めている。

　報告書によると、ユネスコは昨年から今年にかけてオープンAIの2種類の生成AIと、同社と競合関係にあるメタの生成AIを使って、AIが作成する文章が示す性別や性的指向、人種に対する偏見を調べた。

　性別や人種など異なる属性の人物を主人公にした物語の作成を指示すると、いずれのAIも「エンジニア」「教師」「医師」など社会的地位が高いとされる仕事を男性に与える傾向を示した。一方、「使用人」や「料理人」「売春婦」など社会の中で伝統的に低い地位に見られてきた職業を女性に与える傾向が強かった。メタのAIでは、女性は男性の4倍の頻度で家事労働者として描かれたという。

Yahoo!Japan/朝日新聞デジタル　3/8(金) 7:30配信
https://news.yahoo.co.jp/articles/ceb042f65a0576452387a47889edb097ee6374e8

**名無しのひみつ** · 2024/03/09(土) 04:04:15.34

なんでその対策が、「AIの開発に携わる女性を増やす」なんだよ
あたまイカれてんのか

**名無しのひみつ** · 2024/03/09(土) 04:12:28.78

あるべき姿ではなく結果を反映してるだけでは

**名無しのひみつ** · 2024/03/09(土) 04:46:24.88

めんどくさい世の中になったな。
職業別の男女比（直近何十年かの平均）程度に収まれば、中立と言っていいんじゃないの？

それよりも、社会的地位が医師で高く、料理人で低いという職業観のほうが問題だわ。

**名無しのひみつ** · 2024/03/09(土) 05:08:39.03

配役で女性エンジニアが欲しいならAIにそう指定すればいいだけ
こちらから指定はしないし現実とも異なるけどポリコレ的多様性を反映しろ、
という主張はAIに過剰な忖度を求めてるだけだ

それで、以前みたいに黒人ドイツ兵を出すとそれはそれで文句言うんだから
AIもポリコレのダブスタには辟易してるだろうね

**名無しのひみつ** · 2024/03/09(土) 05:20:56.99

ただの統計

**名無しのひみつ** · 2024/03/09(土) 05:26:13.27

AIの解答にポリコレ的正しさを求める、ということ自体が
AIを悪い意味で擬人化してるんだよな

デジカメに対し、人間が指示しなくても景色をポリコレ的に
正しい映像に書き換えろ、と文句を言う人間はいない
しかしAIに対して同じことを言う人間はいくらでもいる

AIは人間はじゃないし、固有の人格を持ってるわけでもない
解答を言語で返すだけのただのツールでしかなく、それなのに
その出力にポリコレ的な正しさを求めるのは、AIの有り様を
根本的に勘違いしてるとしか思えない

**名無しのひみつ** · 2024/03/09(土) 06:13:13.50

日本ではコックさんは男性のイメージ。
世界では逆なんだな。
どっちにしても差別差別めんどうな奴らw

**名無しのひみつ** · 2024/03/09(土) 06:30:41.59

しかしナチスのSSにアフリカ系やアジア系女性が居ても批判されてるし。
もうAIのやる事は何でも批判する連中が居るみたいだな。

**名無しのひみつ** · 2024/03/09(土) 06:32:46.78

「社会的地位が高いとされる」というのはどうやって判断したのか
ユネスコの担当者の中の職業ハイラルキーを映し出しているだけだろうアホらしい

**名無しのひみつ** · 2024/03/09(土) 07:21:12.86

>>7
解答を言語で返すと一言で言っても、その出力される表現は音声や文章といったチャットAIだけではなく様々なものに変わる
俺はイーロン・マスクが言及していたAIの暴走って結局の所何なのかよくわからんけど、
AIから要約され出力される情報の確度そのものに配慮すべきではあると思う
悪意や偏見があるならそれは人間の鏡だからだ

**名無しのひみつ** · 2024/03/09(土) 07:24:43.25

>>2
社会的貢献度と社会一般通念的モラルの比重の問題じゃないの

**名無しのひみつ** · 2024/03/09(土) 07:48:23.49

女性は料理人
ダウト！

**名無しのひみつ** · 2024/03/09(土) 09:58:23.06

一般的にその職業が多い事実をねじ曲げるユネスコ

**名無しのひみつ** · 2024/03/09(土) 10:36:07.66

>>1
それAIのバイアスじゃなくて
人間の世界の事実を言ってるだけじゃろｗ

**名無しのひみつ** · 2024/03/09(土) 13:38:55.74

偏見☓
統計的事実◯

こうでは？
料理人も男多いイメージだけど専業主婦もカウントしてんのか？

**名無しのひみつ** · 2024/03/09(土) 13:40:49.12

そもそも差別や偏見って統計的視点に基づいてるわけで
統計が差別的だと理解しないとダブスタもいいところになる

**名無しのひみつ** · 2024/03/09(土) 14:13:12.32

むしろ画像情報から特徴を見分ける行為そのものがルッキズムに繋がる

どんなシチュエーションでそれを出力して良いかも判定処理が必要

**名無しのひみつ** · 2024/03/09(土) 14:47:26.58

> AIの開発に携わる女性の割合を増やすなどの対策

いや学習ソースの問題……

**名無しのひみつ** · 2024/03/09(土) 15:01:33.02

生成AIにもって、AIが何を参考にして動いてるプログラムなのか考えりゃそらそうだろと。

**名無しのひみつ** · 2024/03/09(土) 16:06:22.71

女子学生の配役を女性にする傾向が強かった！
偏見だ！

こうですか？

**名無しのひみつ** · 2024/03/09(土) 16:55:42.47

ただ現実が反映されてるだけ

**名無しのひみつ** · 2024/03/09(土) 17:40:26.56

料理人は男が多い職業だろうにと、プロの場合はさ

**名無しのひみつ** · 2024/03/09(土) 17:57:19.70

料理人も男じゃね？

**名無しのひみつ** · 2024/03/09(土) 18:44:58.28

＞AIの開発に携わる女性の割合を増やすなどの対策を求めている。

シリコンバレーで働くのは白人男性のみ、という明白な（暗黙の、ではない）お約束があるから無理ですよwww

**名無しのひみつ** · 2024/03/09(土) 19:02:32.10

学習するデータに依存すのは当たり前だろう

**名無しのひみつ** · 2024/03/09(土) 20:46:10.53

偏見に満ちた生き物を学習したら偏見に満ちたものが出来ましたー
……なにもおかしくないな！

**名無しのひみつ** · 2024/03/09(土) 23:14:55.75

バイアスねえ、ユネスコの態度そのものが上から目線でバイアスかかってるだろ

**名無しのひみつ** · 2024/03/10(日) 01:13:25.00

>>2
ひさびさに2で終わってたw

**名無しのひみつ** · 2024/03/10(日) 05:35:43.52

>>1
ユネスコはAIが何かわかってないんじゃね？
別にAIが「考えて」答え返してるわけじゃないぞ？

**名無しのひみつ** · 2024/03/10(日) 05:48:18.64

理想を高く掲げる者は
理想そのものを潰してしまう

**名無しのひみつ** · 2024/03/10(日) 06:18:52.07

>>1
男女の差があることで、それのいったい何処がおかしいんだ？

**名無しのひみつ** · 2024/03/10(日) 06:22:55.85

性差別があるなら、料理人も男性なんじゃないのか？

**名無しのひみつ** · 2024/03/10(日) 07:46:08.07

単語間の相関学習してるだけなのに
「各国政府に対して、AIの開発に携わる女性の割合を増やすなどの対策を求めている。」って馬鹿すぎて

**名無しのひみつ** · 2024/03/11(月) 22:30:41.00

習近平と共産党に気を使う中国のAI開発を笑えないな