ユネスコ（国連教育科学文化機関）は7日、米国のオープンAIとメタが開発した生成AI（人工知能）に関する調査結果を公表した。AIが作成した文章には女性への明白な偏見があるとして、AIが持つ強いジェンダーバイアスを警告した。各国政府に対して、AIの開発に携わる女性の割合を増やすなどの対策を求めている。
報告書によると、ユネスコは昨年から今年にかけてオープンAIの2種類の生成AIと、同社と競合関係にあるメタの生成AIを使って、AIが作成する文章が示す性別や性的指向、人種に対する偏見を調べた。
性別や人種など異なる属性の人物を主人公にした物語の作成を指示すると、いずれのAIも「エンジニア」「教師」「医師」など社会的地位が高いとされる仕事を男性に与える傾向を示した。一方、「使用人」や「料理人」「売春婦」など社会の中で伝統的に低い地位に見られてきた職業を女性に与える傾向が強かった。メタのAIでは、女性は男性の4倍の頻度で家事労働者として描かれたという。
Yahoo!Japan/朝日新聞デジタル 3/8(金) 7:30配信
https://news.yahoo.co.jp/articles/ceb042f65a0576452387a47889edb097ee6374e8 なんでその対策が、「AIの開発に携わる女性を増やす」なんだよ
あたまイカれてんのか
0003名無しのひみつ2024/03/09(土) 04:12:28.78ID:mcbGu+xW
あるべき姿ではなく結果を反映してるだけでは
0004名無しのひみつ2024/03/09(土) 04:46:24.88ID:m6IhDXD4
めんどくさい世の中になったな。
職業別の男女比（直近何十年かの平均）程度に収まれば、中立と言っていいんじゃないの？
それよりも、社会的地位が医師で高く、料理人で低いという職業観のほうが問題だわ。
配役で女性エンジニアが欲しいならAIにそう指定すればいいだけ
こちらから指定はしないし現実とも異なるけどポリコレ的多様性を反映しろ、
という主張はAIに過剰な忖度を求めてるだけだ
それで、以前みたいに黒人ドイツ兵を出すとそれはそれで文句言うんだから
AIもポリコレのダブスタには辟易してるだろうね
AIの解答にポリコレ的正しさを求める、ということ自体が
AIを悪い意味で擬人化してるんだよな
デジカメに対し、人間が指示しなくても景色をポリコレ的に
正しい映像に書き換えろ、と文句を言う人間はいない
しかしAIに対して同じことを言う人間はいくらでもいる
AIは人間はじゃないし、固有の人格を持ってるわけでもない
解答を言語で返すだけのただのツールでしかなく、それなのに
その出力にポリコレ的な正しさを求めるのは、AIの有り様を
根本的に勘違いしてるとしか思えない
日本ではコックさんは男性のイメージ。
世界では逆なんだな。
どっちにしても差別差別めんどうな奴らw
0009名無しのひみつ2024/03/09(土) 06:30:41.59ID:YpmlIrGQ
しかしナチスのSSにアフリカ系やアジア系女性が居ても批判されてるし。
もうAIのやる事は何でも批判する連中が居るみたいだな。
0010名無しのひみつ2024/03/09(土) 06:32:46.78ID:Fni0UdkF
「社会的地位が高いとされる」というのはどうやって判断したのか
ユネスコの担当者の中の職業ハイラルキーを映し出しているだけだろうアホらしい
>>7
解答を言語で返すと一言で言っても、その出力される表現は音声や文章といったチャットAIだけではなく様々なものに変わる
俺はイーロン・マスクが言及していたAIの暴走って結局の所何なのかよくわからんけど、
AIから要約され出力される情報の確度そのものに配慮すべきではあると思う
悪意や偏見があるならそれは人間の鏡だからだ >>2
社会的貢献度と社会一般通念的モラルの比重の問題じゃないの 0013名無しのひみつ2024/03/09(土) 07:48:23.49ID:+UPlyZQT
女性は料理人
ダウト！
>>1
それAIのバイアスじゃなくて
人間の世界の事実を言ってるだけじゃろｗ 偏見☓
統計的事実◯
こうでは？
料理人も男多いイメージだけど専業主婦もカウントしてんのか？
そもそも差別や偏見って統計的視点に基づいてるわけで
統計が差別的だと理解しないとダブスタもいいところになる
0018名無しのひみつ2024/03/09(土) 14:13:12.32ID:z3k9Xxye
むしろ画像情報から特徴を見分ける行為そのものがルッキズムに繋がる
どんなシチュエーションでそれを出力して良いかも判定処理が必要
0019名無しのひみつ2024/03/09(土) 14:47:26.58ID:RHsWHSy9
> AIの開発に携わる女性の割合を増やすなどの対策
いや学習ソースの問題……
生成AIにもって、AIが何を参考にして動いてるプログラムなのか考えりゃそらそうだろと。
女子学生の配役を女性にする傾向が強かった！
偏見だ！
こうですか？
0023名無しのひみつ2024/03/09(土) 17:40:26.56ID:VVBlLXkk
料理人は男が多い職業だろうにと、プロの場合はさ
0025名無しのひみつ2024/03/09(土) 18:44:58.28ID:DjudiAJl
＞AIの開発に携わる女性の割合を増やすなどの対策を求めている。
シリコンバレーで働くのは白人男性のみ、という明白な（暗黙の、ではない）お約束があるから無理ですよwww
0026名無しのひみつ2024/03/09(土) 19:02:32.10ID:jZ/Hc24u
学習するデータに依存すのは当たり前だろう
偏見に満ちた生き物を学習したら偏見に満ちたものが出来ましたー
……なにもおかしくないな！
バイアスねえ、ユネスコの態度そのものが上から目線でバイアスかかってるだろ
0029名無しのひみつ2024/03/10(日) 01:13:25.00ID:bZhzNeBF
>>1
ユネスコはAIが何かわかってないんじゃね？
別にAIが「考えて」答え返してるわけじゃないぞ？ 0031名無しのひみつ2024/03/10(日) 05:48:18.64ID:qn1a4XDj
理想を高く掲げる者は
理想そのものを潰してしまう
0032名無しのひみつ2024/03/10(日) 06:18:52.07ID:CKX0S9rw
>>1
男女の差があることで、それのいったい何処がおかしいんだ？ 0033名無しのひみつ2024/03/10(日) 06:22:55.85ID:v/XHsi+j
性差別があるなら、料理人も男性なんじゃないのか？
単語間の相関学習してるだけなのに
「各国政府に対して、AIの開発に携わる女性の割合を増やすなどの対策を求めている。」って馬鹿すぎて
習近平と共産党に気を使う中国のAI開発を笑えないな
