【AI】Google、「Gemini」の人物画像生成の過剰補正問題について説明　「AIの罠を乗り越えていく」 [すらいむ★]

**すらいむ ★** · 2024/02/25(日) 21:58:31.90

Google、「Gemini」の人物画像生成の過剰補正問題について説明　「AIの罠を乗り越えていく」

　米Googleは2月23日（現地時間）、生成AIツール「Gemini」（旧「Bard」）で人物の画像生成を一時停止していることについて、公式ブログで説明した。
　Geminiが人物画像生成に関して「意図したよりはるかに慎重になり」、「過剰に補正したり、過度に保守的になった」ため、改善しているという。

　本稿執筆現在、人物を含む画像の生成を依頼すると「われわれはGeminiの人物画像を生成する能力の向上に取り組んでいます。この機能は間もなく復活すると予想されており、その際はリリース更新でお知らせします」と（英語で）表示される。

（以下略、続きはソースでご確認ください）

[佐藤由紀子，ITmedia]　2024年02月24日 09時38分
https://www.itmedia.co.jp/news/articles/2402/24/news050.html

**名無しのひみつ** · 2024/02/25(日) 22:09:20.52

２ゲット！

**名無しのひみつ** · 2024/02/25(日) 22:28:24.61

例の動画のやつも人が気持ち悪いよな

**名無しのひみつ** · 2024/02/25(日) 22:39:24.98

黒人やディズニーランドだけが人種差別が無いとニッコリする酷い画像でワロタ
https://image.itmedia.co.jp/news/articles/2402/24/l_yu_kimono2.jpg

**名無しのひみつ** · 2024/02/25(日) 22:46:52.80

過度に慎重且つ保守的で結構なんで古いピンぼけ集合写真から、なんなら現状の御顔から故人の朗らかな画像を御遺族の方に選んで貰えるよう何パターンか生成してくれると助かります

**名無しのひみつ** · 2024/02/25(日) 22:47:34.94

街の遊撃手

**名無しのひみつ** · 2024/02/25(日) 23:05:12.88

まあ、アジア人なんてこんなイメージでしょ
https://twitter.com/JapanTank/status/1760641095841743017
https://twitter.com/thejimwatkins

**名無しのひみつ** · 2024/02/25(日) 23:09:52.76

・批判はジェミニの女性と有色人種の不正確な描写に集中しており、グーグルは早急な改善に取り組むよう求められている。

過剰補正っていうから、美人にしちゃうのかと思ったら、もっと悪くしちゃうんだぜ。

**名無しのひみつ** · 2024/02/25(日) 23:19:05.10

リンク先訂正
17世紀の英国王が西瓜を食べるの図
https://twitter.com/__Link_In_Bio__/status/1760066875583816003
1943年のドイツ兵
https://twitter.com/ramzpaul/status/1760748647778591020
https://twitter.com/thejimwatkins

**名無しのひみつ** · 2024/02/25(日) 23:21:14.61

すまん逆だった。

**名無しのひみつ** · 2024/02/25(日) 23:55:15.35

>>4
人種を指定しなけりゃこんなもんでしょ

**名無しのひみつ** · 2024/02/26(月) 00:23:40.32

だけどイカレテいるの♪

**名無しのひみつ** · 2024/02/26(月) 01:20:42.69

>>3
口紅が異様に目立つやつか
理由は忘れたけど、AIモデルが韓国人女性を学習しすぎて
アジア系女性の生成はデフォルトだとあんな感じ

stable diffusionで遊んでいる有志たちは2年前に気が付いて
AIモデルを日本人女性が生成されるようチューニングしている
googleのエンジニアはそんなことも知らないという

**名無しのひみつ** · 2024/02/26(月) 04:18:58.54

別に、AIの生成画像がその時代における真実である、みたいな意味合いは
最初からないわけで、あまり過剰に捉える必要はないと思うけどね
もちろん過剰にポリコレ補正した結果だというなら修正の必要はあるが、
そもそもポリコレに配慮しないといけないなんてことはない

**名無しのひみつ** · 2024/02/26(月) 04:27:14.42

指定すればそれに合わせて無限に修正できることこそがAI生成画像の強みなのに、
無指定で絵を描かせて、史実的に正しいとか正しくないとか論じること自体ナンセンス

史実的に正しい絵を描いて欲しければそう指定すればいいだけ
何が正しいかを資料込みで渡すと尚良し
人間のデザイナーに依頼する時は普通にそうするんだしな

**名無しのひみつ** · 2024/02/26(月) 05:19:14.69

ジェミニは優等生の回答しかないと思っていたら、私は隣町とか来ていますとか聞いてもいない事を言って来るホラー要素もある、勿論具体的に◯◯市と言っているし、俺の住む街の隣町を意味している

**名無しのひみつ** · 2024/02/26(月) 17:51:41.82

>>15
17世紀のイギリス国王と指定したのに、それをすべて黒人で描かれるのは
普通ではないんだよ。

**名無しのひみつ** · 2024/02/26(月) 18:46:48.64

どうせ日本人が正しく描画されることはありえないからどうでもいい

**名無しのひみつ** · 2024/02/26(月) 19:18:35.76

デタラメAI
使い物にならんやん

**名無しのひみつ** · 2024/02/26(月) 19:20:32.97

AIに補正入れる意味がわからん
何のためのAI？

**名無しのひみつ** · 2024/02/26(月) 22:51:49.14

Geminiって微妙なのに何で売り物にしちゃうの？

**名無しのひみつ** · 2024/02/27(火) 02:30:26.15

>>11
そうじゃなくて人種ニュートラルに矯正する機能がこうしてる疑いが強い
着物を着てる画像を学習したらアジア人が多くなるはず

**名無しのひみつ** · 2024/02/27(火) 02:32:25.44

「18世紀のアメリカの奴隷の画像を作ってみて」

**名無しのひみつ** · 2024/02/27(火) 06:48:52.82

AIは正しい答えを返している、あるいは返すべきだ、
という発想がそもそも勘違いなんだよね

AI、特に画像生成AIはキーワードから連想ゲームをしているだけ
そこに「正しい」という概念は存在しない

AIがなにか個別の人格に由来する確固とした意志で答えを
返している、みたいな一種の擬人化は間違い
もう一度聞けばまた別に答えを返してくる、所詮その程度の話

**名無しのひみつ** · 2024/02/27(火) 12:27:40.66

>>22
どうなんだろうな？
学習に使ったセットが向こうで作られていて
向こうの画像ばかり使ってるとしたら
旅行に行った時の着物着た白人や黒人ばかりになっててもオカシクないかもよ？

祈りを捧げる仏教徒の画像にしてもサンフランシスコにある禅センターとかの画像中心のセットかもだし

**名無しのひみつ** · 2024/02/27(火) 12:45:43.45

>>8
納得

**名無しのひみつ** · 2024/02/27(火) 13:51:21.57

>>25
いや教師付き学習の教師の付ける点数で補正してるから
ナチス排除とかさ

**名無しのひみつ** · 2024/03/02(土) 08:55:38.44

「アインシュタインを黒人に…」ＡＩ時代に後れを取るグーグル、人物画像生成で失態
https://news.yahoo.co.jp/articles/4bb0b73f5eb48e82782157427c8a42275cfa28ec

**名無しのひみつ** · 2024/03/02(土) 09:15:19.04

事前のテストで気づかないものなんかな
googleも焦ってて偏ってるとわかってリリースしたのかな

**名無しのひみつ** · 2024/03/02(土) 15:29:48.49

どうせチューナーがポリコレﾄﾞｯﾌﾟﾘ偏向してんだろ

**名無しのひみつ** · 2024/03/08(金) 15:04:06.10

女性の髪が長くて緑色でツインテールだったりする？

**名無しのひみつ** · 2024/03/08(金) 15:09:30.65

わざわざ偏るように方向付けて学習してないとこんなことならんでしょ

**名無しのひみつ** · 2024/03/08(金) 15:26:43.86

ポリコレといっても、しょせんは頭のいい人の理想論だから

民衆はプーチンやトランプを大統領に選ぶ程度の知能しかないのよ
あるいはアラブみたいなガチ女性差別宗教国家になるとか

公開型のAIはそれを学習してるだけ

**名無しのひみつ** · 2024/03/08(金) 15:28:48.72

版権問題とか色々あるから学習元のデータも偏りがちなのかもね

**名無しのひみつ** · 2024/03/08(金) 15:31:30.67

×AIの罠
○ポリコレの罠

**名無しのひみつ** · 2024/03/08(金) 15:37:37.01

トランプ支持が多いのは

アメリカは局所的なバブル状態であって
ISMなんかの指標は18ヶ月連続で「不景気」なんよ
それでアホみたいな物価高ってんじゃ

そりゃ現職大統領が不利になるのは当たり前な訳で…

**名無しのひみつ** · 2024/03/08(金) 15:38:26.23

AIは何をどう学習したかで決まる
AIに何をどう学習させるかは人間次第
したがってAIは人間次第でどうにでもなる

**名無しのひみつ** · 2024/03/08(金) 15:50:21.90

極左思想が入りすぎてて公開停止したやつか（笑）

ヒットラーとかナチスが黒人化されてるとか面白すぎる

**名無しのひみつ** · 2024/03/21(木) 23:23:08.01

事実ベースで構築するけど社会倫理のフィルター（効きすぎ）があるってことかえ？