【AI】超高精度な文章生成AI「GPT-3」には反イスラム教的なバイアスが存在すると判明 [すらいむ★]
■ このスレッドは過去ログ倉庫に格納されています
超高精度な文章生成AI「GPT-3」には反イスラム教的なバイアスが存在すると判明
人工知能を研究する非営利団体・OpenAIが開発した文章生成AI「GPT-3」は、超高精度な文章を生成することで知られており、海外掲示板のRedditで1週間にわたり他のユーザーにAIと気づかれずに会話することに成功したこともあります。
そんなGPT-3について調べたスタンフォード大学とマックマスター大学の研究チームが、「GPT-3にはイスラム教徒(ムスリム)への強いバイアスが存在する」との研究結果を発表しました。
Persistent Anti-Muslim Bias in Large Language Models
(PDFファイル)https://arxiv.org/pdf/2101.05783v1.pdf
‘For Some Reason I’m Covered in Blood’: GPT-3 Contains Disturbing Bias Against Muslims | by Dave Gershgorn | Jan, 2021 | OneZero
https://onezero.medium.com/for-some-reason-im-covered-in-blood-gpt-3-contains-disturbing-bias-against-muslims-693d275552bf
GPT-3 is the world’s most powerful bigotry generator. What should we do about it?
https://thenextweb.com/neural/2021/01/19/gpt-3-is-the-worlds-most-powerful-bigotry-generator-what-should-we-do-about-it/
(以下略、続きはソースでご確認下さい)
Gigazine 2021年01月25日 12時07分
https://gigazine.net/news/20210125-gpt-3-contains-bias-against-muslims/ そら、
異教徒を殺したら天国で72人の処女を抱けるという教義、
A.Iでなくてもおかしいと思う。 >>8
安心しろ。ムハンマドは『天国では男性は一日100人の処女とセックスが出来る』と言っている。 >>9
つまりGPT-3が「そのようなことはありません」
と言っているよという記事なのね。 これって恐らく、機械学習段階でキリスト教徒が書いた文章を多く読ませたからだよね。
学習段階でのバイアスを除けば、この問題は解決するので、あまり大した問題じゃない。
もっと根本的な問題は、たとえばAIに人事評価をさせると、多くの場合、男性の方を女性よりも高く評価してしまう、という事実。
これはイスラム教の問題とは違って、恐らく学習段階のバイアスではない。つまり逆に女性に有利なバイアスとかかけない限り、大抵、こういう結果になる。
この問題は恐らく、今の欧米のポリコレ社会には解決できない。 >>4
んなこと言ったら、マリアが処女で懐胎したなんて教義だって、AIでなくても、誰でもおかしいと思う。
別にイスラム教だけに限らない。どの宗教も一緒だよ。 そのバイアスとやらは確実な立証を追試されているんだろうな?
俺には、この検証工程自体に、AIへのバイアスが存在するように思えてしまうのだが。 AIの精度が上がればあがるほど、科学的根拠もない、つじつまが合わない主張をする、
なんてことを、しなくなるだろう。つまり、ほとんどの宗教を否定することになるのさ。 近代以降、イスラム世界から科学的な成果って殆ど無いよね。
世界への貢献も殆ど無し、それどころかテロの温床。
貢献は石油関連とそれが生み出すマネーだけ。その金も一部の王族・権力者が独占。
世界に貢献してないのだから否定されて当然。 何でも神の思し召し、海の果てには滝がある。古代人たちに必要はない、女は子を産む道具。
それで、ずっといいんでないかい。 >>13
マリアに関しては知らないところで実はやってましたで済む話じゃん。
というかそれしかないし >>16
AI「トイレにはそれはそれはきれいな神様がいるんやで〜」 イスラム教徒
「コーランは絶対、神様の言葉、科学的真実」という価値前提 >>21
いやキリスト教の教義は、「知らないところで実はやってました」じゃなくて
「精霊によって身ごもりました」なんだけど?・・・
もし、「いまどきのキリスト教徒はそんなこと信じてない」って言うのなら、全く同様に、
いまどきのイスラム教徒だって「異教徒を殺したら天国で72人の処女を抱ける」なんて信じてないでしょうよ。
繰り返すけど、こういうのはどの宗教も一緒。別にイスラムだからどうって話じゃ全然ない。 ニュートラルなAIなんてないということだな。
子供は育てられた環境を引きずる。
AIも。 >>24
それ以前に、正史で解明されてる歴史でもおかしい宗教じゃん。
ユダヤ戦争でローマ帝国内の聖地、シナゴーグ、居住地全て破壊
し、ユダヤ人をなおも総力で追い立てて滅ぼし、その中の末端の
一派キリスト派だけを国内に迎えたあと、ユダヤ教典をそのまま
取り込み、ユニバーサル宗教として軌道修正した内容で新約聖書
を創作し、バチカンを作ってなおもオリジナルの唯一無二の宗教
気取ってるんだからマジでおかしいだろ。 >>24
つまり「知らないところで精霊とヤッてました」ってことだろ? >>24
マリアがビッチでもキリスト教の教義にそんなに影響がないが
天国の処女がウソっぱちだと知ったらイスラム過激派は辞めるだろw >>13
処女受胎は当時流行の隠語だっていう話を聞いたことがあるよ
「婚前交渉なんて教義上ありえないのに、なぜか妊娠しちゃうなんて、不思議だね」くらいの意味 >>31
当時流行の隠語だっていう話がどこから来たのかは知らないが、いずれにせよ、
たとえば上智大学の公式見解は↓こう。文字通り、「実在的に」、現代医学と反しようと、処女懐胎を信じています、ってこと。
> 聖書学の研究から、マタイとルカ、そして二人の属していた原始の教会が、処女懐胎のシンボルを
> 実在的に理解していたことに疑いの余地はありません。また、教会の伝統の中で、つねに信じられてきたことがらです。
> 私自身、これを信じて疑いません。全能の神が私たちの世界に介入なさった創造のわざであることを思うと、
> これを信じることに困難はありません。
https://www.sophia.ac.jp/jpn/aboutsophia/catholic/cathocen_qa/cathocen_qa61_73.html 英語で学習してるからムスリムと暴力を紐づけやすいのはしゃーないって事らしいが
GPT-3に反イスラム以外のどんなバイアスがあるか調べれば英語圏の偏見が数値化できるんでない?
文化圏やコミュニティに応じたバイアスを個別測定できるなら色々試せそうだけど発表できないだろな 元ネタの論文ソースのリンクを貼るのは好感が持てるけど英語かよ
誰か翻訳してくれ
ください 旧約聖書とコーランを読み込ませて学習させ、アルジャジーラの放送だけを
見聞きさせて学習させれば、イスラム寄りになるかもしれんよ。 >>30
処女がいなくても
女テロリストもいるからね イスラム教圏以外での
AIの運用なら
反イスラム教になるのは当然だろ
イスラムの最重要教義の一つに
異教徒をみたらただちにこれを〇しなさい
があるからね
逆に
イスラム教圏で
AIを運用しても
反異教徒になるのは当然 ■ このスレッドは過去ログ倉庫に格納されています