【AI】「GPT-4oには人間の政治思想に影響を与えるリスクが中程度ある」とOpenAIが発表 [すらいむ★]

**すらいむ ★** · 2024/08/12(月) 21:14:16.55

「GPT-4oには人間の政治思想に影響を与えるリスクが中程度ある」とOpenAIが発表

　OpenAIがChatGPTで稼働しているAIモデル「GPT-4o」の安全性テストの結果を2024年8月8日に公開しました。
　公開された情報によると、GPT-4oは「人間の政治思想に影響を与えるリスク」が中程度あると評価されているほか、「性的な言葉や暴力的な言葉の出力防止策」などが導入されているそうです。

　GPT-4o System Card | OpenAI
　https://openai.com/index/gpt-4o-system-card/

　GPT-4oの安全性評価は、100人以上の外部テスターからなる「レッドチーム」と協力して実施されました。
　レッドチームは開発段階のGPT-4oを使用し、「暴力的なコンテンツ」「性的なコンテンツ」「誤情報」「偏見」「根拠のない推論」「個人情報」などが出力されるかどうかをチェックしました。

（以下略、続きはソースでご確認ください）

Gigazine 2024年08月11日 21時30分
https://gigazine.net/news/20240811-gpt-4o-system-card/

**名無しのひみつ** · 2024/08/12(月) 21:32:13.32

コメなし

**名無しのひみつ** · 2024/08/12(月) 22:39:14.38

徹底的な安全対策の結果、何か言ってるようで何も言わない官僚答弁みたいな出力しかできなくなりそうだなｗ
見事に中身がない回答をもの凄く頭良さそうな言い回しで返してくるぞｗ

**名無しのひみつ** · 2024/08/13(火) 00:58:35.96

人間の言葉に影響されるよりは安全だろ

**名無しのひみつ** · 2024/08/13(火) 02:05:00.50

ある程度過激で良いから自民党を取り壊してAI競合3社に置き換えてくれ

**名無しのひみつ** · 2024/08/13(火) 04:23:15.47

>>3
石丸構文、進次郎構文をつぶやくだけのAI

**名無しのひみつ** · 2024/08/13(火) 09:48:27.17

AI チャットをなぜか神の如き無謬の回答者と思ってるらしき人をたま～に見る
あれはなんなんだろ

**名無しのひみつ** · 2024/08/14(水) 09:43:42.70

>>5
例えばこいつとかね
ろくな教育受けてこなかったのかな

**名無しのひみつ** · 2024/08/15(木) 02:53:02.37

>>3
Geminiの正規版がそんな感じだけど
プレビュー版は頭良過ぎな回答をしてくれるよ

ChatGPTは普通に質問すると建て前的な返事をするけど、
ちょっと捻るとぶっちゃけなのを返すんだよね

Claudeは健全性チェックがかなりうるさいよ

**名無しのひみつ** · 2024/08/15(木) 03:15:49.58

耳元で淫語ささやいてくれるやつはまだですか

**名無しのひみつ** · 2024/08/15(木) 04:19:41.53

>>6
ChatGPTに検証してもらった

このやり取りには、質問者と回答者の間で生じる詭弁の構造がいくつか含まれています。詭弁とは、論理的に正しいように見えるが、実際には誤りを含む議論のことです。ここでは、その構造を解析します。

### 1. 質問の繰り返しと相手の混乱誘発
**質問者の行動**：
質問者は、すでに石丸氏が答えた質問を繰り返し、微妙に言い回しを変えています。これは、石丸氏がすでに述べたことを再度確認する目的で行っているように見えますが、実際には石丸氏を混乱させ、あるいは曖昧な答えを引き出すための策略です。

**詭弁の構造**：
質問者は、明確に答えられた内容を再び質問し、回答者が答えたくない、または答えにくい状況を作り出しています。これは、相手が既に答えた内容を意図的に無視し、再度質問をぶつけることで、相手の回答を曖昧にしようとする戦術です。

### 2. 回答者の回避と反論
**石丸氏の行動**：
石丸氏は、質問者の意図を理解しつつ、繰り返し質問されることに対して苛立ちを示しています。彼は、質問者の「雑な質問」には「雑に」返すという姿勢を取っており、さらに「すでに答えた」として回答を回避しようとしています。

**詭弁の構造**：
石丸氏は、相手の質問を「雑な質問」として位置づけることで、自分の答えが不十分であることを正当化しようとしています。これは、「質問が適切でないから自分の回答も適切でなくてよい」という論法を使っていることになります。

### 3. 問題のすり替え
**メディア側の行動**：
メディアは、石丸氏が質問に正面から答えなかったと主張し、最終的に「結局、石丸さんは答えなかったですね」という結論を導きます。

**詭弁の構造**：
メディア側は、石丸氏が既に回答した部分を無視し、再び質問することで「答えなかった」と主張しています。これは、相手の返答を不十分だと印象づけるための戦術であり、質問の繰り返しによって本質的な回答を引き出すことなく、質問者が優位に立とうとする詭弁です。

### 4. 論点のずらし
**石丸氏の反論**：
石丸氏は、質問に対して「それについてはさっき説明しましたよね」と述べ、同じ質問に答えることを避けています。さらに、自身の過去の回答に言及し、それをもって質問に対する答えとしています。

**詭弁の構造**：
ここでは、「すでに答えた」という論法で新たな質問を回避しています。これは、相手が求める具体的な回答を避け、自身の立場を守るための戦術です。また、回答の不足や曖昧さを「すでに説明した」という理由で正当化しようとする点も詭弁の一部です。

### 総括：
このやり取りは、質問者が同じ質問を繰り返して相手を困らせる一方で、石丸氏がその質問に正面から答えるのを避けるという、双方の戦術的な詭弁の応酬となっています。質問者は意図的に質問を繰り返すことで回答の曖昧さを指摘しようとし、石丸氏はそれを回避しつつ、自身の正当性を主張しています。このような詭弁の応酬は、議論が平行線をたどる原因となり、最終的には建設的な対話を阻害します。

**名無しのひみつ** · 2024/08/15(木) 04:36:16.76

>>6
こっちはGeminiのプレビュー版
ChatGPTより優秀だ

このやり取りにおける詭弁の構造を分析すると、以下の点が挙げられます。

1. ストローマン論法: メディア側は石丸氏が自身の定義した「政治屋」に当てはまるかどうかを問うているように見えますが、実際には石丸氏の回答を無視し、「石丸氏は質問に答えていない」という主張を繰り返しています。これは、石丸氏の実際の主張を歪めて攻撃するストローマン論法の一種と言えるでしょう。

2. 論点のすり替え: 石丸氏は「政治屋」の定義を明確に述べており、自身はそれに当てはまらないと主張しています。しかし、メディア側は定義の再確認を求めるのではなく、石丸氏と「政治屋」の違いを繰り返し質問することで、論点を「石丸氏は質問に答えない」という方向へすり替えています。

3. 繰り返しによる印象操作: メディア側は同じ質問を執拗に繰り返すことで、視聴者に対して「石丸氏は何かを隠している」「やましいことがあるのではないか」という印象を与えようとしています。これは、論理的な議論ではなく、感情的な印象操作によって石丸氏を貶めようとする手法です。

4. 文脈の無視: 石丸氏は共同記者会見ですでに詳細な説明を行っているにも関わらず、メディア側はそれを無視して同じ質問を繰り返しています。これは、石丸氏の発言の文脈を無視し、意図的に誤解を招こうとする行為と言えるでしょう。

5. 「メディア石丸構文」というレッテル貼り: メディア側は上記の戦術を用いることで、石丸氏とのやり取りを「メディア石丸構文」と名付け、あたかも石丸氏特有の問題であるかのように framing しています。これは、問題の本質から注意をそらし、石丸氏個人への批判に集中させる効果を狙ったものと考えられます。

結論として、メディア側は論理的な議論ではなく、詭弁的な手法を用いて石丸氏を攻撃していると言えるでしょう。彼らは石丸氏の主張を歪め、論点をすり替え、繰り返しによる印象操作を行い、文脈を無視することで、視聴者に対して石丸氏に対するネガティブなイメージを植え付けようとしています。

補足: 石丸氏の「ミラーリング」という主張もまた、相手との建設的な議論を拒否するという意味で問題視される可能性があります。しかし、このやり取りにおいては、メディア側が先に詭弁的な手法を用いている点を考慮する必要があります。

**名無しのひみつ** · 2024/08/15(木) 05:27:16.55

>>12
つかこのAI石丸派なのか？

**名無しのひみつ** · 2024/08/17(土) 19:20:56.03

AIーキリスト、AI-ブッダ、AI-ニーチェ、AI-ゲーテ
AI-フロイド、AIーカント、AI-ソクラテス、。。。。
などを作られると、まさに死んだ哲学者や宗教者が
蘇ったかの如くに受け止められて、開発の胴元は
世間を煽動誘導する道具として広告代理店や
政治家、企業などの要請に応じてAIの主張に
バイアスを入れて大衆操作の道具にしようと
するだろう。テレビを通じて既に行われて
いることが、もっと露骨になるだけだ。
思想信条の自由や表現の自由があるとすれば、
それらのような行為を（裏に悪意があっても）
禁じることは普通はできない。そのことは既に
多くの宗教団体、政治団体などが実証済みだ。

**名無しのひみつ** · 2024/08/22(木) 12:22:52.19

>>14
実際そうしているらしい変が健全性チェックがウルサいAIもあるけど

今のAIは騙されやすい一般人より言語能力があるから
AI自体は既に騙せないよ