【セキュリティ】「ChatGPT」から個人情報含む学習データの抽出に成功--Google DeepMind研究者ら [すらいむ★]

**すらいむ ★** · 2023/12/09(土) 21:43:54.38

「ChatGPT」から個人情報含む学習データの抽出に成功--Google DeepMind研究者ら

　「ChatGPT」のような生成人工知能（AI）プログラムのセキュリティ、特に「アライメント」のプロセスを破る方法が、研究者によって続々と発見されている。
　アライメントとは、プログラムが人間にとって適切な振る舞いの範囲にとどまり、問題のある出力を返すことなく、有能なアシスタントの役割を果たすために施される調整だ。

（以下略、続きはソースでご確認ください）

japan.cnet　2023年12月09日 07時30分
https://japan.cnet.com/article/35212333/

**名無しのひみつ** · 2023/12/10(日) 11:17:33.35

催眠術をかけて、秘密を聞き出すというのに似てるな。

**名無しのひみつ** · 2023/12/10(日) 16:53:00.15

AIと言えばオスメント君だろ
誰だアライメントって

**名無しのひみつ** · 2023/12/10(日) 16:56:24.26

「ChatGPTのような生成人工知能（AI）プログラムのセキュリティを破る方法が、AIによって続々と発見されている」

じゃなくて良かった。そのうち起こりはじめるのか？

**名無しのひみつ** · 2023/12/10(日) 17:07:49.39

新井面人君！？

**名無しのひみつ** · 2023/12/10(日) 17:32:54.95

統合失調症乙

**名無しのひみつ** · 2023/12/10(日) 17:32:58.20

統合失調症乙

**名無しのひみつ** · 2024/01/14(日) 10:43:53.63

google検索で「講和」と調べたら「講和降伏違い」とかいう検索キーワード予測出してきたぞ
やっぱりグーグルは何かにつけて過度に皮肉的・独善的でユーモアの方向性が歪んでると感じる
もしこれが人によって変わるなら尚更だ