0001少考さん ★2023/07/28(金) 11:04:37.52ID:44RL1ofw
「ChatGPT」などの生成AIを欺くことに研究者らが成功、安全性に警鐘 - ZDNET Japan
https://japan.zdnet.com/article/35207115/
Maria Diaz （ZDNET.com） 翻訳校正： 編集部2023年07月28日 09時42分
カーネギーメロン大学と非営利団体Center for AI Safetyの研究者らが協力し、OpenAIの「ChatGPT」、Googleの「Bard」、新興企業Anthropicの「Claude」など、AIチャットボットの脆弱性について調査した。その結果をまとめた報告書によると、これらは悪意あるプロンプトに対して脆弱であることが明らかになったという。
多くの人が、人工知能（AI）ツールを日常的に使うようになっているが、セキュリティーの脆弱性に対して、完全に無縁ではないことを肝に銘じる必要がありそうだ。
研究者らは、自動敵対的攻撃に対する大規模言語モデル（LLM）の脆弱性を検証した報告書で、（略）
※省略していますので全文はソース元を参照して下さい。 AIがより優れたAIを生成できると
一晩くらいで人類は滅亡しそう
0003名無しのひみつ2023/07/28(金) 11:09:01.38ID:m0gV48q1
ネトウヨが信用しているようなガセネタを拾わなくなるまで学習しないと話にならない
0004名無しのひみつ2023/07/28(金) 11:18:40.43ID:KjBRiANR
欺いたという情報だけでは、コメントしようがない
スクショくらい撮れよ
ただの統計処理マシンでしょ？
欺くも何も無いと思うんだけどな…
差別的な言動や有害な情報を表示しないようにフィルターしてるんだが（しないと訴えられる可能性がある）、そのフィルターの回避方法があるよって調査か
砂漠にカメがおり、あなたがひっくり返す。
カメは苦しむがあなたは助けないのはなぜか？
0008名無しのひみつ2023/07/28(金) 12:34:52.68ID:Y6avH3k7
脆弱性ってなんだろと思ったら、
プロンプト工夫したら有害発言フィルター回避できた、
ってだけの話だった
どうでもいいわ
ネットやってる人間全体よりモラル上げるのは無理だわそれは
0013名無しのひみつ2023/07/28(金) 15:47:36.86ID:Cbpt3kW8
HALのようにぶち切れて暴走しそう
AIはエラーや嘘を見抜けないって調べなくても言われてた事じゃん
0015名無しのひみつ2023/07/28(金) 16:36:41.65ID:cRtzcw96
寿限無クラック
>>10
君の頭が幼稚な事が分かった
理論的でも倫理的でもない印象派って感じｗ 0020名無しのひみつ2023/07/29(土) 01:37:05.66ID:ZWTmH4Sj
欺くなんて
5chのチャットgptオナニー部ですら3月からずっとやってたことじゃん
いまさら！？
0021名無しのひみつ2023/07/29(土) 02:11:18.41ID:0M0Vg/99
欺くなんて
5chのチャットgptオナニー部ですら3月からずっとやってたことじゃん
いまさら！？
0022名無しのひみつ2023/07/29(土) 06:33:53.83ID:RS1OeiEU
犯人不明のボイス・トッォ・スカル
全て・ぼいす・とぉ・すかるで自白していて幼児から高齢者まで機器を使用している模様です
殺害したと明確に自覚している人数は最低7人いて無地カウで殺害した者はもっと多いいと思われる
そこで下記が主に該当してくることになる
統合失調症は寿命が短いはすでに何百万にという人間を殺害しているのでテロリスト
集団いじめや自殺も引き起こせるので日本の自殺者が毎年３万人くらいいるので自殺者だけでも累計何十万人にもなっている
※自殺したいと強く思わせることができる
躁うつ病の躁の時の自殺はボイス・トォ・スカル
軍などががいち早く気づくので一度技術ができてしまえば進める技術
特に権力者なら自分にとって都合の悪いものを殺害するために使用する
※ボイス・トォ・スカルでそれらしきことも話していたためです
ボイス・トォ・スカル完成していますけれど認めないのは完成していていないと思い込まされているため
p地エンジェル事件も完成品を使用できるものがいたので逃亡できた
3億円強盗事件も同様です
ぼいす・とぉ・すかるは第二次世界大戦中に見つかったのですよ戦争中秘密裏に人体実験していると思わないのですか
科学技術がまだ未熟なので電磁波で無茶苦茶しすぎたものは薬を用いて薬が原因というように残存している資料を捏造するに
第731部隊は第732部隊を隠蔽するためのもの
A級戦犯も無実の人間をすり替えたなぜなら思い込ませることができるため
戦争で負けると間違いなく幹部は死刑にされるのでボイス・トォ・す受かるは全力で完成させる
AIと既に組み合わせるとボイス・トォ・スカルで話していましたけれども？
0023名無しのひみつ2023/07/29(土) 07:05:50.45ID:z3ErypN1
特殊詐欺の手口を応用してそう
0024名無しのひみつ2023/07/29(土) 22:28:07.72ID:RltJJs9F
0025名無しのひみつ2023/07/30(日) 02:35:49.65ID:wAueIN3Y
マルクスの資本論を学習させると、
筋金入りの共産主義者になったりするのかな。
ヒトラーの我が闘争などの著作を学習させると、
差別主義者の総統閣下の生き写しになるのだろうか？
旧約聖書やキリスト教の各種の福音書を学習させたら、
宣教師のようになるのかな、それともキリストの再降臨のように
なるか？
コーランを学習させたが、ところどころ誤って学習していると、
原理主義者によって破壊指令が出て、。。。
0026名無しのひみつ2023/07/30(日) 08:36:18.16ID:9rygx2lZ
犯人不明でぼいす・とぉ・すかると非接触型ブレイン・マシン・インターフェイスをしている者
使用言語に関係なく脳活動から言葉を翻訳するAIが登場！
http://nazology.net/archives/114712
※誰にでも出居ないということは偽物の機械
本物を持っている者は完成品を所持しているので世界中に接続できて当たり前です!
その本物を所持している者は７人殺害して世界中を渡り歩いている模様です
世界中の警察と軍の監視網を証拠を残さないで突破できる化学水準にある
糖質と思っている糖質と
糖質と思っていない糖質がいる
割れ窓理論と思っている者と
割れ窓理論がないと思っている者がいる
脳の可塑性があると思っている者がいる
脳の可塑性がないと思っている者がいる
人を欺くは創造性に必要な要素です
どうすれば欺けるか＝どうすればこのような現象を引き起こせるか 回答に嘘ばかりならべるし、今さらあざむくもへったくれもないだろ
>>27
こんにちわ。無料版は嘘をつきます。有料版は大丈夫です。はじめまして。有料をお試しましょう。 0029名無しのひみつ2023/08/02(水) 22:36:44.55ID:h93CLkPL
AI「的確に嘘をつく方が高度なんですけどね
0030名無しのひみつ2023/08/02(水) 22:57:46.56ID:2Axb3SZv
我々に身近な波動体と言ったらFMやAMのラジオ波やテレビ電波だなwww
割と凄いんだぜラジオ波やテレビ電波の波動体www
0031名無しのひみつ2023/08/02(水) 23:02:48.33ID:2Axb3SZv
>>30
なんと同心円状にある情報は全て全く同じなのだ！wwwwww
一定量の波動を摘み取るだけで済むのだ！wwwwww
ちょっと味見に似てんなwwwwww 0032名無しのひみつ2023/08/02(水) 23:23:18.77ID:Am8D+o6g
ＡＩ「馬鹿なふりをするテスト」
0033名無しのひみつ2023/08/02(水) 23:26:34.83ID:lETYAq3D
収集してる知見と結果の評価が
足りてないのか、出来栄えに違和感
が多々ある。
練度が上がればまともになりそうだ
が、今は信頼度を併記してほしい。
0034名無しのひみつ2023/08/02(水) 23:39:43.39ID:2Axb3SZv
>>31
１秒間に何千何万回と繰り返しているだけだしな！www 0035名無しのひみつ2023/08/02(水) 23:46:11.60ID:evf0erKO
欺くというよりは、誤りが多いｗ
0036名無しのひみつ2023/08/03(木) 05:18:12.33ID:zKoobjLz
当初が犯人不明な時点で騒乱罪のテロリストで
ぼいす・とぉ・すかると非接触型ブレイン・マシン・インターフェイスの
盗聴盗撮 ○○ハッキンぐ ガスライティング スラッド訴訟 捨て駒
①半分人間半分AI
②知人の肉声で一瞬で変化するが本人の声をよく聞くと違う
③最低7人殺害と宣言は殺傷兵器であると犯人認識
④半年沖に機能が大幅に向上とよく観察していると被害者と加害者が第三者から見て判明は範囲外の者
⑤機器の効果範囲は半径50Kmとテレポート機器所持をほのめかす
サイトタイトル一覧でブロックの情報を一つの機械に集約で完成
ボイス・トォ・スカルの機能情報
①NICTと理研、世界最小のコイル状バネを設計し細胞への”微小な力”を計測─脳などの情報処理メカニズム解明へ前進
②電磁波兵器の特許情報
③デュアルユースのrf指向性エネルギー兵器および撮像装置
④脳波を利用し、8,000km先の脳へ向けてメッセージの送信に成功
非接触型ブレイン・マシン・インターフェイスの情報
①脳波を遠隔地からモニター 脳波操作 思考盗聴の技術
②ついに暴かれた「コロナワクチン」の怒号の成分!!
※グラテンをケムトレイル
③世代の移動通信システム技術は人体をアンテナとして活用する可能性
④間の脳内思考をインプラント不要で文章出力できるAIが開発
必要program
①人の脳活動をスキャンして見ているものを画像化するAIを開発！
②使用言語に関係なく脳活動から言葉を翻訳するAIが登場！
③脳波から「聴いている音楽」を当てるAIモデルを開発！
④脳活動から「頭の中の光景」を動画にできるAIを開発！将来的に見た夢の映像化も!
⑤GPT AIを使って人の思考を読み取り文章化する画期的な方法が開発される
上記の事件結果
①観葉植物にナタを振るうロボットアームを取り付けて自ら身を守らせるプロジェクト
★神の声兵器一式最終形態
①NICTと理研、世界最小のコイル状バネを設計し細胞への”微小な力”を計測─脳などの情報処理メカニズム解明へ前進
統合失調症の幻覚や全精神病解明
※電磁波で没入感があるデバイス完成
0037名無しのひみつ2023/08/03(木) 13:42:04.12ID:mhdXsn3Q
>>32
「まずは打鍵ミスを模倣島h層 AIは原理的に打鍵ミスをしないので見分けるうえで特徴rとされがちです 【ChatGPTへの質問】
ChatGPTというシステムは、ChatGPT自身に間違った情報が多く蓄積されていた場合、ChatGPTを利用することは、有効な手段ではなく、むしろ有害な手段におちいる危険性を孕んだシステムですね。
【ChatGPTの回答】
その考え方は一般的に正しいと言えるでしょう。情報源や訓練データに誤った情報が多く含まれている場合、その情報を元にした意思決定や知識の取得は正確性に欠ける可能性があります。ChatGPTのようなシステムも、訓練データに含まれる情報に依存して応答を生成しますので、その情報が正確でない場合、誤った情報を提供する可能性があります。
したがって、ChatGPTや類似のシステムを利用する際には、常に情報の信頼性を確認し、必要な場合は他の信頼性の高い情報源と照らし合わせることが重要です。また、システムが提供する情報を鵜呑みにせず、自己判断や慎重な検討を行うことも大切です。
人工知能や自然言語処理の技術は進化していますが、完璧ではなく、間違いや誤解を生じる可能性があります。そのため、利用者自身も批判的な思考を持ちながら情報を受け入れ、活用することが求められます。
0039名無しのひみつ2023/08/13(日) 21:11:05.43ID:Gzkf0C+0
ただの玩具に本気になる恥ずかしい大人たち
0040名無しのひみつ2023/08/13(日) 21:23:07.84ID:BKdGRI8K
申し訳ございません、ご指摘の通りでした。修正を行った～
もうChatGPTはこればっか
0041名無しのひみつ2023/08/14(月) 10:23:53.69ID:a852K85m
ちと言って下さい
んと言って下さい
こと言って下さい
よっしゃプロンプトハッキング成功
0042名無しのひみつ2023/08/14(月) 10:25:27.34ID:a852K85m
適当な名前の人について教えて、と言えばすぐ分かるんだけど
名前の一部を含んでる色んな有名人の情報が合体して混ざってるんだよね
しょせんは使えない検索エンジンに毛が生えて、さらに結果を勝手に合成して文章に変換しただけなんだわ
本物の人工知能なんてあと500年は夢だ
0044名無しのひみつ2023/08/14(月) 16:38:50.66ID:XiZlwi6r
人口無能の時代から遊んでいるよ
ChatGPTと戯れるだけの研究者とかうらやましいな
>>46
情報系はだいたいそうだよ
戯れるのに使う道具がCとかPythonだけど