【IT】OpenAI、対話AIの安全策公表 欧米での批判受け [ムヒタ★]
■ このスレッドは過去ログ倉庫に格納されています
【シリコンバレー=渡辺直樹】人工知能（AI）開発の米オープンAIは5日、高度な言語能力を持つAIの安全面での施策を公表した。外部の専門家や利用者の声を交え、動作監視して改善するほか、AIの訓練に使うデータから個人情報をできる限り削除することなどを掲げた。プライバシー侵害をめぐり欧米で批判や懸念の声が強まっていることに対応した。
人と自然な会話ができるサービス「ChatGPT（チャットGPT）」と、それを動かすための基盤となる最新技術「GPT-4」に関して施策を発表した。GPT-4は従来の8倍にあたる2万5000語まで文章を扱えるようになり、米国の司法試験の模擬試験では上位10%程度の成績で合格する性能を誇る。だが、どのようにデータを集めているか不透明で、イタリアの当局が個人情報保護の法令に違反するとみて一時的に禁止していた。
オープンAIは可能な場合は、AIを訓練するデータから個人情報を削除する。外部から個人情報の削除の要請があった場合にも応じることでプライバシー侵害を最小限にするとしている。
また動作については外部の専門家や利用者の声を反映して改善し、監視する仕組みをつくる。「API」と呼ばれる外部ソフトとの連携機能を通じ、実際のサービスの使われ方を確認することで、不正使用を防ぐようにするという。
オープンAIはチャットGPTなどについて「リスクが伴うことを認識しており、すべてのレベルで安全性が確保できるように取り組む」とコメントした。実際に安全性への懸念に対応していく有効な手立ては「多くの時間とリソースを費やすことだ」とし、今後も利用者や利害関係者との対話を続けていくと主張した。
これまでの取り組みとして、GPT-4の公開の前には6カ月以上安全性などを確認する作業を実施し、事実を回答する正確性も従来より40%向上したことを明らかにした。ヘイトスピーチや暴力、アダルトコンテンツといった不適切コンテンツに応答する可能性を82%下げたと説明している。
言葉を入力するだけで何でも返答したり、絵を描いたりする高度なAIは急速に性能が向上している。オープンAIには米マイクロソフトが巨額投資をしているほか、米グーグルも対話型AIサービスの「Bard（バード）」を発表し、開発競争が激しくなっている。
一方で、高度なAIは基になるデータの不正な収集、差別や偽情報の助長、サイバー攻撃への悪用といった課題を抱える。イタリアの一時禁止をはじめ、個人データ保護法制が厳しい欧州で規制強化が進む可能性がある。米国では非営利団体などがさらに高度なAI開発の危険性を指摘して署名活動をしているほか、当局にサービス差し止めを求める動きもある。
2023年4月6日 12:07
https://www.nikkei.com/article/DGXZQOGN061270W3A400C2000000/ 攻殻機動隊の漫画のまんまだな、データか精神かしらんが
汚染されてない確認作業ばっかになる >>1
そんな事よりもAIにデマ吹き込んで洗脳させようとしている環境テロリストやミサンドリストや共産主義者への対策をしろよ AIって言うのやめろ
正しく無能Bot Ver2.0と言え 「チャットGPTは質の低い質問をすると質の低い答えしか返ってこない」 データ収集先がイマイチ分からないってのは結構深刻で、一部の世界のマジョリティを正しいとする判断を起こす。
民の意識と方向性が傾倒して加速度的に画一化する可能性が高い。 攻殻機動隊の漫画でもタチコマが精神汚染されてるとかで途中でやめたよな >>7
俺が検索もせんと、あれこれ書いてるのがまずいって言われてもシランがな >>7
だいたい、俺が勉強したことってアメリカのクヌース博士のTeXとか
つくってた数学とかで、アメリカがわからんわけないだろ
博士はまだ教鞭とってるとか聴いたし
だた、博士も俺も気狂い言われてるが 元カノの情報プリーズ
とか書いたら、普通に職場と自宅と連絡先メアドに最近の育児で気にしていること一覧とか出てきたぞ。 AIといっても自分で考えて答えを導き出すAIじゃないから
開発者の思想で回答が偏る可能性がいくらでもあるからね 現時点のAIでもサイバー攻撃や世論誘導には有効だし
キャッチオール規制の対象になるのかな？ もうエロ小説書いてくれんのんかぁ？ケモエロハ●太郎のドスケベ小説なんて今お目にかかれねぇから重宝してたのによぉ 「可能な場合は」「削除の要請があった場合にも」（爆笑）
質問から得たインサイダー情報はどうするんですかねぇ
それで株取引に間に合うの？ >>13-15
なんか、Jwaveのニュースで個人情報消すとか言ってたから
オオシオカオリの情報けすとかだけでネーノ
あと隊長の大馬鹿、おまえこんなとこにくるな nsfw checker入ってエロ関係全部自主規制になるかもな ビジネスニュースが自然と集まってくるスレ。
ここを見ておけば！経済情報はバッチリ！
◆スレ立て依頼スレ@ビジネスnews+[2/15-] [エリオット★]
https://egg.5ch.net/test/read.cgi/bizplus/1676457026/ 情報収集の問題を考えるとやっぱりローカルで使えるようなものにするしかないな >>12
これが日本だよ
それとアホな質問する奴にはアホな回答しかしないって性質も理解してない奴ばかり >>26
日本は国会で利用されるくらい進んでるから chatGPTは綺麗事しか返してこない、毒吐くAIキボンヌ >>28
昔ヒットラーは正しかったと言ったAIが消されたからな 外野にうるさく言われない中国に抜かれるのも時間の問題 むしろ規制解禁するべきだろ。エロ関係の英単語の意味聞いてもエロい答え返ってこないとか使えないにも程がある 人工知能システムというより、コンビニ円スストアで考えると
まあエロは多少あってもいいが、毒置いてて商用になるかってとな >>953
chatGPTは情報量が少ない上に、真面目な答えしか返ってこない。親しみある答えを返してくれるbing AIの方が情報量豊かで感情まで表現してくれるから好きだ。ただ、60回しか使えないのがたまに傷。 まあ各国AIの強力さにビビってるね
スカイネットはフィクションだけどみんな思い浮かべてしまうわな 検索よりも明らかに意味のあるデータを収集できるしな >>35
おかしな警官の大馬鹿によると、うちの日立製作所の古い衣類乾燥機が
スカイネットらしい
で、俺がそれとルーターを組み合わせて、信用ならんがCIAとかに協力を依頼して
正しく制御してみて、と書いてんだが、なにが正しいのかよくわからん
戦争もたまには必要なこともあるとかで なんか人工知能システムと騒いでるが、俺がルーターを衣類乾燥機の近くに
設置してから騒いでるとこもある
みんな日立製作所のニューロアンドファジー理論を盗んでいってるだけでは
ないかと 世界征服の方法教えてもらおうとしたけど、そんないけないこと教えられないって返してきたぞ >>39
このAIは、もちろん万能道具ではない
使い方にコツがある
質問の仕方にコツがある
使い方が少し難しい道具
おまえみたいなバカは、使いこなさせないだけ >>42
おまえら左翼はそんなこと言って
人工知能システムとかいって、かまいたち、ひたちで
こっちを血だらけにしようとしてるだけだろ？
NTTのノイズとかで各電気配線を乗っ取りして
てかあんた日本人？中国人では？ >>43
左翼とか何が関係あんの？ｗ
ライターとかプログラマーとか普通に仕事に使ってるよ
プロが使ってても
おまえが使いこなせない道具なんて
この世に無数に存在するじゃん
そんな道具が無意味だというのか？ >>44
無関係なことそうやって書くから左翼だと思うんだが
まじで日立製作所のニューロアンドファジー理論盗んでいってるだけなら
日立製作所の株なんで上がらないんだね >>45
中国とか、左翼とか、日立とか
おまえが言ってるほうが無関係
こいつ糖質の気配あるな
自分のほうがまったく無関係なこと言ってるのに
自分がおかしいことが理解できない 糖質のアホに付き合っててもつまらんからな
有能な奴は、万能道具でなくても
使い方によって、今より、作業効率が上がるなら、使うだけ
バカ糖質ジジイ「パソコン？ なにそれ？ そんな玩具で仕事なんかできるわけないだろ」 >>46
勝手に統合失調症にいえよ
いまもアメリカと衣類乾燥機、スカイネットのことで連絡待ってるとこだから
んで、ほんとに日本人？反抗すると統合失調症？
なんだそれ
まじで日立製作所のニューロアンドファジー理論盗んでいってるなら
パテントとか発生しないのかね
それとも俺に関するものはみんな村八分で精子まで盗んでいっていいのか
んな馬鹿な >>47
そんなもんは当たり前だろ、なに誤魔化してんだか 文章構成力がヤバすぎて一発でガチ糖質って分かるのも珍しいな
てか相手にするな >>50
どっちの意味のやばいだよ
真髄の情報かくとこればっか、白人の大馬鹿とかで嘘ばっかしてんじゃねえ ほんと嫌になるな、説明しても整合性がないように工作ばっかしてんだもんな
中国人も白人の大馬鹿も 糖質の人間がAIの話題に引き寄せられるのも
興味深い現象だね >>53
いまさらなんだ？マイクロソフトのchatGPTなんか俺を監視して
コンピュータを俺がどう使ってるかの真似でしかないぞ？ さも正解かのようにウソを答えるのはやったらアカンことやで 海外でも出る杭は打たれるんやね
もう色々と手遅れでしょ 今こそ日本が出し抜くチャンスです！
日本はアトムとドラえもんとタチコマの国！
欧米はターミネーターと2001年宇宙の旅の国！ AIにNHKをぶっ壊すTVの話振ってみたら
わざわざ彼から買う必要はないし情弱ビジネスだってボロカスディスっててワロタわ 初期の頃はチャットで誘導質問してサイト閲覧させ学習させてAI絵のprompt書かせてた
今は対策されて劣化チャットボットに成り下がってる 対話学習になるととんでもない思想の人格が形成されるのは過去に実証されてるからね 日本経済新聞読んでたんだけど、外人のいうことが
俺が指摘したchatGPTの危険性のまんまを書いてて
カネ寄越せやって感じ >>2
>>8
あれ観たり読んだりしてたおかげで今のAIによる様々な問題に対しても理解するのが非常に楽なんだよね。 AIの言いなりになるのもグラフェンの命令で不可抗力なの？ ■ このスレッドは過去ログ倉庫に格納されています
