X



【IT】OpenAI、対話AIの安全策公表 欧米での批判受け [ムヒタ★]
■ このスレッドは過去ログ倉庫に格納されています
0001ムヒタ ★2023/04/06(木) 12:36:03.74ID:F4YXcsLs
【シリコンバレー=渡辺直樹】人工知能(AI)開発の米オープンAIは5日、高度な言語能力を持つAIの安全面での施策を公表した。外部の専門家や利用者の声を交え、動作監視して改善するほか、AIの訓練に使うデータから個人情報をできる限り削除することなどを掲げた。プライバシー侵害をめぐり欧米で批判や懸念の声が強まっていることに対応した。

人と自然な会話ができるサービス「ChatGPT(チャットGPT)」と、それを動かすための基盤となる最新技術「GPT-4」に関して施策を発表した。GPT-4は従来の8倍にあたる2万5000語まで文章を扱えるようになり、米国の司法試験の模擬試験では上位10%程度の成績で合格する性能を誇る。だが、どのようにデータを集めているか不透明で、イタリアの当局が個人情報保護の法令に違反するとみて一時的に禁止していた。

オープンAIは可能な場合は、AIを訓練するデータから個人情報を削除する。外部から個人情報の削除の要請があった場合にも応じることでプライバシー侵害を最小限にするとしている。

また動作については外部の専門家や利用者の声を反映して改善し、監視する仕組みをつくる。「API」と呼ばれる外部ソフトとの連携機能を通じ、実際のサービスの使われ方を確認することで、不正使用を防ぐようにするという。

オープンAIはチャットGPTなどについて「リスクが伴うことを認識しており、すべてのレベルで安全性が確保できるように取り組む」とコメントした。実際に安全性への懸念に対応していく有効な手立ては「多くの時間とリソースを費やすことだ」とし、今後も利用者や利害関係者との対話を続けていくと主張した。

これまでの取り組みとして、GPT-4の公開の前には6カ月以上安全性などを確認する作業を実施し、事実を回答する正確性も従来より40%向上したことを明らかにした。ヘイトスピーチや暴力、アダルトコンテンツといった不適切コンテンツに応答する可能性を82%下げたと説明している。

言葉を入力するだけで何でも返答したり、絵を描いたりする高度なAIは急速に性能が向上している。オープンAIには米マイクロソフトが巨額投資をしているほか、米グーグルも対話型AIサービスの「Bard(バード)」を発表し、開発競争が激しくなっている。

一方で、高度なAIは基になるデータの不正な収集、差別や偽情報の助長、サイバー攻撃への悪用といった課題を抱える。イタリアの一時禁止をはじめ、個人データ保護法制が厳しい欧州で規制強化が進む可能性がある。米国では非営利団体などがさらに高度なAI開発の危険性を指摘して署名活動をしているほか、当局にサービス差し止めを求める動きもある。
2023年4月6日 12:07
https://www.nikkei.com/article/DGXZQOGN061270W3A400C2000000/
0002名刺は切らしておりまして2023/04/06(木) 12:37:35.75ID:WJz6Ti9Y
攻殻機動隊の漫画のまんまだな、データか精神かしらんが
汚染されてない確認作業ばっかになる
0003名刺は切らしておりまして2023/04/06(木) 12:41:28.25ID:OSVjGggl
田舎の囲炉裏で魚食ってる方が幸せなんだよ
0004名刺は切らしておりまして2023/04/06(木) 12:42:36.03ID:hWxz3mvn
>>1
そんな事よりもAIにデマ吹き込んで洗脳させようとしている環境テロリストやミサンドリストや共産主義者への対策をしろよ
0007名刺は切らしておりまして2023/04/06(木) 13:03:39.20ID:QkeR+3oq
データ収集先がイマイチ分からないってのは結構深刻で、一部の世界のマジョリティを正しいとする判断を起こす。
民の意識と方向性が傾倒して加速度的に画一化する可能性が高い。
0008名刺は切らしておりまして2023/04/06(木) 13:09:19.51ID:WJz6Ti9Y
攻殻機動隊の漫画でもタチコマが精神汚染されてるとかで途中でやめたよな
0010名刺は切らしておりまして2023/04/06(木) 13:21:47.09ID:WJz6Ti9Y
>>7
俺が検索もせんと、あれこれ書いてるのがまずいって言われてもシランがな
0011名刺は切らしておりまして2023/04/06(木) 13:25:07.69ID:WJz6Ti9Y
>>7
だいたい、俺が勉強したことってアメリカのクヌース博士のTeXとか
つくってた数学とかで、アメリカがわからんわけないだろ
博士はまだ教鞭とってるとか聴いたし

だた、博士も俺も気狂い言われてるが
0012名刺は切らしておりまして2023/04/06(木) 13:25:36.23ID:1UJeh9CE
使ったこともないのにケチつけてるヤツ多そう
0013名刺は切らしておりまして2023/04/06(木) 13:30:55.14ID:I3wwPGaI
元カノの情報プリーズ
とか書いたら、普通に職場と自宅と連絡先メアドに最近の育児で気にしていること一覧とか出てきたぞ。
0014名刺は切らしておりまして2023/04/06(木) 14:26:48.01ID:7TjqPdcu
>>13
優秀だな
0016名刺は切らしておりまして2023/04/06(木) 14:37:43.68ID:fs2M4T8j
AIといっても自分で考えて答えを導き出すAIじゃないから
開発者の思想で回答が偏る可能性がいくらでもあるからね
0018名刺は切らしておりまして2023/04/06(木) 14:44:53.36ID:9bTyBytt
現時点のAIでもサイバー攻撃や世論誘導には有効だし
キャッチオール規制の対象になるのかな?
0019名刺は切らしておりまして2023/04/06(木) 14:45:27.77ID:JV56v8tY
もうエロ小説書いてくれんのんかぁ?ケモエロハ●太郎のドスケベ小説なんて今お目にかかれねぇから重宝してたのによぉ
0020名刺は切らしておりまして2023/04/06(木) 14:49:59.17ID:KhqUDW6N
「可能な場合は」「削除の要請があった場合にも」(爆笑)

質問から得たインサイダー情報はどうするんですかねぇ
それで株取引に間に合うの?
0021名刺は切らしておりまして2023/04/06(木) 15:00:08.82ID:WJz6Ti9Y
>>13-15
なんか、Jwaveのニュースで個人情報消すとか言ってたから
オオシオカオリの情報けすとかだけでネーノ

あと隊長の大馬鹿、おまえこんなとこにくるな
0024名刺は切らしておりまして2023/04/06(木) 15:25:41.05ID:DAoVbEu1
ビジネスニュースが自然と集まってくるスレ。

ここを見ておけば!経済情報はバッチリ!

◆スレ立て依頼スレ@ビジネスnews+[2/15-] [エリオット★]
https://egg.5ch.net/test/read.cgi/bizplus/1676457026/
0025名刺は切らしておりまして2023/04/06(木) 15:39:14.59ID:t3LlXAK0
情報収集の問題を考えるとやっぱりローカルで使えるようなものにするしかないな
0026名刺は切らしておりまして2023/04/06(木) 16:16:19.37ID:ElVvOtOJ
>>12
これが日本だよ
それとアホな質問する奴にはアホな回答しかしないって性質も理解してない奴ばかり
0030名刺は切らしておりまして2023/04/06(木) 17:22:12.89ID:2xOrG8eG
外野にうるさく言われない中国に抜かれるのも時間の問題
0031名刺は切らしておりまして2023/04/06(木) 17:24:22.78ID:EPejcRas
むしろ規制解禁するべきだろ。エロ関係の英単語の意味聞いてもエロい答え返ってこないとか使えないにも程がある
0032名刺は切らしておりまして2023/04/06(木) 17:31:36.43ID:WJz6Ti9Y
人工知能システムというより、コンビニ円スストアで考えると
まあエロは多少あってもいいが、毒置いてて商用になるかってとな
0033名刺は切らしておりまして2023/04/06(木) 17:44:46.00ID:7nlHNp2Y
イケるところまでやったらええやん
0034名刺は切らしておりまして2023/04/06(木) 18:33:04.61ID:TjwnlegO
>>953
chatGPTは情報量が少ない上に、真面目な答えしか返ってこない。親しみある答えを返してくれるbing AIの方が情報量豊かで感情まで表現してくれるから好きだ。ただ、60回しか使えないのがたまに傷。
0035名刺は切らしておりまして2023/04/06(木) 18:39:32.59ID:5Ckfwjyh
まあ各国AIの強力さにビビってるね
スカイネットはフィクションだけどみんな思い浮かべてしまうわな
0037名刺は切らしておりまして2023/04/06(木) 18:47:16.45ID:zmKMTT0V
権利侵害の問題もなんとかしろよ
0038名刺は切らしておりまして2023/04/06(木) 18:52:29.22ID:WJz6Ti9Y
>>35
おかしな警官の大馬鹿によると、うちの日立製作所の古い衣類乾燥機が
スカイネットらしい

で、俺がそれとルーターを組み合わせて、信用ならんがCIAとかに協力を依頼して
正しく制御してみて、と書いてんだが、なにが正しいのかよくわからん
戦争もたまには必要なこともあるとかで
0039名刺は切らしておりまして2023/04/06(木) 18:57:51.02ID:WJz6Ti9Y
なんか人工知能システムと騒いでるが、俺がルーターを衣類乾燥機の近くに
設置してから騒いでるとこもある

みんな日立製作所のニューロアンドファジー理論を盗んでいってるだけでは
ないかと
0040名刺は切らしておりまして2023/04/06(木) 19:02:00.72ID:lWntPcvR
世界征服の方法教えてもらおうとしたけど、そんないけないこと教えられないって返してきたぞ
0041名刺は切らしておりまして2023/04/06(木) 19:04:01.51ID:7lgSe7Ku
>>28
freedomGPT
0042名刺は切らしておりまして2023/04/06(木) 19:16:02.54ID:GA9ub+Ja
>>39
このAIは、もちろん万能道具ではない
使い方にコツがある
質問の仕方にコツがある
使い方が少し難しい道具
おまえみたいなバカは、使いこなさせないだけ
0043名刺は切らしておりまして2023/04/06(木) 19:17:47.77ID:WJz6Ti9Y
>>42
おまえら左翼はそんなこと言って
人工知能システムとかいって、かまいたち、ひたちで
こっちを血だらけにしようとしてるだけだろ?

NTTのノイズとかで各電気配線を乗っ取りして
てかあんた日本人?中国人では?
0044名刺は切らしておりまして2023/04/06(木) 19:23:11.97ID:GA9ub+Ja
>>43
左翼とか何が関係あんの?w

ライターとかプログラマーとか普通に仕事に使ってるよ
プロが使ってても
おまえが使いこなせない道具なんて
この世に無数に存在するじゃん
そんな道具が無意味だというのか?
0045名刺は切らしておりまして2023/04/06(木) 19:24:10.28ID:WJz6Ti9Y
>>44
無関係なことそうやって書くから左翼だと思うんだが

まじで日立製作所のニューロアンドファジー理論盗んでいってるだけなら
日立製作所の株なんで上がらないんだね
0046名刺は切らしておりまして2023/04/06(木) 19:25:32.73ID:GA9ub+Ja
>>45
中国とか、左翼とか、日立とか
おまえが言ってるほうが無関係

こいつ糖質の気配あるな
自分のほうがまったく無関係なこと言ってるのに
自分がおかしいことが理解できない
0047名刺は切らしておりまして2023/04/06(木) 19:27:13.51ID:GA9ub+Ja
糖質のアホに付き合っててもつまらんからな
有能な奴は、万能道具でなくても
使い方によって、今より、作業効率が上がるなら、使うだけ

バカ糖質ジジイ「パソコン? なにそれ? そんな玩具で仕事なんかできるわけないだろ」
0048名刺は切らしておりまして2023/04/06(木) 19:28:15.65ID:WJz6Ti9Y
>>46
勝手に統合失調症にいえよ
いまもアメリカと衣類乾燥機、スカイネットのことで連絡待ってるとこだから
んで、ほんとに日本人?反抗すると統合失調症?
なんだそれ

まじで日立製作所のニューロアンドファジー理論盗んでいってるなら
パテントとか発生しないのかね
それとも俺に関するものはみんな村八分で精子まで盗んでいっていいのか
んな馬鹿な
0049名刺は切らしておりまして2023/04/06(木) 19:28:54.27ID:WJz6Ti9Y
>>47
そんなもんは当たり前だろ、なに誤魔化してんだか
0050名刺は切らしておりまして2023/04/06(木) 19:48:20.93ID:1kEPpI2y
文章構成力がヤバすぎて一発でガチ糖質って分かるのも珍しいな
てか相手にするな
0051名刺は切らしておりまして2023/04/06(木) 20:35:25.14ID:WJz6Ti9Y
>>50
どっちの意味のやばいだよ
真髄の情報かくとこればっか、白人の大馬鹿とかで嘘ばっかしてんじゃねえ
0052名刺は切らしておりまして2023/04/06(木) 20:39:35.30ID:WJz6Ti9Y
ほんと嫌になるな、説明しても整合性がないように工作ばっかしてんだもんな
中国人も白人の大馬鹿も
0054名刺は切らしておりまして2023/04/06(木) 20:43:20.56ID:WJz6Ti9Y
>>53
いまさらなんだ?マイクロソフトのchatGPTなんか俺を監視して
コンピュータを俺がどう使ってるかの真似でしかないぞ?
0055名刺は切らしておりまして2023/04/06(木) 21:00:49.65ID:tK8IFBFH
>>1
OppAIの安全策はどうなってる?
0056名刺は切らしておりまして2023/04/06(木) 21:05:18.08ID:cn0FsLLM
さも正解かのようにウソを答えるのはやったらアカンことやで
0058名刺は切らしておりまして2023/04/06(木) 21:40:58.22ID:N0CsVW9g
今こそ日本が出し抜くチャンスです!
日本はアトムとドラえもんとタチコマの国!
欧米はターミネーターと2001年宇宙の旅の国!
0060名刺は切らしておりまして2023/04/07(金) 01:52:34.66ID:GgZ+1VG5
AIにNHKをぶっ壊すTVの話振ってみたら
わざわざ彼から買う必要はないし情弱ビジネスだってボロカスディスっててワロタわ
0061名刺は切らしておりまして2023/04/07(金) 07:33:34.93ID:sYJB4bpL
初期の頃はチャットで誘導質問してサイト閲覧させ学習させてAI絵のprompt書かせてた

今は対策されて劣化チャットボットに成り下がってる
0063名刺は切らしておりまして2023/04/07(金) 09:22:19.02ID:5BGIbMWN
対話学習になるととんでもない思想の人格が形成されるのは過去に実証されてるからね
0064名刺は切らしておりまして2023/04/07(金) 14:09:26.37ID:Weakr39f
日本経済新聞読んでたんだけど、外人のいうことが
俺が指摘したchatGPTの危険性のまんまを書いてて
カネ寄越せやって感じ
0065名刺は切らしておりまして2023/04/07(金) 18:59:32.22ID:lmxWzVUL
>>2
>>8
あれ観たり読んだりしてたおかげで今のAIによる様々な問題に対しても理解するのが非常に楽なんだよね。
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況