X



【企業】サムスン、機密情報をChatGPTにリークして大問題に [田杉山脈★]

■ このスレッドは過去ログ倉庫に格納されています
0001田杉山脈 ★
垢版 |
2023/04/10(月) 20:29:57.02ID:9ISUlHlc
Samsung(サムスン)は、少なくとも3つの事例で同社の機密情報をOpenAIのChatGPTに流出させたとして大問題に。

今回判明したその事例というのは、それぞれのサムスン社員がやってしまった以下の3つです。

1)バグがある半導体データベースのソースコードをコピーして修正を依頼

2)機密コードをコピーして欠陥のある機器の修正プログラムを依頼

3)会議音声をチャットボットに投げて、議事録の作成を試みた

この情報漏えいを受けてサムスンは、各社員のChatGPTへのプロンプトを1,024バイトに制限する「緊急措置」を発動しました。

バツが悪いのは、サムスンが従業員に対してChatGPTの利用禁止を解除してからわずか3週間後に、これらの情報漏えいが起きてしまったことですね。現在サムスンは独自の社内AIを開発中です。

OpenAIは入力されたデータをすべて保存
問題は、たとえ社員が即座にPCの電源を切ったとしても、ChatGPTにはクエリが残り続けるということです。

Open AIは、「ChatGPTや他のサービスに投稿されたデータは、AIモデルの改良のために利用することがある」と述べていて、つまりユーザーが明示的にオプトアウトを選択しない限り、Open AIはそのデータを持ち続けることになります。

Open AIは「特定のプロンプトを削除することができない」ため、機密情報を入力しないようにユーザーに警告しています。

サムスンだけではない
サイバーセキュリティ企業のCyberhavenが行った最近の調査では、3.1%の人が1度は会社の機密情報をChatGPTに入力していることが明らかになりました。

従業員10万人レベルの大企業は、週に何百件もOpen AIに機密情報を共有している可能性があると推定しています。

もちろん、大企業も何もしていないわけではなく、この数週間でアマゾンやウォルマートはAIに機密情報を共有することを警告していたり、ベライゾンやJPモルガン・チェースはアクセスを完全にブロックしています。

サムスンに限らず、今後も情報漏えいして大問題になる事例は続きそうですね。
https://www.gizmodo.jp/2023/04/samsung-leaks-confidential-information-to-chatbot.html
0005名刺は切らしておりまして
垢版 |
2023/04/10(月) 20:39:19.36ID:O3rgUZyU
>>2
そうとも限らない
機密情報の漏洩は自己申告しない限りは直ぐには分からないし特定も難しい
それを分かってて仕事の効率化のために使ってとっとと転職されたらその社員は得しかしてないから逆に賢い奴だと言える
0006名刺は切らしておりまして
垢版 |
2023/04/10(月) 20:40:36.23ID:2/mbpbaR
入力欄への入力が情報漏洩になる事を知らずに何でも入力してるやつはそこら中にいると思う
0007名刺は切らしておりまして
垢版 |
2023/04/10(月) 20:41:29.81ID:Pvpxcp1m
サムスンに機密情報なんてあったんだな
どこからパクったのかがバレるとかかな
0009名刺は切らしておりまして
垢版 |
2023/04/10(月) 20:44:49.62ID:bJBqi7rD
思ったよりやばいかも
AI使いたいって欲求を抑えるのは難しいだろ
0012名刺は切らしておりまして
垢版 |
2023/04/10(月) 20:47:12.32ID:+akcUlxf
韓国人って楽して儲けようって考えが強いから
禁止してもこれからも使っていくだろうな
0014名刺は切らしておりまして
垢版 |
2023/04/10(月) 20:56:13.86ID:WN3iDJqn
ワードエクセルにつける予定だろ
避けれんやん 使えば事務処理が
合理化できて生産性アップ間違いないが、流出のリスクもあるから

どうなるんだろ 
何が機密事項か曖昧な部分多いしな
0015名刺は切らしておりまして
垢版 |
2023/04/10(月) 21:01:52.50ID:WnV38qTD
サァムスン
我が弟サァムスンはどこへ行った
0016名刺は切らしておりまして
垢版 |
2023/04/10(月) 21:39:43.43ID:7QK70Ka1
本当に頭が悪い
0021名刺は切らしておりまして
垢版 |
2023/04/10(月) 22:55:56.60ID:nxts/AGz
百歩譲ってOpenAIに悪意がないとしても、学習に使われてほぼそのまま他の人への回答に使われるとかセキュリティ事故で流出とか魔が差した社員がデータ覗くとかありうるしな
0027名刺は切らしておりまして
垢版 |
2023/04/11(火) 04:30:55.00ID:dKuwMFQ5
うちの会社も意識高い系アホが得体のしれないweb版のプロジェクト管理ツールにせっせと社内の業務を載せてドヤってたわ
0029名刺は切らしておりまして
垢版 |
2023/04/11(火) 08:06:08.96ID:66aa5FdL
サムスンの機密って隠蔽工作ぐらいしかないのか?
0030名刺は切らしておりまして
垢版 |
2023/04/11(火) 08:14:07.06ID:ePc8/Dxl
使いたくなるよね
ほとんどのIT関係者は私的なPCで会社の業務関係のことでGPTを使ってると思う
0031名刺は切らしておりまして
垢版 |
2023/04/11(火) 08:26:54.68ID:/VhFdA4h
盗んだバイクが盗まれたニダ!
0032名刺は切らしておりまして
垢版 |
2023/04/11(火) 08:45:04.35ID:6SPBcTjw
>>27
情報処理安全確保支援士の試験問題ですか?
0034名刺は切らしておりまして
垢版 |
2023/04/11(火) 08:52:09.88ID:ZORWS/zQ
何が大問題なのかわからん。
悪用されたのか?
0035名刺は切らしておりまして
垢版 |
2023/04/11(火) 09:03:48.32ID:XjdWtYlx
ソースコードにも著作権は有るからな
流出しちゃうのも困るが丸コピして他社のコードに汚染されるのも困る
0036名刺は切らしておりまして
垢版 |
2023/04/11(火) 09:26:21.48ID:J+7w3s9y
もしかしたらアメリカは日本にコレをやらせたくて
チャットGPTなるものを作ったのかも
0040名刺は切らしておりまして
垢版 |
2023/04/11(火) 11:51:24.91ID:vHGUbq54
サムスンアホ過ぎる
0041名刺は切らしておりまして
垢版 |
2023/04/11(火) 12:07:05.43ID:lZIjJsWC
キムチの隠し味でもバレたんかw
0042名刺は切らしておりまして
垢版 |
2023/04/11(火) 12:15:30.46ID:vDfu2K2A
ワラタ(笑)www藁www草プギャ
0043名刺は切らしておりまして
垢版 |
2023/04/11(火) 12:16:57.47ID:iZI/2KxN
確かに顧客情報を、任意の並べ替えしてなんて依頼してアップした
途端に漏洩だもんな

人が気がつくレベルでそれがなんのデータかも類推出来るだろうし、まぁ危ないな仕事で使うとなると。
0045名刺は切らしておりまして
垢版 |
2023/04/11(火) 12:18:46.13ID:y920wz7p
>>31
わかりやすー
0047名刺は切らしておりまして
垢版 |
2023/04/11(火) 14:37:03.67ID:w7SsmC3d
ChatGPTに聞けばサムソンの機密情報を教えてもらえそうだな
0048名刺は切らしておりまして
垢版 |
2023/04/11(火) 16:48:36.66ID:8lotck7q
ビジネスニュースが自然と集まってくるスレ。

ここを見ておけば!経済情報はバッチリ!

◆スレ立て依頼スレ@ビジネスnews+[2/15-] [エリオット★]
https://egg.5ch.net/test/read.cgi/bizplus/1676457026/
0049名刺は切らしておりまして
垢版 |
2023/04/11(火) 16:57:43.40ID:dKuwMFQ5
>>32
その意識高い系アホは秘密保持契約も結ばずにファイルサーバーのクラウドバックアップサービスを試用してて、ガチ本番サーバから10TB分のファイルを送っちゃいました
0051名刺は切らしておりまして
垢版 |
2023/05/03(水) 20:16:38.67ID:1nmVeZbp
バカ寒ちょんぼwwww
0052名刺は切らしておりまして
垢版 |
2023/05/03(水) 20:52:13.62
検索代わりに使ってるけど
訓練されたAIだったりポンコツAIだったりするんだよな
感覚的に4種類ある感じ
0053名刺は切らしておりまして
垢版 |
2023/05/03(水) 21:40:40.15ID:CraD+YRT
>>1
ジャップ企業だったら流出に気が付かないんだろうな
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況