【企業】サムスン、機密情報をChatGPTにリークして大問題に [田杉山脈★]

**田杉山脈 ★** · 2023/04/10(月) 20:29:57.02

Samsung（サムスン）は、少なくとも3つの事例で同社の機密情報をOpenAIのChatGPTに流出させたとして大問題に。

今回判明したその事例というのは、それぞれのサムスン社員がやってしまった以下の3つです。

1）バグがある半導体データベースのソースコードをコピーして修正を依頼

2）機密コードをコピーして欠陥のある機器の修正プログラムを依頼

3）会議音声をチャットボットに投げて、議事録の作成を試みた

この情報漏えいを受けてサムスンは、各社員のChatGPTへのプロンプトを1,024バイトに制限する｢緊急措置｣を発動しました。

バツが悪いのは、サムスンが従業員に対してChatGPTの利用禁止を解除してからわずか3週間後に、これらの情報漏えいが起きてしまったことですね。現在サムスンは独自の社内AIを開発中です。

OpenAIは入力されたデータをすべて保存
問題は、たとえ社員が即座にPCの電源を切ったとしても、ChatGPTにはクエリが残り続けるということです。

Open AIは、｢ChatGPTや他のサービスに投稿されたデータは、AIモデルの改良のために利用することがある｣と述べていて、つまりユーザーが明示的にオプトアウトを選択しない限り、Open AIはそのデータを持ち続けることになります。

Open AIは｢特定のプロンプトを削除することができない｣ため、機密情報を入力しないようにユーザーに警告しています。

サムスンだけではない
サイバーセキュリティ企業のCyberhavenが行った最近の調査では、3.1%の人が1度は会社の機密情報をChatGPTに入力していることが明らかになりました。

従業員10万人レベルの大企業は、週に何百件もOpen AIに機密情報を共有している可能性があると推定しています。

もちろん、大企業も何もしていないわけではなく、この数週間でアマゾンやウォルマートはAIに機密情報を共有することを警告していたり、ベライゾンやJPモルガン・チェースはアクセスを完全にブロックしています。

サムスンに限らず、今後も情報漏えいして大問題になる事例は続きそうですね。
https://www.gizmodo.jp/2023/04/samsung-leaks-confidential-information-to-chatbot.html

**名刺は切らしておりまして** · 2023/04/10(月) 20:31:39.08

アホな社員がいるんだな

**名刺は切らしておりまして** · 2023/04/10(月) 20:38:00.33

頭いてえ

**名刺は切らしておりまして** · 2023/04/10(月) 20:38:20.89

チャラリー鼻から牛乳

**名刺は切らしておりまして** · 2023/04/10(月) 20:39:19.36

>>2
そうとも限らない
機密情報の漏洩は自己申告しない限りは直ぐには分からないし特定も難しい
それを分かってて仕事の効率化のために使ってとっとと転職されたらその社員は得しかしてないから逆に賢い奴だと言える

**名刺は切らしておりまして** · 2023/04/10(月) 20:40:36.23

入力欄への入力が情報漏洩になる事を知らずに何でも入力してるやつはそこら中にいると思う

**名刺は切らしておりまして** · 2023/04/10(月) 20:41:29.81

サムスンに機密情報なんてあったんだな
どこからパクったのかがバレるとかかな

**名刺は切らしておりまして** · 2023/04/10(月) 20:42:33.17

これマイクロソフトに各社の機密情報が次々に流れ込んでるってこと？

**名刺は切らしておりまして** · 2023/04/10(月) 20:44:49.62

思ったよりやばいかも
AI使いたいって欲求を抑えるのは難しいだろ

**名刺は切らしておりまして** · 2023/04/10(月) 20:46:17.16

マイクロソフト
ガッチリ！！

**名刺は切らしておりまして** · 2023/04/10(月) 20:46:19.27

「コオロギ食え」と言ってるの電通とパソナだった [882679842]
https://greta.5ch.net/test/read.cgi/poverty/1681118189/

ＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷＷ

**名刺は切らしておりまして** · 2023/04/10(月) 20:47:12.32

韓国人って楽して儲けようって考えが強いから
禁止してもこれからも使っていくだろうな

**名刺は切らしておりまして** · 2023/04/10(月) 20:51:40.58

ChatGPTにAIの作成を依頼すればいい

**名刺は切らしておりまして** · 2023/04/10(月) 20:56:13.86

ワードエクセルにつける予定だろ
避けれんやん　使えば事務処理が
合理化できて生産性アップ間違いないが、流出のリスクもあるから

どうなるんだろ　
何が機密事項か曖昧な部分多いしな

**名刺は切らしておりまして** · 2023/04/10(月) 21:01:52.50

サァムスン
我が弟サァムスンはどこへ行った

**名刺は切らしておりまして** · 2023/04/10(月) 21:39:43.43

本当に頭が悪い

**名刺は切らしておりまして** · 2023/04/10(月) 21:39:47.60

馬鹿正直に言うからでしょ
言わなきゃバレなかったのに

**名刺は切らしておりまして** · 2023/04/10(月) 21:51:53.65

さすがだわｗ

**名刺は切らしておりまして** · 2023/04/10(月) 21:54:42.24

先進的だが正しい使い方なんだよな

**名刺は切らしておりまして** · 2023/04/10(月) 21:56:25.75

>>17
社内LANからのアクセスを調べたらすぐ分かるからそれだろう

**名刺は切らしておりまして** · 2023/04/10(月) 22:55:56.60

百歩譲ってOpenAIに悪意がないとしても、学習に使われてほぼそのまま他の人への回答に使われるとかセキュリティ事故で流出とか魔が差した社員がデータ覗くとかありうるしな

**名刺は切らしておりまして** · 2023/04/10(月) 23:06:38.46

>>2
自己申告しなくても情報セキュリティ部門がChatGPTでエゴサかけて情報流出を確認してる

**名刺は切らしておりまして** · 2023/04/10(月) 23:13:41.63

うまく教え込ませたらステマに使えそうだな

**名刺は切らしておりまして** · 2023/04/11(火) 00:38:51.08

>>8
あ…

**名刺は切らしておりまして** · 2023/04/11(火) 01:24:16.01

こうやって機密情報が漏れるんですね。
大丈夫か？ソフトバンク

**名刺は切らしておりまして** · 2023/04/11(火) 04:29:01.20

あのソフトのあの処理のコードを探してきて。

はい。これですね！

**名刺は切らしておりまして** · 2023/04/11(火) 04:30:55.00

うちの会社も意識高い系アホが得体のしれないweb版のプロジェクト管理ツールにせっせと社内の業務を載せてドヤってたわ

**名刺は切らしておりまして** · 2023/04/11(火) 05:15:16.12

漏らさないって言ったのに(　´Α｀)

**名刺は切らしておりまして** · 2023/04/11(火) 08:06:08.96

サムスンの機密って隠蔽工作ぐらいしかないのか？

**名刺は切らしておりまして** · 2023/04/11(火) 08:14:07.06

使いたくなるよね
ほとんどのIT関係者は私的なPCで会社の業務関係のことでGPTを使ってると思う

**名刺は切らしておりまして** · 2023/04/11(火) 08:26:54.68

盗んだバイクが盗まれたニダ！

**名刺は切らしておりまして** · 2023/04/11(火) 08:45:04.35

>>27
情報処理安全確保支援士の試験問題ですか？

**名刺は切らしておりまして** · 2023/04/11(火) 08:51:04.09

これが怖いから業務利用は禁止なんだよな
問題になる頃だと思ってたわ

**名刺は切らしておりまして** · 2023/04/11(火) 08:52:09.88

何が大問題なのかわからん。
悪用されたのか？

**名刺は切らしておりまして** · 2023/04/11(火) 09:03:48.32

ソースコードにも著作権は有るからな
流出しちゃうのも困るが丸コピして他社のコードに汚染されるのも困る

**名刺は切らしておりまして** · 2023/04/11(火) 09:26:21.48

もしかしたらアメリカは日本にコレをやらせたくて
チャットGPTなるものを作ったのかも

**名刺は切らしておりまして** · 2023/04/11(火) 09:49:28.65

サムスン営業利益９６％減
https://lavender.5ch.net/test/read.cgi/news4plus/1680837630/

**名刺は切らしておりまして** · 2023/04/11(火) 10:51:13.12

俺の恥ずかしい性的趣味も漏洩してしまったか。

**名刺は切らしておりまして** · 2023/04/11(火) 11:47:34.88

>>38
まさかお前が車のマフラー見るたびに興奮して突っ込みたがるなんて思ってもみなかったわ

**名刺は切らしておりまして** · 2023/04/11(火) 11:51:24.91

サムスンアホ過ぎる

**名刺は切らしておりまして** · 2023/04/11(火) 12:07:05.43

キムチの隠し味でもバレたんかw

**名刺は切らしておりまして** · 2023/04/11(火) 12:15:30.46

ﾜﾗﾀ(笑)www藁www草ﾌﾟｷﾞｬ

**名刺は切らしておりまして** · 2023/04/11(火) 12:16:57.47

確かに顧客情報を、任意の並べ替えしてなんて依頼してアップした
途端に漏洩だもんな

人が気がつくレベルでそれがなんのデータかも類推出来るだろうし、まぁ危ないな仕事で使うとなると。

**名刺は切らしておりまして** · 2023/04/11(火) 12:17:45.38

朴った技術で機密じゃないからセーフ

**名刺は切らしておりまして** · 2023/04/11(火) 12:18:46.13

>>31
わかりやすー

**名刺は切らしておりまして** · 2023/04/11(火) 12:32:49.04

アドンは大丈夫なのか

**名刺は切らしておりまして** · 2023/04/11(火) 14:37:03.67

ChatGPTに聞けばサムソンの機密情報を教えてもらえそうだな

**名刺は切らしておりまして** · 2023/04/11(火) 16:48:36.66

ビジネスニュースが自然と集まってくるスレ。

ここを見ておけば！経済情報はバッチリ！

◆スレ立て依頼スレ@ビジネスnews+[2/15-] [エリオット★]
https://egg.5ch.net/test/read.cgi/bizplus/1676457026/

**名刺は切らしておりまして** · 2023/04/11(火) 16:57:43.40

>>32
その意識高い系アホは秘密保持契約も結ばずにファイルサーバーのクラウドバックアップサービスを試用してて、ガチ本番サーバから10TB分のファイルを送っちゃいました

**名刺は切らしておりまして** · 2023/04/11(火) 18:15:57.27

仕事にLINE使うなとか自動翻訳にぶち込むなレベルのセキュリティ笑

**名刺は切らしておりまして** · 2023/05/03(水) 20:16:38.67

バカ寒ちょんぼwwww

**名刺は切らしておりまして** · 2023/05/03(水) 20:52:13.62

検索代わりに使ってるけど
訓練されたAIだったりポンコツAIだったりするんだよな
感覚的に4種類ある感じ

**名刺は切らしておりまして** · 2023/05/03(水) 21:40:40.15

>>1
ジャップ企業だったら流出に気が付かないんだろうな