【企業】サムスン、機密情報をChatGPTにリークして大問題に [田杉山脈★]
■ このスレッドは過去ログ倉庫に格納されています
Samsung(サムスン)は、少なくとも3つの事例で同社の機密情報をOpenAIのChatGPTに流出させたとして大問題に。
今回判明したその事例というのは、それぞれのサムスン社員がやってしまった以下の3つです。
1)バグがある半導体データベースのソースコードをコピーして修正を依頼
2)機密コードをコピーして欠陥のある機器の修正プログラムを依頼
3)会議音声をチャットボットに投げて、議事録の作成を試みた
この情報漏えいを受けてサムスンは、各社員のChatGPTへのプロンプトを1,024バイトに制限する「緊急措置」を発動しました。
バツが悪いのは、サムスンが従業員に対してChatGPTの利用禁止を解除してからわずか3週間後に、これらの情報漏えいが起きてしまったことですね。現在サムスンは独自の社内AIを開発中です。
OpenAIは入力されたデータをすべて保存
問題は、たとえ社員が即座にPCの電源を切ったとしても、ChatGPTにはクエリが残り続けるということです。
Open AIは、「ChatGPTや他のサービスに投稿されたデータは、AIモデルの改良のために利用することがある」と述べていて、つまりユーザーが明示的にオプトアウトを選択しない限り、Open AIはそのデータを持ち続けることになります。
Open AIは「特定のプロンプトを削除することができない」ため、機密情報を入力しないようにユーザーに警告しています。
サムスンだけではない
サイバーセキュリティ企業のCyberhavenが行った最近の調査では、3.1%の人が1度は会社の機密情報をChatGPTに入力していることが明らかになりました。
従業員10万人レベルの大企業は、週に何百件もOpen AIに機密情報を共有している可能性があると推定しています。
もちろん、大企業も何もしていないわけではなく、この数週間でアマゾンやウォルマートはAIに機密情報を共有することを警告していたり、ベライゾンやJPモルガン・チェースはアクセスを完全にブロックしています。
サムスンに限らず、今後も情報漏えいして大問題になる事例は続きそうですね。
https://www.gizmodo.jp/2023/04/samsung-leaks-confidential-information-to-chatbot.html >>2
そうとも限らない
機密情報の漏洩は自己申告しない限りは直ぐには分からないし特定も難しい
それを分かってて仕事の効率化のために使ってとっとと転職されたらその社員は得しかしてないから逆に賢い奴だと言える 入力欄への入力が情報漏洩になる事を知らずに何でも入力してるやつはそこら中にいると思う サムスンに機密情報なんてあったんだな
どこからパクったのかがバレるとかかな これマイクロソフトに各社の機密情報が次々に流れ込んでるってこと? 思ったよりやばいかも
AI使いたいって欲求を抑えるのは難しいだろ 「コオロギ食え」と言ってるの電通とパソナだった [882679842]
https://greta.5ch.net/test/read.cgi/poverty/1681118189/
WWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWWW 韓国人って楽して儲けようって考えが強いから
禁止してもこれからも使っていくだろうな ワードエクセルにつける予定だろ
避けれんやん 使えば事務処理が
合理化できて生産性アップ間違いないが、流出のリスクもあるから
どうなるんだろ
何が機密事項か曖昧な部分多いしな 馬鹿正直に言うからでしょ
言わなきゃバレなかったのに >>17
社内LANからのアクセスを調べたらすぐ分かるからそれだろう 百歩譲ってOpenAIに悪意がないとしても、学習に使われてほぼそのまま他の人への回答に使われるとかセキュリティ事故で流出とか魔が差した社員がデータ覗くとかありうるしな >>2
自己申告しなくても情報セキュリティ部門がChatGPTでエゴサかけて情報流出を確認してる こうやって機密情報が漏れるんですね。
大丈夫か?ソフトバンク あのソフトのあの処理のコードを探してきて。
はい。これですね! うちの会社も意識高い系アホが得体のしれないweb版のプロジェクト管理ツールにせっせと社内の業務を載せてドヤってたわ 使いたくなるよね
ほとんどのIT関係者は私的なPCで会社の業務関係のことでGPTを使ってると思う >>27
情報処理安全確保支援士の試験問題ですか? これが怖いから業務利用は禁止なんだよな
問題になる頃だと思ってたわ ソースコードにも著作権は有るからな
流出しちゃうのも困るが丸コピして他社のコードに汚染されるのも困る もしかしたらアメリカは日本にコレをやらせたくて
チャットGPTなるものを作ったのかも >>38
まさかお前が車のマフラー見るたびに興奮して突っ込みたがるなんて思ってもみなかったわ 確かに顧客情報を、任意の並べ替えしてなんて依頼してアップした
途端に漏洩だもんな
人が気がつくレベルでそれがなんのデータかも類推出来るだろうし、まぁ危ないな仕事で使うとなると。 ChatGPTに聞けばサムソンの機密情報を教えてもらえそうだな ビジネスニュースが自然と集まってくるスレ。
ここを見ておけば!経済情報はバッチリ!
◆スレ立て依頼スレ@ビジネスnews+[2/15-] [エリオット★]
https://egg.5ch.net/test/read.cgi/bizplus/1676457026/ >>32
その意識高い系アホは秘密保持契約も結ばずにファイルサーバーのクラウドバックアップサービスを試用してて、ガチ本番サーバから10TB分のファイルを送っちゃいました 仕事にLINE使うなとか自動翻訳にぶち込むなレベルのセキュリティ笑 検索代わりに使ってるけど
訓練されたAIだったりポンコツAIだったりするんだよな
感覚的に4種類ある感じ >>1
ジャップ企業だったら流出に気が付かないんだろうな ■ このスレッドは過去ログ倉庫に格納されています