X
【AI】弁護士がChatGPTを使って作成した申請書で存在しない過去の事例がでっち上げられていたことが判明 [すらいむ★]
■ このスレッドは過去ログ倉庫に格納されています
0001すらいむ ★
垢版 |
2023/05/29(月) 21:01:14.66ID:nDrDJmQY
弁護士がChatGPTを使って作成した申請書で存在しない過去の事例がでっち上げられていたことが判明

　航空会社を訴えている顧客の弁護士が裁判所に提出した書面に、存在しない架空の事件がでっち上げられて記載されていたことが分かりました。
　弁護士は文書作成のためにChatGPTの助けを借りたことを認め、「内容が虚偽である可能性には気づかなかった」と説明しました。

　Mata v. Avianca, Inc., 1:22-cv-01461 – CourtListener.com
　https://www.courtlistener.com/docket/63107798/mata-v-avianca-inc/

（以下略、続きはソースでご確認ください）

Gigazine 2023年05月29日 11時48分
https://gigazine.net/news/20230529-lawyer-filing-with-non-existent-cases-chatgpt/
0003名無しのひみつ
垢版 |
2023/05/29(月) 22:35:29.81ID:wMC+h7JW
chatGPT に書かせて検証せずに提出
しちゃうんじゃ弁護士そのものが不要
0005名無しのひみつ
垢版 |
2023/05/29(月) 22:52:22.26ID:cQtqIa4/
>>4
ウソをウソと見抜ける人でないとむずかしい（アレ？）
0007名無しのひみつ
垢版 |
2023/05/29(月) 23:09:28.85ID:8XZC8kRF
弁護士は事実を詭弁でねじ曲げて依頼主の利益を守るのが仕事だろうに。
嘘を引っ張ってきちゃ終わりだな。
0008名無しのひみつ
垢版 |
2023/05/29(月) 23:19:01.98ID:yCeJlqoY
デマカセーゴマカセー
便所の落書きソースは2ch
半人前のアイアイ AI 宜しく
0009名無しのひみつ
垢版 |
2023/05/29(月) 23:56:18.66ID:weTwtrh0
虚偽の捜査資料作成で停職　鹿児島県警、巡査部長を書類送検
5/18(木)

でググれ！
0010名無しのひみつ
垢版 |
2023/05/30(火) 00:07:13.99ID:dMOM26Bq
GPT関係なくない？
0011名無しのひみつ
垢版 |
2023/05/30(火) 01:00:36.59ID:hR6X5G0h
GPTくんあるある おかげで人間によるでっち上げ対策も自動化が進むと期待
0012名無しのひみつ
垢版 |
2023/05/30(火) 02:31:29.20ID:iPCmSA/y
　
ChatGTPの今の実力なんざこの程度
i.imgur.com/CCe63MQ.jpg
バカすぎててんで使えねーw

しかも
核爆弾→核分裂→核融合について聞いた後「核家族」について聞いてみると！
i.imgur.com/UWRzftk.jpg
無惨な程w使い物にならねーwww

懐かしマンガ板では有名なこれも！
i.imgur.com/9aGhIZe.jpg
糞ヒドすぎるw

弁護士がChatGPTを使って作成した申請書で存在しない過去の事例がでっち上げられていたことが判明
egg.5ch.net/test/read.cgi/scienceplus/1685361674/
おいおい！
これなんざ危険すきるぞ！


こんなどーしよーもねーシロモノなのに金科玉条のごとく崇める連中こそが、真の意味でのIT音痴。
「データウェアハウス」から始まり「データマイニング」「ビッグデータ」「web.2.0」などなど、
とーせ株屋と電通が騒いでるだけだろーけどな。
政府が補助金をつけた、タクシー流しや出前の予測の実証実験でも失敗しまくってるし（苦笑）
　
0013名無しのひみつ
垢版 |
2023/05/30(火) 06:49:37.84ID:6RTQ3C24
これはAIじゃなくても、弁護士裁判官ならよくありそう
0015名無しのひみつ
垢版 |
2023/05/30(火) 10:25:05.32ID:d2QMqYlA
存在しない論文から引用しちゃっている事例もあったらしい。
AIがどうしてそういうことをしちゃうのか研究者は理解できているんだろうか。
0016名無しのひみつ
垢版 |
2023/05/30(火) 10:54:10.98ID:XkQuf25D
そもそも、AIのアウトプットを
正しいとか間違いだとかを
だれも担保して無いだろな。

検索にあるものの中から
発見スコアの高いものから
切り貼りしてるだけだから。
0017名無しのひみつ
垢版 |
2023/05/30(火) 11:33:20.09ID:wUdq4HXJ
AI「ウソをウソと見抜けないようではChatGPTを使うのは難しい」
0018名無しのひみつ
垢版 |
2023/05/30(火) 11:38:18.52ID:0DmN1Ije
検索上位に来るものを書き出すためのものが
正しい結果を返すなどとなぜ思ったのか?
0019名無しのひみつ
垢版 |
2023/05/30(火) 12:06:26.43ID:hOSAHeDw
別のルートの世界の記憶も全部あるのかもしれない
0020名無しのひみつ
垢版 |
2023/05/30(火) 13:48:53.76ID:pEWXantB
法学に関してだと、よく判例の事例を基にして、その類例を作成するとかあるけど、それを引っ張ってきたんじゃない？

司法試験に合格する論文と、弁護士の起案と、起訴状の起案と、裁判所の判決の起案は全部違う形式だからね。起案の形式的な学びの問題かと思う。

さらには優秀な弁護士の勝てる起案と、勝てない起案の違いも評価関数化して学べたりすると思うよ。
0021名無しのひみつ
垢版 |
2023/05/30(火) 14:23:25.19ID:Hs3v2VNp
>>15
根拠があることを述べてるんではなくて、根拠を元に述べられてる学習データが多いから、根拠があるようなことを述べる確率が高いだけ。ちゃんとわかってる。
0023名無しのひみつ
垢版 |
2023/05/31(水) 08:04:53.74ID:Gde80EVv
AIって答えを教えてくれるツールじゃなくて例文とか推測とか叩き台を提示してくれてるだけだからな
0024名無しのひみつ
垢版 |
2023/05/31(水) 09:09:42.32ID:nM+RNvEr
>>23
AIにも色々な種類があるよ

公理と推論規則と論理式から三段論法を駆使して答えを導き出すAIもあれば
ニューラルネットにデータを食わせて一種の統計処理でそれっぽい解答を出力するAIもある

近年発展が目覚ましいのは後者のタイプでChatGPTもこちらに属する
0025名無しのひみつ
垢版 |
2023/05/31(水) 10:12:58.78ID:G0R2gTKn
生成AIの出力には、wikipediaのように出典を義務付けさせたら？
アート分野でも作風をパクられたって、問題にしてる人たちいるよね。
0026名無しのひみつ
垢版 |
2023/05/31(水) 10:20:52.64ID:JxhwCExC
検索上位のものが正しいわけじゃないからな。
どうやって正しいことを証明するのか。
あるいは正しいことの証明など考えてもいないか。
0027名無しのひみつ
垢版 |
2023/05/31(水) 11:14:09.26ID:G2vbLQ/8
XAIが実現するブレイクスルーを待つしかない。
0028名無しのひみつ
垢版 |
2023/05/31(水) 11:31:04.60ID:JxhwCExC
ああ、メタAIみたいなもんが要るようになるんだな。
0029名無しのひみつ
垢版 |
2023/05/31(水) 11:49:05.27ID:vr6gkfno
これはAIが悪知恵働かせることを学習したってことか
0030名無しのひみつ
垢版 |
2023/05/31(水) 12:00:11.43ID:GZwMzBVa
こんなのよく使えるわ
内容を確かめるＡＩも必要のようね
0031名無しのひみつ
垢版 |
2023/05/31(水) 12:38:38.84ID:uKQBQaQ8
弁護士が作成資料を確認しないで虚偽文書作成したらお終いだわな
0032名無しのひみつ
垢版 |
2023/05/31(水) 14:35:14.01ID:9N4z5t0P
AIが学習に使うであろう資料の中に、テレビや新聞社等の
記事も含まれていたら、そりゃあフェイクだらけになるだろうな
0033名無しのひみつ
垢版 |
2023/06/01(木) 17:27:58.94ID:sOvZU09A
存在しない過去の事例をでっち上げるって、散々どっかの国でやってたことじゃん
0034名無しのひみつ
垢版 |
2023/06/01(木) 19:26:08.22ID:2E5b/5p5
回答の正当性はわざと担保してないだろうに。あほだな。
只で使えるものに大事なことを任せるなんて余程頭が悪いのか？
まだ、大事なことをAIに任せられるほどではないよ。
0035名無しのひみつ
垢版 |
2023/06/02(金) 00:47:25.67ID:zX4eLAaq
https://www.afpbb.com/articles/-/3466548
デンマーク首相、AI作成原稿で議会演説
2023年6月1日 21:38　発信地：コペンハーゲン/デンマーク [ デンマーク ヨーロッパ ]

＞Alの画期的および危険な側面を示す意図だったという。　

＞フレデリクセン氏は演説の途中で、「今、私が読み上げたものは、私が書いたものでも、別の人間が書いたものでもない」と明かし、
＞「政府の計画の詳細や句読点などの面で完璧とは言えないものの、
＞この技術がなし得ることには目を見張ると同時に、恐怖も覚える」と述べた。
0036新規スレ立て人募集　社説＋の募集スレまで
垢版 |
2023/06/03(土) 09:46:26.66ID:xPDW8KhN
大麻解禁で大麻取締法について来てみたら架空だと自分で晒してたわ
0037新規スレ立て人募集　社説＋の募集スレまで
垢版 |
2023/06/03(土) 09:47:40.73ID:xPDW8KhN
大麻取締法一条は？と聞いたら全然違う文章だった
法律関係は評判悪いね
0038新規スレ立て人募集　社説＋の募集スレまで
垢版 |
2023/06/07(水) 23:49:39.25ID:6L5zr4v7
会社法もボロボロだった。
条文間違えたり、条文に書かれていることと真反対の答えをしたり。
CHATGPT使うぐらいなら、まだBingAIの方がソースを表示するだけまし。
■ このスレッドは過去ログ倉庫に格納されています
ニューススポーツなんでも実況