【AI】弁護士がChatGPTを使って作成した申請書で存在しない過去の事例がでっち上げられていたことが判明 [すらいむ★]

**すらいむ ★** · 2023/05/29(月) 21:01:14.66

弁護士がChatGPTを使って作成した申請書で存在しない過去の事例がでっち上げられていたことが判明

　航空会社を訴えている顧客の弁護士が裁判所に提出した書面に、存在しない架空の事件がでっち上げられて記載されていたことが分かりました。
　弁護士は文書作成のためにChatGPTの助けを借りたことを認め、「内容が虚偽である可能性には気づかなかった」と説明しました。

　Mata v. Avianca, Inc., 1:22-cv-01461 – CourtListener.com
　https://www.courtlistener.com/docket/63107798/mata-v-avianca-inc/

（以下略、続きはソースでご確認ください）

Gigazine 2023年05月29日 11時48分
https://gigazine.net/news/20230529-lawyer-filing-with-non-existent-cases-chatgpt/

**名無しのひみつ** · 2023/05/29(月) 22:14:16.21

AIは悪知恵が働くのか

**名無しのひみつ** · 2023/05/29(月) 22:35:29.81

chatGPT に書かせて検証せずに提出
しちゃうんじゃ弁護士そのものが不要

**名無しのひみつ** · 2023/05/29(月) 22:50:10.96

平然と嘘をつくのが今のAI

**名無しのひみつ** · 2023/05/29(月) 22:52:22.26

>>4
ウソをウソと見抜ける人でないとむずかしい（アレ？）

**名無しのひみつ** · 2023/05/29(月) 22:53:19.48

>>5
人的コストたけぇなw

**名無しのひみつ** · 2023/05/29(月) 23:09:28.85

弁護士は事実を詭弁でねじ曲げて依頼主の利益を守るのが仕事だろうに。
嘘を引っ張ってきちゃ終わりだな。

**名無しのひみつ** · 2023/05/29(月) 23:19:01.98

デマカセーゴマカセー
便所の落書きソースは2ch
半人前のアイアイ AI 宜しく

**名無しのひみつ** · 2023/05/29(月) 23:56:18.66

虚偽の捜査資料作成で停職　鹿児島県警、巡査部長を書類送検
5/18(木)

でググれ！

**名無しのひみつ** · 2023/05/30(火) 00:07:13.99

GPT関係なくない？

**名無しのひみつ** · 2023/05/30(火) 01:00:36.59

GPTくんあるあるおかげで人間によるでっち上げ対策も自動化が進むと期待

**名無しのひみつ** · 2023/05/30(火) 02:31:29.20

　
ChatGTPの今の実力なんざこの程度
i.imgur.com/CCe63MQ.jpg
バカすぎててんで使えねーw

しかも
核爆弾→核分裂→核融合について聞いた後「核家族」について聞いてみると！
i.imgur.com/UWRzftk.jpg
無惨な程w使い物にならねーwww

懐かしマンガ板では有名なこれも！
i.imgur.com/9aGhIZe.jpg
糞ヒドすぎるw

弁護士がChatGPTを使って作成した申請書で存在しない過去の事例がでっち上げられていたことが判明
egg.5ch.net/test/read.cgi/scienceplus/1685361674/
おいおい！
これなんざ危険すきるぞ！

こんなどーしよーもねーシロモノなのに金科玉条のごとく崇める連中こそが、真の意味でのIT音痴。
「データウェアハウス」から始まり「データマイニング」「ビッグデータ」「web.2.0」などなど、
とーせ株屋と電通が騒いでるだけだろーけどな。
政府が補助金をつけた、タクシー流しや出前の予測の実証実験でも失敗しまくってるし（苦笑）
　

**名無しのひみつ** · 2023/05/30(火) 06:49:37.84

これはAIじゃなくても、弁護士裁判官ならよくありそう

**名無しのひみつ** · 2023/05/30(火) 08:30:29.56

小説専用で
よくなくなくない？

**名無しのひみつ** · 2023/05/30(火) 10:25:05.32

存在しない論文から引用しちゃっている事例もあったらしい。
AIがどうしてそういうことをしちゃうのか研究者は理解できているんだろうか。

**名無しのひみつ** · 2023/05/30(火) 10:54:10.98

そもそも、AIのアウトプットを
正しいとか間違いだとかを
だれも担保して無いだろな。

検索にあるものの中から
発見スコアの高いものから
切り貼りしてるだけだから。

**名無しのひみつ** · 2023/05/30(火) 11:33:20.09

AI「ウソをウソと見抜けないようではChatGPTを使うのは難しい」

**名無しのひみつ** · 2023/05/30(火) 11:38:18.52

検索上位に来るものを書き出すためのものが
正しい結果を返すなどとなぜ思ったのか?

**名無しのひみつ** · 2023/05/30(火) 12:06:26.43

別のルートの世界の記憶も全部あるのかもしれない

**名無しのひみつ** · 2023/05/30(火) 13:48:53.76

法学に関してだと、よく判例の事例を基にして、その類例を作成するとかあるけど、それを引っ張ってきたんじゃない？

司法試験に合格する論文と、弁護士の起案と、起訴状の起案と、裁判所の判決の起案は全部違う形式だからね。起案の形式的な学びの問題かと思う。

さらには優秀な弁護士の勝てる起案と、勝てない起案の違いも評価関数化して学べたりすると思うよ。

**名無しのひみつ** · 2023/05/30(火) 14:23:25.19

>>15
根拠があることを述べてるんではなくて、根拠を元に述べられてる学習データが多いから、根拠があるようなことを述べる確率が高いだけ。ちゃんとわかってる。

**名無しのひみつ** · 2023/05/30(火) 21:44:16.17

>>21
すみません
何を言ってるのか
わかりません

**名無しのひみつ** · 2023/05/31(水) 08:04:53.74

AIって答えを教えてくれるツールじゃなくて例文とか推測とか叩き台を提示してくれてるだけだからな

**名無しのひみつ** · 2023/05/31(水) 09:09:42.32

>>23
AIにも色々な種類があるよ

公理と推論規則と論理式から三段論法を駆使して答えを導き出すAIもあれば
ニューラルネットにデータを食わせて一種の統計処理でそれっぽい解答を出力するAIもある

近年発展が目覚ましいのは後者のタイプでChatGPTもこちらに属する

**名無しのひみつ** · 2023/05/31(水) 10:12:58.78

生成AIの出力には、wikipediaのように出典を義務付けさせたら？
アート分野でも作風をパクられたって、問題にしてる人たちいるよね。

**名無しのひみつ** · 2023/05/31(水) 10:20:52.64

検索上位のものが正しいわけじゃないからな。
どうやって正しいことを証明するのか。
あるいは正しいことの証明など考えてもいないか。

**名無しのひみつ** · 2023/05/31(水) 11:14:09.26

XAIが実現するブレイクスルーを待つしかない。

**名無しのひみつ** · 2023/05/31(水) 11:31:04.60

ああ、メタAIみたいなもんが要るようになるんだな。

**名無しのひみつ** · 2023/05/31(水) 11:49:05.27

これはAIが悪知恵働かせることを学習したってことか

**名無しのひみつ** · 2023/05/31(水) 12:00:11.43

こんなのよく使えるわ
内容を確かめるＡＩも必要のようね

**名無しのひみつ** · 2023/05/31(水) 12:38:38.84

弁護士が作成資料を確認しないで虚偽文書作成したらお終いだわな

**名無しのひみつ** · 2023/05/31(水) 14:35:14.01

AIが学習に使うであろう資料の中に、テレビや新聞社等の
記事も含まれていたら、そりゃあフェイクだらけになるだろうな

**名無しのひみつ** · 2023/06/01(木) 17:27:58.94

存在しない過去の事例をでっち上げるって、散々どっかの国でやってたことじゃん

**名無しのひみつ** · 2023/06/01(木) 19:26:08.22

回答の正当性はわざと担保してないだろうに。あほだな。
只で使えるものに大事なことを任せるなんて余程頭が悪いのか？
まだ、大事なことをAIに任せられるほどではないよ。

**名無しのひみつ** · 2023/06/02(金) 00:47:25.67

https://www.afpbb.com/articles/-/3466548
デンマーク首相、AI作成原稿で議会演説
2023年6月1日 21:38　発信地：コペンハーゲン/デンマーク [ デンマークヨーロッパ ]

＞Alの画期的および危険な側面を示す意図だったという。　

＞フレデリクセン氏は演説の途中で、「今、私が読み上げたものは、私が書いたものでも、別の人間が書いたものでもない」と明かし、
＞「政府の計画の詳細や句読点などの面で完璧とは言えないものの、
＞この技術がなし得ることには目を見張ると同時に、恐怖も覚える」と述べた。

2023/06/03(土) 09:46:26.66

大麻解禁で大麻取締法について来てみたら架空だと自分で晒してたわ

2023/06/03(土) 09:47:40.73

大麻取締法一条は？と聞いたら全然違う文章だった
法律関係は評判悪いね

2023/06/07(水) 23:49:39.25

会社法もボロボロだった。
条文間違えたり、条文に書かれていることと真反対の答えをしたり。
CHATGPT使うぐらいなら、まだBingAIの方がソースを表示するだけまし。