【AI】偽の研究をAIが量産する「論文工場」との戦いが激化している [すらいむ★]

**すらいむ ★** · 2023/06/18(日) 20:44:16.30

AIが偽の研究を量産する「論文工場」との戦いが激化している

　ChatGPTのように人間と同等のレベルで自然な文章を生成できるAIや、テキストを入力するだけで高精度な写真やイラストを生成できるAIが登場したことで、業績を水増しするために偽の科学論文をAIに執筆させるケースが報告されています。
　偽の科学論文を量産して販売する企業は「ペーパーミル(論文工場)」と呼ばれており、学術雑誌の審査プロセスや研究者の業績評価に対する信頼性を大きく揺るがす問題となっています。

　AI intensifies fight against ‘paper mills’ that churn out fake research
　https://doi.org/10.1038/d41586-023-01780-w

（以下略、続きはソースでご確認ください）

Gigazine 2023年06月18日 18時30分
https://gigazine.net/news/20230618-fight-against-peper-mill/

**名無しのひみつ** · 2023/06/18(日) 20:45:00.22

偽物語

**名無しのひみつ** · 2023/06/18(日) 20:53:42.98

結局AIも世の中を悪くすることにしかならんのな

**名無しのひみつ** · 2023/06/18(日) 21:19:39.63

論文を狙うのは筋が悪い。
今のAIには嘘が入るから、
バレる可能性は極めて高い。
バレたら、当人も、所属組織も、
研究者生命を失う。リスクが高過ぎる。
絵画やデザインは著作権の問題が無視できない。
今一番可能性あるのは、小説ではないのか。
ただし、純文学系では、芥川賞を取っても、
大して売れないだろう。やはりエンタメ系がいい。
そこそこ売れて映画化でもされたら最高だ。
恐らくバレるリスクは一番低い。
疑われても言い逃れできそうだ。

**名無しのひみつ** · 2023/06/18(日) 21:22:41.07

「大学生なら、むしろAIの活用の仕方を学ぶべき」結果＞1

**名無しのひみつ** · 2023/06/18(日) 22:11:27.50

>>4
つまり、異世界転生なろう系ハーレム学園日常系熱血料理バトル小説こそ適している訳か。

**名無しのひみつ** · 2023/06/18(日) 23:47:41.22

間違った情報を信じさせるために作られたのが今のAI
はなから信用してはいけない

**名無しのひみつ** · 2023/06/19(月) 05:57:38.10

ChatGPTにおいて正しい答えを得るには正しい質問が必要って記事読むと
銀河ヒッチハイクガイド思い出す

**名無しのひみつ** · 2023/06/19(月) 07:01:28.60

AIでも論文書けるような研究分野はAIに任せればいいじゃん

**名無しのひみつ** · 2023/06/19(月) 09:22:08.11

結局悪事にしか使われないのね

**名無しのひみつ** · 2023/06/19(月) 10:04:07.90

今なら知識の習得はWikiでこと足りるがそれにAIが入り込んできたらもうどうしょうもないな

**名無しのひみつ** · 2023/06/19(月) 10:18:57.55

>>4
ウソがバれるのは問題ではない
AIにデタラメの論文を乱発させて撹乱することで
科学研究の組織や業種そのものをガラクタにするのが狙い

良質のワインにションベン混ぜてるようなものだ

**名無しのひみつ** · 2023/06/19(月) 10:43:40.98

混ぜるどころか商品増やして検品の手間を増やすのがたちが悪い
見破れる嘘でも、見破るには手間が必要

**名無しのひみつ** · 2023/06/19(月) 10:48:42.30

紅組がやりたかったのはこれか

考えなくて済むようになるどころか今まで以上に知能が必要になるじゃねえか

**名無しのひみつ** · 2023/06/19(月) 11:36:27.91

>>6
AIにまかせるとストーリーの矛盾が減って面白くなくなる。

**名無しのひみつ** · 2023/06/19(月) 12:52:13.15

AIが開発した強力なマルウェアが登場するのも時間の問題。

**名無しのひみつ** · 2023/06/19(月) 13:39:11.33

AI同士で騙し合う未来