性描写のある書籍を「ChatGPT」で特定--19作が学校の図書館から撤去される - CNET Japan
https://japan.cnet.com/article/35207908/

Maria Diaz （ZDNET.com） 翻訳校正： 緒方亮 長谷睦 （ガリレオ）2023年08月17日 11時05分

　米国アイオワ州のメイソンシティコミュニティー学区が、人工知能（AI）を利用して性的な内容を含む書籍のリストを作成し、その結果、中学校と高校の図書館の書架から19作品が撤去されることになった。

　この学区ではまず、過去に何度も学校に置くことに異論が出たり、撤去を求められたりした書籍のリストを作成した。その上で、これらの書籍を「ChatGPT」にかけて、このAIチャットボットに、「（書籍に）性行為の描写や表現が含まれるか？」と質問した。ChatGPTがこの問いに肯定的に回答した書籍については、学校の図書館から撤去し、さらに精査するため管理事務所に保管することにした。

　こうして撤去された書籍の中には、Margaret Atwood氏の「侍女の物語」や、Toni Morrison氏の「ビラヴド」、Alice Walker氏の「カラーパープル」などが含まれていた。

　ChatGPTなどのAIシステムは情報の誤りやハルシネーション（幻覚：AIが事実と異なる情報を勝手に作り出してしまう情報）を免れないことから、この手法をめぐっては、批判の声が上がっている。今回の件についてPopular Scienceが、メイソンシティコミュニティー学区で教育長補佐（カリキュラム、指導担当）を務めるBridgette Exman氏に聞いたところ、同氏はこの方法を「擁護可能な手続き」だと表現した。
https://www.popsci.com/technology/iowa-chatgpt-book-ban/

　Popular Scienceでは、今回書架から撤去された19作品のひとつであるKhaled Hosseini氏の「君のためなら千回でも」の内容について、ChatGPTに複数回、質問を投げかけた。すると、ある回答では露骨な内容は皆無か、あってもごくわずかだと答えたが、その後の回答では「性暴力の描写」が含まれると答えるなど、回答に矛盾が見られた。

（略）

※省略していますので全文はソース元を参照して下さい。