アイオワ州の学区、性的表現を含む書籍を学校から排除するためChatGPTを使用

headless 曰く、

米アイオワ州メイソンシティの学区では、学校からの排除が必要となった性的な表現を含む書籍を抽出するため、ChatGPT を使用したそうだ (The Gazette の記事、 Popular Sciece の記事、 Ars Technica の記事、 The Verge の記事)。

性的な表現を含む書籍の排除は改正州法 SF 496 の成立を受けて州の教育委員会連合が勧告したものだ。SF 496 では年齢に適合する書籍のみを学校に置くよう義務付けており、州法 702 章の 17 (PDF) が定める「性行為」を描写する文章や図版を含む書籍を置くことはできない。

学区の担当者によると、教室や図書室には購入したものや寄付されたもの、忘れ物など大量の書籍があり、すべてを読んで確認することは不可能なため、AI ソフトウェアを使用したのだという。担当者は The Gazette の取材時に AI ソフトウェアの名称を明かさなかったが、Popular Science の取材に対して ChatGPT の使用を明らかにした。

担当者は同僚とともに排除を求められることの多い書籍のリストを最初に作成し、排除要求の理由が性的コンテンツでないものを除外してから ChatGPT に書籍を指定して性行為の描写が含まれるかどうか質問したという。ChatGPT の答えが「yes」の場合はその書籍を排除する。これにより、ピュリッツアー賞を受賞した「カラーパープル」を含む 19 書籍の排除が決まったとのこと。

しかし、Popular Science が排除される 19 冊について ChatGPT に性的コンテンツを含むかどうか質問したところ、露骨な性的コンテンツを含むのは 4 冊のみ。6 冊は成人向けではあるが、露骨なコンテンツとは限らない書籍であり、残り 9 冊は主に成人向けテーマであるものの、露骨な性的コンテンツはわずかまたは皆無であるとの答えが得られたそうだ。

それでもこの担当者は排除の求められる書籍の多くを読んで (そして教えて) おり、ChatGPT の回答の一部は自分の知識で確認できるという。その結果、19 冊の中で性的コンテンツを含むと判定されたことに驚くべきものはなかったとのことだ。