AI生成の児童ポルノが爆増しており児童搾取に関する報告システムが機能不全に陥る恐れがあるとインターネット監視団が警告

1998年から運営されている児童性的虐待ホットライン「CyberTipline」が十分に機能しておらず、今後、「AI生成の児童ポルノ」が増えると、本物の虐待被害者を見つけることはさらに難しくなっていくと、専門家が指摘しています。

How to Fix the Online Child Exploitation Reporting System | FSI
https://cyber.fsi.stanford.edu/io/news/cybertipline-report

Report urges fixes to online child exploitation CyberTipline before AI makes it worse | AP News
https://apnews.com/article/cybertipline-child-sexual-abuse-stanford-23436c59d8aa03aa3d173ed5b63f8bfd

AI-Generated Child Sexual Abuse Material May Overwhelm Tip Line - The New York Times
https://www.nytimes.com/2024/04/22/technology/ai-csam-cybertipline.html

2024年4月22日、スタンフォード大学率いるインターネット監視団は、複数の組織およびCyberTiplineを運営する全米行方不明・被搾取児童センター(NCMEC)に聞き取り調査を行った結果を報告書にまとめ、公表しました。

CyberTiplineはアメリカ国内の児童性的虐待に関するすべての報告を処理するシステムです。アメリカでは、児童性的虐待コンテンツを確認したオンラインプラットフォームに対して、CyberTiplineへの報告を法律で義務づけています。

このため、CyberTiplineには多数の通報が寄せられ、CyberTiplineは各地域の法執行機関へ多数の報告を送っています。

ところが、CyberTiplineから送られる報告には、犯罪者の身元などの重要情報が抜けていることが多く、法執行機関はどの報告から処理するべきなのかの優先順位を適切につけることができていないとのこと。

インターネット監視団は以下の3点を問題として挙げています。

1：一部のオンラインプラットフォームがCyberTiplineへの通報システムに力を入れておらず、通報時に必要情報が欠けてしまう
2：NCMECが資金難のため、人材確保が難しい
3：法的制約のため、NCMECがオンラインプラットフォームに対して「何を探すべきか、何を通報すべきか」を指示することができない

法的制約の一例として、「オンラインプラットフォームが通報の前に当該ファイルを閲覧していない限り、法執行機関はファイルを開く前に令状を取得しなければならない」と示された控訴裁判所の判例があります。オンラインプラットフォームは人手不足なのか、あるいはスタッフを有害なコンテンツにさらしたくないためなのか、スタッフにファイルを閲覧させることなく情報をハッシュ化して自動的にCyber​​Tiplineへ通報することがあり、報告を受けた法執行機関がファイル閲覧のために令状を取得する手間が発生しているのが現状だそうです。

通報されるコンテンツの中には実際の性的虐待とは関係のないネタ投稿やミームも含まれていますが、それでも児童性的虐待コンテンツに該当する場合は違法であり、オンラインプラットフォームは通報の義務を負います。通報フォームには「それはミームですか？」「それはAI製ですか？」というチェックボックスが一応存在しますが、通報担当者がチェック付けを怠った場合、法執行機関はただのミームに余計な労力を割かねばならなくなります。

さらに、昨今は生成AIによる偽の児童性的虐待コンテンツが増加しつつあり、法執行機関の仕事量は増すばかりです。報告書の筆頭著者であるシェルビー・グロスマン氏は、「ほぼ確実に、Cyber​​Tiplineは今後数年のうちに非常にリアルなAIコンテンツに関する通報であふれかえるでしょう。そのため、救出すべき本物の子どもたちを特定することがますます困難になります」と指摘しました。

インターネット監視団は、AIコンテンツを特定するためのシステム構築にテック企業やNCMECが注力すること、NCMECが通報フォームを改善して確実な情報の記入を促すよう努力することなどを対策として提言し、さらに議会に対してNCMECへの予算を増額するよう促しました。