MetaがAIで作成された動画・音楽・画像に「Made with AI」というラベルを2024年5月から付けると発表

FacebookやInstagramといったSNSを開発・運用するMetaが、AIによって生成されたコンテンツに「Made with AI」というラベルを付けると発表しました。

Our Approach to Labeling AI-Generated Content and Manipulated Media | Meta
https://about.fb.com/news/2024/04/metas-approach-to-labeling-ai-generated-content-and-manipulated-media/

Meta relaxes “incoherent” policy requiring removal of AI videos | Ars Technica
https://arstechnica.com/tech-policy/2024/04/meta-relaxes-incoherent-policy-requiring-removal-of-ai-videos/

Facebook and Instagram to label digitally altered content ‘made with AI’ | Technology | The Guardian
https://www.theguardian.com/technology/2024/apr/05/facebook-instagram-ai-label-digitally-altered-media

Meta’s new AI deepfake playbook: More labels, fewer takedowns | TechCrunch
https://techcrunch.com/2024/04/05/meta-deepfake-labels/

MetaはFacebookやInstagramといったプラットフォーム上のコンテンツを削除・保持する決定を下す際に、間違った判断を下さないようにするため、監督委員会と呼ばれる独立した裁定機関を設けています。この監督委員会からの「より広範な既存のコンテンツを反映し、ラベルを通じてコンテンツに関するコンテキストを提供するためにアプローチをアップデートする必要がある」というフィードバックに基づき、MetaはFacebookやInstagram、Threads上でのAI生成コンテンツの取り扱い方法に変更を加えると発表しました。

なお、事の発端となったのはアメリカのジョー・バイデン大統領が孫娘の胸元に手を伸ばしているかのように見えるコラージュ動画の検閲を巡る騒動でした。

孫娘の胸元に手を伸ばすジョー・バイデンのコラ動画をMetaの監査機関が「AI製ではないしポリシーにも反しないからセーフ」と判断、ただし現状の支離滅裂なポリシーは改善すべきだと苦言 - GIGAZINE

これまでMetaは「人間が実際には言っていないことを言っているかのように見せるためにAIによって生成・編集された動画」のみを規制対象としていましたが、既存のアプローチでは範囲が狭すぎるという監督委員会の主張に同意し、Metaの操作メディアポリシーのアップデートを実施すると説明しています。なお、Metaの操作メディアポリシーは2020年に策定されたままであり、監督委員会からは既存のポリシーが「狭量」で「支離滅裂」で「ユーザーを混乱させるものである」と批判されていました。

さらに、監督委員会は「コミュニティ基準に違反しない操作されたメディアを削除することは、表現の自由を不必要に制限する危険を冒すことになる」とも主張しています。これを受け、Metaはコンテキスト付きのラベルなど、操作されたメディアに対して「制限の少ない」アプローチを推奨すると発表しています。また、2024年7月からは「操作メディアポリシーのみに基づいた動画の削除を停止する」とも発表しました。

AIで生成された動画・音声・画像には「Made with AI」というラベルを付ける予定であることを、Metaは2024年2月に発表していました。このラベル付けはGoogleなどと協力して開発しているAIコンテンツを識別するための技術標準や、AIで生成されたコンテンツをアップロードしていることを自己開示している人々の情報に基づいて行われます。Metaはこの「Made with AI」というラベル付けを、2024年5月から開始すると発表しました。

ただし、Metaは「デジタル的に作成あるいは編集された画像・動画・音声が、重要な事柄に関して公衆を実質的にあざむくリスクが特に高いと判断した場合、人々がより多くの情報と背景を知ることができるように、より目立つラベルを追加する可能性がある」と述べ、意図せずとも人々をあざむく可能性のあるAI生成コンテンツには、より明確なラベル付けを行う予定であると説明しています。

また、Metaは有権者の介入、いじめや嫌がらせ、暴力、扇動などを制限するポリシーに違反しないAI生成コンテンツの検閲を、2024年7月に停止することも発表しました。

MetaはAIコンテンツに関するポリシーの評価を2023年春に開始し、世界の34カ国120を超える関係者との協議を経て、ポリシーのアップデートを実施しています。調査結果としては、AI生成コンテンツへのラベル付けには強い支持が寄せられたそうです。また、13カ国の2万3000人を超えるユーザーを対象とした世論調査も実施しており、回答者の82％が「人々が言っていないことを言っているかのように描写するAI生成コンテンツに対する警告ラベルの導入」を支持したそうです。

なお、The GuardianがMetaに確認したところによると、「Made with AI」のラベル付けはFacebook、Instagram、Threadsといったプラットフォームの投稿に適用されるもので、WhatsAppやQuestなどのサービスでは異なるポリシーが適用されることとなる模様。