中国、AI生成されたコンテンツにラベル付けを義務付ける法律「人工智能生成合成内容標識方法」が成立、9月から施行

https://japan.zdnet.com/article/35231133/

3月5日に「全国人民代表大会」（全人代）が開幕した。レイ氏も代表の1人として参加し、そこでAIによる個人の顔や声の改ざん対策について3つの提案をした。
同氏は特に目立った被害者だが、各種AIツールの登場により、有名人かどうかに関わらず、ニュースで報道されるケースが増えているため、対策を提案したのだろう。

　1つ目は、AIに関する独立した法律の導入を検討することだ。適用の境界線を明確にし、権利侵害の証拠に関する規則を変更し、刑事罰を強化する。
2つ目は、プラットフォームなどの責任を強化することだ。プラットフォーム企業がAIによって生成、合成されたコンテンツを正確に識別し、
検査や審査、苦情や報告、緊急対応のメカニズムを構築し、問題のあるコンテンツの拡散を適時に阻止する技術能力の開発を支援する。
3つ目は、ネットユーザーへの啓発を強化することだ。小学校から高校までの教科書にAIに関する倫理的な内容を追加し、家庭でも啓発活動を行う。
法整備、プラットフォームの協力、市民への啓発活動の3つの方法は、中国でよく見られるやり方だ。

その後、14日に「人工智能生成合成内容標識方法」が発表され、AIで生成されたファイルにラベルを付けることが義務付けられた。
この規則は、情報産業省に当たる工業和信息化部、公安部、国家ラジオテレビ総局などが共同で発表し、9月1日から施行される。
この規則では、AIで作られたコンテンツには、誰でも見えるラベルと、見えないラベルを付ける必要がある。
プラットフォームは、これらのラベルが付いたコンテンツを適切に扱わなければならない。

　サービス提供者は、AIが作ったテキスト、音声、画像、動画、仮想空間などのコンテンツに、AIで生成されたことを示すラベルを付ける必要がある。具体的には、次のようになる。

テキスト：文頭、文末、文中に文字や記号で表示
音声：冒頭、末尾、途中に音声やリズムで通知
画像：目立つ位置にウォーターマークを付与
動画：冒頭、再生中の画面周辺、または途中にラベルを表示
仮想空間：開始画面やサービス提供中にラベルを表示

　さらに、ダウンロードやコピーを提供する際にも、これらのラベルがファイルに適切に埋め込まれていることを確認する必要がある。

　見えるラベルに加えて、メタデータやデジタル透かしといった見えないラベルも必要だ。AIサービス提供者は、生成されたコンテンツのメタデータにコンテンツの属性や提供者名などの識別情報を埋め込むことが義務付けられる。
配信プラットフォームは、メタデータにラベルがあればそれを確認して明示し、ラベルがないものの投稿者が生成コンテンツであると自己申告した場合には、その情報に基づいてラベルを付与する。
また、ラベルがないにもかかわらずAI生成の痕跡が認められる場合も、目立つ形で明示的なラベルを追加しなければならない。
さらに、ラベルの改ざんや不正操作を目的としたツールやサービスの提供、および他社の権利を侵害する不適切なラベルの使用も禁じられている。