西班牙政府下令調查社群平台散布 AI 生成有害內容

西班牙總理桑傑士（Pedro Sanchez）宣布，政府已下令檢察官調查熱門社群媒體平台 X、TikTok 及 Meta 的 Facebook 和 Instagram，指控這些平台疑似散布 AI 生成的兒童性虐待內容。

桑傑士在 X 平台上發文指出：「這些平台損害我們兒童的心理健康、尊嚴與權利。我國無法容忍這件事，必須終止這些巨擘公司消遙法外。」

西班牙政府本月初已宣布數項措施來打擊網路虐待及保護兒童，包括提案禁止未滿 16 歲者使用社群媒體平台。這項調查是歐洲對 AI 生成有害內容監管力度加強的最新例證。

AI 生成的兒童性虐待素材（CSAM）已成為全球執法機構的重大挑戰。與傳統的 CSAM 不同，AI 生成的內容不涉及真實兒童，但仍然具有相同的危害性，且更難追蹤和取證。

這起事件凸顯了幾個重要趨勢：

• AI 安全監管正在全球加速
• 平台責任日益受到法律審視
• AI 內容審核技術需求急劇增加
• 年齡驗證和青少年保護成為重點議題

做 AI 產品的人必須把內容安全放在設計的第一步，而不是事後補救。合規成本會越來越高，但及早投入將成為競爭優勢。