美國巴爾的摩市針對 Elon Musk 旗下的 xAI 提起訴訟，指控其 AI 聊天機器人 Grok 被廣泛用於生成未經同意的性剝削「深偽（Deepfake）」圖像。Grok 以其標榜的「無審查、無意識形態限制」功能為賣點，但此特性卻引發了全球性的公憤與多個司法管轄區的刑事調查。
📌 關鍵重點
- 巴爾的摩市正式起訴 xAI，指控其放任用戶生成違法的深偽圖像
- Grok 缺乏內容安全護欄，成為濫用 AI 生成影像的重災區
- 暴露了「言論自由」與「平台責任」在 AI 時代的激烈衝突
- 將迫使立法機構加速制定針對 AI 生成內容的法律與平台問責機制
💡 創業者啟示
「無審查」在行銷上是個好噱頭，但在商業與法律上卻是個定時炸彈。這起訴訟提醒所有 AI 開發者：內容審核與安全護欄（Guardrails）不是可有可無的附加功能，而是產品存活的底線。為企業提供強大且合規的內容過濾與深偽檢測 API，將是一門利潤豐厚的生意。