放寬色情內容限制 奧特曼說OpenAI不是「世界道德警察」

在OpenAI計畫允許其聊天機器人ChatGPT出現色情內容並引起外界強烈反彈後，該公司執行長奧特曼（Sam Altman）15日表示，此事所引發的關注遠超乎其預期，但OpenAI「不是民選的世界道德警察」。

OpenAI在14日宣布組成一個由八位專家組成的委員會，他們將深入探討AI如何影響使用者的心理健康、情緒和動機。奧特曼當天發布了該公司放鬆限制的計畫，他在X貼文說，OpenAI現在有了新工具並且能夠緩解「嚴重的心理健康問題」，因此可以「安全地放寬」大多數限制。

財經新聞網站CNBC報導，OpenAI此舉隨即在社群媒體上引發了一陣騷動和反彈，而奧特曼的貼文也引起美國國家性剝削中心（NCOSE）等組織的注意，這些組織呼籲OpenAI撤回允許在ChatGPT上發布色情內容的決定。

奧特曼15日在X貼文中試圖澄清這項作法，他說OpenAI「非常重視把成年用戶當成年人看待」，但仍不會容許「對他人造成傷害的內容」。他說：「就像社會區分其他合適的界線（例如限制級電影）一樣，我們也想做類似的事情。」

OpenAI近幾月來擴大安全控管範圍，因為這家人工智慧（AI）新創公司在保護用戶（尤其是未成年人）方面面臨日益嚴格的審查。今年9月美國聯邦貿易委員會（FTC）對OpenAI和其他科技公司展開調查，以了解ChatGPT等聊天機器人對兒童和青少年可能造成的負面影響。

OpenAI也捲入了一起訴訟，原告將其十幾歲兒子的自殺身亡歸咎於ChatGPT。在調查和訴訟後的數個月中，該公司已公開採取多項措施，以增強ChatGPT的安全性。