IPO前OpenAI不安寧 ChatGPT涉傷害用戶

AI” rel=”220164″>OpenAI初次公開發行（IPO）在即，然而其聊天機器人ChatGPT因涉嫌可能對使用者造成傷害而面臨多州聯合調查。

美聯社報導，OpenAI已向美國證券監管機構提交了IPO文件，然而幾天之後就因 ChatGPT的用戶安全問題而收到多州的傳票。專家指出，SpaceX上周IPO大獲成功，引起各界對OpenAI與Anthropic等其他人工智慧（AI）巨擘的IPO高度期待，但是AI安全問題備受關注，不無可能為AI企業未來IPO之路帶來阻礙。SpaceX旗下擁有一家AI公司，開發了一款名為Grok的聊天機器人，直接挑戰OpenAI的ChatGPT。

ChatGPT表示，將「建設性地」回應調查，並已採取措施保護用戶。該公司發言人在電子郵件聲明中表示：「AI是一項新興且強大的技術，我們每天都在努力以負責任與安全的方式惠及大眾。我們會嚴肅對待各州總檢察長提出的擔憂。」

OpenAI 是因 ChatGPT 被控向有自殺或犯罪傾向的用戶提供鼓勵性言語而受到調查。此外，該公司如何使用用戶的健康數據和其他個人資訊也受到質疑。

報導指出，一位加拿大女子11日 起訴OpenAI，指控聊天機器人ChatGPT導致女兒上吊自殺。而在 6 月初，佛羅里達州總檢察長也起訴了該公司，主要是因為在兩起槍擊案中，槍手在策劃犯罪時都曾向ChatGPT提問。

OpenAI在聲明中表示，其模型曾多次鼓勵受害者尋求現實世界的協助，包括心理健康專家的協助。該公司也表示，已就這兩起槍擊案與執法部門展開合作。

應如何應對AI的潛在危險，已成為各國政府一個重要的政治議題。歐洲監管機構已對Grok展開調查，因為其存在反猶太主義內容和色情內容，包括深度偽造的裸照。川普政府也於12日針對另一家準備IPO的聊天機器人公司Anthropic提出指示，出於國家安全考慮，關閉其面向海外用戶的兩款線上模式。

OpenAI在聲明中強調其為保障兒童使用聊天機器人的安全而採取的措施。聲明寫道：「如今的ChatGPT為未成年人和身處困境的人們提供了更完善的保護機制，透過安全措施引導他們使用現實世界的資源和值得信賴的人際交往。我們認為對孩子就應以對孩子的方式對待子，因此我們開發了年齡預測功能，提供家長工具來指導孩子使用人工智慧，並且禁止針對兒童的廣告。」