ChatGPT又挨告！佛州控OpenAI、奧特曼助長暴力 開美州政府先例

dalap

聊天機器人ChatGPT已深入許多人的生活，然而它也引發不少爭議，為此挨告。美國佛州於1日對ChatGPT的母公司OpenAI及執行長奧特曼提起訴訟，指控該公司不實陳述ChatGPT平台的安全性，將獲利置於安全之上，助長暴力行為。ChatGPT被控透過向校園槍手提供資訊、給予自我傷害指引，並且讓年輕用戶產生依賴等方式，對兒童造成傷害。


綜合路透、國家廣播公司新聞網（NBC News）、有線電視新聞網（CNN）報導，這是美國第一個對OpenAI採取法律行動的州。佛州共和黨籍檢察長阿斯麥爾（James Uthmeier）在佛州州法院提出訴訟。訴狀提及去年佛州首府塔拉哈西（Tallahassee）一所大學發生的槍擊事件，以及其他州多起事件，指稱 ChatGPT向後來犯下暴力事件的人提供相關資訊。阿斯麥爾在記者會上表示，佛州州政府將奧特曼（Sam Altman）列為被告之一，是因為他在推動ChatGPT某些功能方面「扮演了非常核心的角色」，這些功能正是州政府認為危害最嚴重的部分。

阿斯麥爾表示：「奧特曼和ChatGPT選擇了人工智慧（AI）競賽，而不是我們孩子的安全與保障。他們選擇將獲利置於公共安全之上，而在佛州，我們不會容忍這種情況發生。」「有人因此受到傷害，家長受到欺騙，而他們必須為此付出代價。」這項訴訟要求賠償金額可能高達數十億美元，尋求法院命令OpenAI 改變其與年輕用戶互動的方式。OpenAI發言人尚未立即回應置評請求。

OpenAI 曾經表示，該公司已訓練其模型拒絕可能「實質促成暴力行為」的請求。若對話內容顯示存在「迫切且可信的對他人造成傷害風險」，公司也會通報執法機關。此外，心理健康專家也會協助評估界線較模糊的個案。

目前AI企業面臨日益增加的訴訟浪潮。原告指控這些公司未能防止聊天機器人產生有害互動，這些互動被認為助長了自我傷害、精神疾病及暴力行為。OpenAI 還面臨由佛州立大學槍擊案罹難者家屬提起的訴訟。原告主張，槍手在策劃攻擊過程中曾獲ChatGPT協助。今年4月加拿大一起嚴重大規模槍擊案的受害者家屬，也對OpenAI 與奧特曼提出集體訴訟。他們指控OpenAI 早在攻擊發生前8個月，就已知悉槍手正透過 ChatGPT 策劃犯案，但未向警方發出警告。

tuaceng

每天半夜3点起来发帖，五毛钱人民币真的那么难赚？


@dalap