加州AI監管法案SB 1047引發爭議：OpenAI等科技巨頭表示反對

SB 1047 於 5 月在州參議院獲得通過，要求人工智慧公司採取措施，防止其模型造成嚴重傷害，例如促成可能造成大量人員傷亡或造成超過 5 億美元經濟損失的生物武器的開發。

根據該法案，公司需要確保人工智慧系統可以關閉，採取合理謹慎措施，確保人工智慧模型不會造成災難，並向加州司法部長披露法遵聲明。如果企業不遵守這些要求，他們可能會被起訴並面臨民事處罰。

然而，這個看似強調安全的法案，卻遭到了許多大型科技公司、初創公司和風險投資家的強烈反對，他們表示，對於一項仍處於起步階段的技術來說，這是越權行為，可能會扼殺該州的技術創新。

OpenAI於週三寄出一封致加州參議員Scott Wiener辦公室的信函，這家總部位於舊金山的初創公司表示，該法案將損害人工智慧行業的創新，並認為該問題的監管應該由聯邦政府而不是各州來制定。

這封信還引發了人們的擔憂，即該法案如果獲得通過，可能會對美國在人工智慧和國家安全方面的競爭力產生廣泛而重大的影響。

SB 1047的核心內容與爭議焦點

批評者認為，該法案要求公司向州政府提交有關其模型的詳細資訊，這將阻礙創新，並可能阻止小型開源開發商建立初創企業，因為他們擔心被起訴。一些批評該法案的人擔心，這可能會將人工智慧公司趕出加州。

OpenAI 在致Wiener辦公室的信中也表達了同樣的擔憂。

OpenAI 首席戰略長 Jason Kwon 在信中寫道：人工智慧革命才剛剛開始，加州作為全球人工智慧領導者的獨特地位正在推動該州的經濟活力。SB 1047 將威脅到這種增長，減緩創新步伐，並導致加州世界級的工程師和企業家離開該州，到其他地方尋找更大的機會。

據一位熟悉該公司房地產計畫的人士透露，由於擔心加州監管環境的不確定性，OpenAI 已暫停有關擴大其舊金山辦事處的討論，該人士要求匿名討論內部對話。

Wiener在一份聲明中為擬議的立法辯護，並表示 OpenAI 的信沒有批評該法案中的任何條款。

他還表示，關於人工智慧人才離開該州的論點毫無意義，因為該法律將適用於在加州開展業務的任何公司，無論其辦事處位於何處。

Wiener辦公室的一位代表指出，兩位著名的國家安全專家公開支援該法案。

「SB 1047 是一項非常合理的法案，要求大型人工智慧實驗室做他們已經承諾要做的事情，即測試他們的大型模型是否存在災難性安全風險。」Wiener說。「SB 1047 根據我們所知的可預見的人工智慧風險進行了很好的校準，值得頒布。」

但批評者認為，該法案要求公司向州政府提交有關其模型的詳細資訊，這將阻礙創新，並阻止小型開源開發商建立初創企業，因為他們擔心被起訴。

上週，為了解決一些阻力，Wiener修改了擬議的立法，取消了不法遵的科技公司的刑事責任，增加了對小型開源模型開發商的保護，並取消了新提出的前沿模型部門。

此前，開發商如果故意向政府提交有關其安全計畫的虛假資訊，可能會受到偽證處罰。OpenAI 的競爭對手 Anthropic 以比競爭對手更注重安全而聞名，該公司此前曾表示將支援該法案的一些修正案。但即使在修正案出台後，該法案仍繼續遭到反對，包括前眾議院議長南希·佩洛西 (Nancy Pelosi)，她發表聲明稱該法案消息不靈通。

一群民主黨國會議員也公開反對該法案。

根據州政府檔案，OpenAI 和其他科技行業公司已經聘請了一直在為該法案工作的說客。

OpenAI 在信中表示，它已經與Wiener的辦公室就該法案進行了幾個月的接觸，但最終並不支持該法案。「我們必須通過一系列聯邦政策（而不是州政策）來保護美國的人工智慧優勢，這些政策可以為人工智慧實驗室和開發者提供清晰度和確定性，同時還能保護公共安全。」

SB 1047的未來走向

OpenAI 認為，白宮科技政策辦公室、商務部和國家安全委員會等聯邦機構比加州州級政府機構更適合管理關鍵的人工智慧風險。

該公司表示，它支援幾項擬議的聯邦立法，例如《人工智慧創新未來法案》，該法案為新的美國人工智慧安全研究所提供了國會支援。

「正如我反覆表示的那樣，我同意理想情況下國會會處理這個問題。」Wiener在聲明中說。 「然而，國會並沒有這樣做，我們也懷疑國會是否會這樣做。根據 OpenAI 關於國會的論點，加州永遠不會通過其資料隱私法，而且鑑於國會缺乏行動，加州人的資料將得不到任何保護。」

SB 1047 將於本月某個時候在加州議會進行投票。

如果獲得通過，它最終將移至加州州長加文·紐森的辦公桌上。雖然紐森沒有表示他是否會否決該法案，但他曾公開表示需要在降低風險的同時促進加州的人工智慧創新。

• 延伸閱讀：七年前錯失入股OpenAI機會，英特爾如今市值跌到相當於一個OpenAI
• 延伸閱讀：OpenAI先給大家打預防針，明確表示今年秋季的DevDay不會公佈GPT-5
• 延伸閱讀：OpenAI聯合創始人John Schulman宣佈加入競爭對手Anthropic：沒有我的參與OpenAI也將繼續茁壯