加州AI監管法案SB 1047引發爭議：OpenAI等科技巨頭表示反對

加州正在推動一針對人工智慧監管的法案「SB 1047」，這是由州參議員Scott Wiener於今年2月所提出，目的是為大型AI系統的開發建立安全標準。然而，雖然在立法過程中獲得了兩黨的支持，但是在矽谷的眾多AI科技公司來說，似乎對SB 1047有著截然不同的看法。

據彭博社報導，現在 OpenAI 也跳出來反對SB 1047。

OpenAI加入反對陣營：創新vs監管的權衡

SB 1047 於 5 月在州參議院獲得通過，要求人工智慧公司採取措施，防止其模型造成嚴重傷害，例如促成可能造成大量人員傷亡或造成超過 5 億美元經濟損失的生物武器的開發。

根據該法案，公司需要確保人工智慧系統可以關閉，採取合理謹慎措施，確保人工智慧模型不會造成災難，並向加州司法部長披露法遵聲明。如果企業不遵守這些要求，他們可能會被起訴並面臨民事處罰。

然而，這個看似強調安全的法案，卻遭到了許多大型科技公司、初創公司和風險投資家的強烈反對，他們表示，對於一項仍處於起步階段的技術來說，這是越權行為，可能會扼殺該州的技術創新。

OpenAI於週三寄出一封致加州參議員Scott Wiener辦公室的信函，這家總部位於舊金山的初創公司表示，該法案將損害人工智慧行業的創新，並認為該問題的監管應該由聯邦政府而不是各州來制定。

這封信還引發了人們的擔憂，即該法案如果獲得通過，可能會對美國在人工智慧和國家安全方面的競爭力產生廣泛而重大的影響。

SB 1047的核心內容與爭議焦點

批評者認為，該法案要求公司向州政府提交有關其模型的詳細資訊，這將阻礙創新，並可能阻止小型開源開發商建立初創企業，因為他們擔心被起訴。一些批評該法案的人擔心，這可能會將人工智慧公司趕出加州。

OpenAI 在致Wiener辦公室的信中也表達了同樣的擔憂。

OpenAI 首席戰略長 Jason Kwon 在信中寫道：人工智慧革命才剛剛開始，加州作為全球人工智慧領導者的獨特地位正在推動該州的經濟活力。SB 1047 將威脅到這種增長，減緩創新步伐，並導致加州世界級的工程師和企業家離開該州，到其他地方尋找更大的機會。

據一位熟悉該公司房地產計畫的人士透露，由於擔心加州監管環境的不確定性，OpenAI 已暫停有關擴大其舊金山辦事處的討論，該人士要求匿名討論內部對話。

Wiener在一份聲明中為擬議的立法辯護，並表示 OpenAI 的信沒有批評該法案中的任何條款。

他還表示，關於人工智慧人才離開該州的論點毫無意義，因為該法律將適用於在加州開展業務的任何公司，無論其辦事處位於何處。

Wiener辦公室的一位代表指出，兩位著名的國家安全專家公開支援該法案。

「SB 1047 是一項非常合理的法案，要求大型人工智慧實驗室做他們已經承諾要做的事情，即測試他們的大型模型是否存在災難性安全風險。」Wiener說。「SB 1047 根據我們所知的可預見的人工智慧風險進行了很好的校準，值得頒布。」

但批評者認為，該法案要求公司向州政府提交有關其模型的詳細資訊，這將阻礙創新，並阻止小型開源開發商建立初創企業，因為他們擔心被起訴。

上週，為了解決一些阻力，Wiener修改了擬議的立法，取消了不法遵的科技公司的刑事責任，增加了對小型開源模型開發商的保護，並取消了新提出的前沿模型部門。

此前，開發商如果故意向政府提交有關其安全計畫的虛假資訊，可能會受到偽證處罰。OpenAI 的競爭對手 Anthropic 以比競爭對手更注重安全而聞名，該公司此前曾表示將支援該法案的一些修正案。但即使在修正案出台後，該法案仍繼續遭到反對，包括前眾議院議長南希·佩洛西 (Nancy Pelosi)，她發表聲明稱該法案消息不靈通。

一群民主黨國會議員也公開反對該法案。

根據州政府檔案，OpenAI 和其他科技行業公司已經聘請了一直在為該法案工作的說客。

OpenAI 在信中表示，它已經與Wiener的辦公室就該法案進行了幾個月的接觸，但最終並不支持該法案。「我們必須通過一系列聯邦政策（而不是州政策）來保護美國的人工智慧優勢，這些政策可以為人工智慧實驗室和開發者提供清晰度和確定性，同時還能保護公共安全。」