美國白宮花費1.4億成立國家人工智慧研究機構，減少人工智慧技術的潛在危害

上週四，美國副總統賀錦麗（Kamala Harris）在與 Alphabet、Microsoft、OpenAI 和 Anthropic 公司的首席執行長會面後表示，白宮將支援新的規則或立法，來減少人工智慧技術的潛在危害。 

賀錦麗稱，近幾個月來，生成式人工智慧工具的使用量激增，並帶來了複雜的挑戰，企業必須與政府合作，確保保護公民權利和隱私，防止錯誤資訊的傳播和出現詐騙問題。 

• 延伸閱讀：前OpenAI安全研究員警告，AI毀滅人類的可能性為 20%

賀錦麗在一份聲明中說：「政府、私營企業和社會上的其他人必須共同應對這些挑戰。拜登總統和我會盡好自己的職責，包括推進可能頒布的新法規，以及支持新的立法，以確保每個人都能安全地從技術創新中受益。」 

賀錦麗還提到，業界需要承擔起責任來，稱「企業有道德義務和法律責任來確保其產品的安全。」 

美國總統喬·拜登（Joe Biden）出席了會議，與會的還有 OpenAI 的首席執行長山姆·阿特曼（Sam Altman）、Anthropic 的達里歐·阿莫迪（Dario Amodei）、Microsoft的薩蒂亞·納德拉（Satya Nadella）、Alphabet 的桑達爾·皮查伊（Sundar Pichai）和一些政府高級官員。 

公眾監督 

在會議召開之前，主要的人工智慧公司，包括Microsoft和 Alphabet 旗下的Google，都承諾將參與對其各自系統的首次獨立公開評估。這意味著在 8 月份的 Def Con 31 極客大會上，駭客和人工智慧專家可以對人工智慧系統進行測試和評估。 

一名不願透露姓名的高級政府官員在會議前表示，駭客大會上的評估主要是為了產出更多關於「這些模型產生的影響」的公開訊息，並使公司能夠儘快解決出現的問題。 

人工智慧宣導者表示，此次大會將有助於識別產品中的錯誤、故障和漏洞，此外還將消除對可能存在的偏見、侵犯隱私或惡意使用新興技術等問題的廣泛擔憂。 

以上提及的以Microsoft為代表的幾家公司，只承諾在駭客大會上讓自家模型被評估，而不承諾將隨著新產品的生產和完善而被持續評估。這可能不足以滿足監管機構的要求。 

但這位官員表示，提議在 8 月駭客大會期間開放系統進行評估，只是監管動作的第一步。 

另外，白宮宣布投資 1.4 億美元的資金，用於建立新的國家人工智慧研究機構，旨在研究 AI 將如何在氣候、農業、能源和公共衛生等關鍵領域發揮作用。之前，該項計畫已向 18 家研究機構提供了約 3.6 億美元的首輪資助。 

在美國，商務部今年 4 月表示正在考慮制定法規，要求人工智慧模型在發表前必須通過認證程序。 

週三，美國聯邦貿易委員會主席莉娜·可汗（Lina Khan）表示，該機構正在密切監控人工智慧工具的使用。她說：「儘管這些工具很新穎，但它們不能免于現有規則的約束，聯邦貿易委員會將大力執行相關法律法規。」 

上周， G7數位部長表示，成員國應該對人工智慧採取「基於風險」的管理，而歐盟立法者已經就人工智慧法案（AI Act）達成了初步協定，該法案將監管這一新興技術。 

週四會議的與會人員還包括白宮辦公廳主任（Chief of Staff）傑夫·齊恩茨（Jeff Zients）、商務部長吉娜·雷蒙多（Gina Raimondo）、國家安全顧問傑克·沙利文（Jake Sullivan）和拜登的技術顧問阿拉蒂·普拉巴卡（Arati Prabhakar）。

• 延伸閱讀：山姆‧阿特曼將自己的公司OpenAI比作原子彈計畫，但如果他錯了，還留有一個逃生口