OpenAI 指控紐約時報花錢「破解」ChatGPT

OpenAI 指控紐約時報公司花錢雇人「破解」ChatGPT 人工智慧，以使其產生與其報紙文章中完全相同的段落。OpenAI 所謂的「破解」，大概是指：以正常方式登錄並提出煩人的問題。 

去年 12 月，紐約時報起訴 OpenAI 及其支持者微軟，指控雙方未經許可抓取其網站內容來訓練大型語言模型。訴訟中包含證據，稱 ChatGPT 在使用者提交的提示下，能夠重現整段紐約時報文章內容的證據。 

紐約時報認為，OpenAI 的技術（已被微軟應用於其軟體和雲端運算帝國中）的使用者可以繞過紐約時報的付費牆，透過要求聊天機器人提供新聞報導內容，免費閱讀文章，進而使該報失去訂閱收入。 

• 延伸閱讀：紐約時報要求法院銷毀ChatGPT的AI資料集，AI在公開網路上的訓練是否屬於「合理使用」？
• 延伸閱讀：《紐約時報》提告 OpenAI 和微軟訓練ChatGPT模型侵犯版權，生成紐約時報風格文章導致數十億美元損失

然而，OpenAI 本周對此予以回擊，並要求法院駁回此案。OpenAI 認為，紐約時報提供的證據「似乎是針對 OpenAI 模型進行長時間且廣泛的入侵嘗試」，並否認 ChatGPT 可以讓人們繞過付費牆，並補充說人們通常不會使用聊天機器人閱讀已發表的文章。 

「在現實世界中，人們通常不會使用 ChatGPT 或任何其他 OpenAI 產品來達到那個目的」，OpenAI 表示，「他們也做不到這一點。一般情況下，人們無法隨意使用 ChatGPT 提供紐約時報的文章。」相反，OpenAI 的律師辯稱，紐約時報濫用了其聊天機器人，透過欺騙軟體使其吐出一些訓練資料，而這似乎是除了紐約時報的「狡猾提示詞工程師」之外其他人無法做到的。 

OpenAI 反擊稱，「真相將在本案審理過程中浮出水面，那就是紐約時報花錢雇傭他人『入侵』OpenAI 的產品……他們只有透過利用漏洞（OpenAI 承諾會修復）並使用違反 OpenAI 使用條款的欺騙性提示才能做到這一點。」OpenAI 稱，在 ChatGPT 生成逐字文本段落之前，需要進行數萬次嘗試。 

紐約時報的首席律師蘇斯曼·葛佛雷（Susman Godfrey）律師事務所合夥人伊恩·克羅斯比（Ian Crosby）在給媒體的一份聲明中稱 OpenAI 的「入侵」指控很「荒謬」。 

「OpenAI 將使用 OpenAI 產品尋找證據證明其竊取和複製了紐約時報的版權作品，卻歪曲地稱為『入侵』」，他表示，「而這正是我們發現的。事實上，OpenAI的抄襲規模遠大於訴訟中提出的100多個例子。」 

所謂「提示注入」攻擊可以讓大型語言模型繞過旨在防止其生成非法或不良內容的防護措施。OpenAI 似乎指控紐約時報使用了這種攻擊方式。 

與此同時，克羅斯比辯稱，OpenAI 對紐約時報的指控證實了由山姆·阿特曼（Sam Altman）營運的實驗室會監控使用者輸入的提示和輸出的回應。老實說，這並不令人驚訝，畢竟就在上周，這家新創公司還吹噓其發現了並封鎖了中國、伊朗、俄羅斯和朝鮮的帳號，原因是他們認為這些帳戶濫用了其生成模型套件。 

• 延伸閱讀：OpenAI表示《紐約時報》提告他們侵犯版權毫無根據，只有篡改了提示語欺騙ChatGPT才會逐字採集其文章

我們注意到 OpenAI 的隱私政策規定，公司出於各種原因監控人們對其服務的查詢和使用情況，這些原因包括（取決於設定和支付計畫）用於訓練未來模型。 

儘管如此，紐約時報的律師克羅斯比對此表示不滿。「OpenAI 的回應也表明他們正在追蹤使用者的查詢和輸出，這尤其令人驚訝，因為他們之前聲稱沒有這樣做。我們期待在證據開示階段對此問題進行更深入的探討」，他說道。 

克羅斯比還質疑了 ChatGPT 製造商向法院提出的論點，即紐約時報花了太長時間才提出申訴，以及 OpenAI 整體立場，即他們沒有做任何錯事。 

「OpenAI一直保持秘密，並故意隱瞞其產品的運作方式，現在聲稱提出侵權索賠或將其追責已經太晚。我們不同意。值得注意的是，OpenAI不否認它在訓練其最近和當前模型時未經許可就複製了紐約時報的作品。」