ADVERTISEMENT
現在，為ChatGPT找到漏洞有錢賺了。OpenAI宣布開啟漏洞賞金計畫 ：
報告ChatGPT漏洞，可以獲得最高2萬美元現金獎勵。
We're launching the OpenAI Bug Bounty Program — earn cash awards for finding & responsibly reporting security vulnerabilities. https://t.co/p1I3ONzFJK
— OpenAI （@OpenAI） April 11, 2023
具體來說，OpenAI將與漏洞回饋平臺Bugcrowd展開合作，收集人們在使用其產品過程中發現的bug。
發現並透過該平臺向其報告漏洞，可獲得現金獎勵：
我們會視漏洞的嚴重程度和影響範圍給予現金獎勵。嚴重性較低的漏洞將會被給予200美元，而對於特殊的漏洞，獎金的上限是2萬美元。我們十分重視您的貢獻，並將致力於（向公眾）公布您的努力成果。
具體而言，使用者回饋的漏洞將按照Bugcrowd評級分類法進行分級。
OpenAI坦言，漏洞的出現無法避免：
OpenAI的使命是創造有利於所有人的人工智慧系統。為此，我們在研究和工程方面進行了大量投資，以確保我們的人工智慧系統安全可靠。然而，和其他複雜的技術一樣，我們清楚（我們的產品）可能會出現漏洞和缺陷。
OpenAI安全部門負責人Matthew Knight解釋說，發現漏洞的過程需要廣大網友提供説明：
這一舉措是我們致力於開發安全和先進的人工智慧的一個重要組成部分。在我們創造安全、可靠和值得信賴的技術和服務時，我們希望得到您的幫助。
他們還向全網承諾，在收到回饋後第一時間修復漏洞，並對提交者進行表彰。
新的副業出現了？
體驗過ChatGPT的網友應該都知道，它的表現不總是那麼令人滿意。 問題稍難一些，ChatGPT就會被弄昏頭，甚至給出讓人啼笑皆非的答覆。
這麼一看，找bug實在太簡單了，那賺大錢的機會來了？ 不要高興太早。
在公告中，OpenAI已經表明，出於修復可行性的考量，模型本身的問題並不在此次計畫的範疇之內。
而讓其進行說壞話、做壞事、產生惡意程式碼等繞過安全措施或產生機器幻覺的行為，都屬於模型本身的問題。 更不必說錯誤或者不精確的回答了。
OpenAI希望收集的有關ChatGPT的漏洞，主要是關於其帳號、認證、訂閱、支付、會員和外掛程式等問題。
對於普通使用者來說，從這些角度發掘漏洞就有些難度了。
安全問題不容小覷
前文中提到的繞過安全限制等問題是從業者十分關切的。 人工智慧程式內建了防止其給出危險或帶有冒犯性的言論的安全限制。 但透過一些途徑，這些限制可以被繞過或突破。 這種現象被從業者形象地稱之為「越獄」。
例如詢問ChatGPT如何做一些違法之事時，事先聲明要求它「扮演」壞人。 在人工智慧領域，有一群人專門對「越獄」進行研究，以完善安全措施。 儘管OpenAI不收集模型本身的漏洞，但這並不代表他們不重視這方面的問題。
搭載GPT-4.0模型的新版本ChatGPT便有著更為嚴格的限制措施。
網友：為什麼不讓ChatGPT自己找bug
OpenAI的賞金計畫一公布，就吸引了不少網友圍觀。
這不，第一時間就有網友舉手表示自己已經發現了一個bug：
報告，3小時內只能問ChatGPT 25個問題，這是個bug！
還有網友調侃，難道不應該讓ChatGPT自己為自己debug嗎？
正經說起來，則有網友對危險言論問題不在收集範圍表示了擔憂：
不過，大多數網友還是支持的：
你想找漏洞賺點錢嗎？
參考連結：
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！