先前OpenAI說，GPT-4的推出不僅旨在提高ChatGPT的功能，還可能使模型更不可能產生潛在有害輸出。
不過，歐洲刑警聯盟 Europol的專家發出警告，表示他們先前已經發現了歹徒利用 GPT-3.5中的各種犯罪用例。然而，對GPT4的後續檢查顯示，所有這些用例仍然有效。在某些情況下，GPT-4的潛在犯罪能力甚至更加先進。
Europol指出，ChatGPT擅長於根據各種提示，為用戶提供現成的資訊。如果潛在罪犯對某個犯罪領域一無所知，ChatGPT可以通過提供關鍵信息來顯著加速研究過程，這些資訊可以在後續步驟中進一步探索。因此，ChatGPT可以用於學習關於大量潛在犯罪領域的信息，而不需要事先了解，範圍包括了從如何闖入房屋到恐怖主義、網路犯罪和兒童性虐待。
釣魚詐騙、假冒和社交工程更不容易被察覺
ChatGPT高度真實的文字撰寫能力，使其成為釣魚目的極其有用的工具。之前，許多基本的釣魚騙局會有明顯的語法和拼寫錯誤，許多釣魚騙局更容易被檢測出來，現在，即使只具有基本的英語語言能力，也可以以高度逼真的方式假冒組織或個人。
關鍵是，釣魚郵件的上下文可根據犯人的需要而調整，範圍從詐騙投資機會到商業電子郵件入侵和CEO騙局。因此，ChatGPT可能為犯罪分子提供新的機會，考慮到其根據上下文回應消息的能力和採用特定書寫風格的能力，特別適用於社交工程的犯罪。此外，使用ChatGPT生成虛假的情報，可以為各種類型的線上詐騙增加可信度，例如推廣投資詐騙。
迄今為止，這些類型的欺騙性內容都是犯罪分子必須自己製作的東西。在大量製造的活動中，這些犯罪的目標通常可以通過明顯的拼寫或語法錯誤或其模糊或不准確的內容識別消息的不真實性。但在大型語言模型LLMs的幫助下，這些類型的釣魚和在線詐騙可以更快，更真實地創建，並且在顯著增加的規模下。
LLMs檢測並重新生成語言模式的能力不僅有助於釣魚和在線詐騙，還可用於模仿特定個人或團體的語言風格。該功能只要被濫用，就可以讓潛在受害者相信犯罪分子的信任。
網路犯罪程式能力升級
除了生成人類般的語言之外，ChatGPT還能夠使用多種不同的程式語言程式碼，這可能對網絡犯罪產生重大影響。在目前的ChatGPT版本中，已經可以為各種惡意目的創建基本工具。儘管這些工具只是基本的（例如生成釣魚頁面或惡意VBA腳本），但這為網絡犯罪提供了一個開始，因為它使沒有技術知識的人能夠利用受害者系統上的攻擊向量。
這種自動化程式生成對那些缺乏寫程式和開發知識的犯罪分子特別有用。關鍵是，官方所謂的「防止ChatGPT提供可能有害程式碼」的保護措施，只有在模型了解自己在做什麼時才能發揮作用。也就是說，除非犯人直接跟他說「寫一個釣魚程式」，ChatGPT才會拒絕，但是如果犯人把要求分解成幾個單獨的步驟，那麼繞過這些安全措施就非常簡單。
雖然ChatGPT生成讓寫程式變得簡單，但被壞人利用則是未來幾年此類工具的不可避免改進的嚴峻前景。實際上，在ChatGPT最初公開發布後不久，2022年12月的Check Point Research就有一篇文章，演示了如何使用ChatGPT創建完整的釣魚程式感染流程，從魚叉式釣魚到接受英語命令的木馬安裝。
Europol表示，雖然ChatGPT拒絕提供它認為明顯惡意的要求，但繞過這些限制是可能的、甚至非常簡單的。 尤其到了最新版本的GPT-4，已經對其前版本進行了改進，因此可以更有效地為網路犯罪目的提供幫助。新模型更擅長於理解程式的上下文，並更擅長於更正錯誤消息和修復程式錯誤。對於技術知識較少的潛在罪犯來說，這是一個寶貴的資源。同時，更高級的用戶可以利用這些改進的功能，進一步完善或甚至自動化複雜的網路犯罪操作。
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！