OpenAI 在 ChatGPT 中推出了一款新的圖像產生器，因其能夠創建吉卜力工作室風格的圖像而迅速爆紅。除了粉彩插畫外，GPT-4o 的原生圖像產生器顯著提升了 ChatGPT 的功能，改進了圖片編輯、文字渲染和空間呈現。
然而，OpenAI 本週最顯著的變化之一可能沒有被大眾意識到，那就是其內容審核政策的調整。現在允許 ChatGPT 應要求生成描繪公眾人物、仇恨符號和種族特徵的圖像。
像是在過去，如果你要求生成馬斯克、川普這一類公眾人物，他會拒絕這類生成，認為它們太具爭議性或有害。但根據 OpenAI 模型行為負責人 Joanne Jang 週四發布的一篇部落格文章，該公司現在已經「進化」了其方法。
「我們正從在敏感領域一概拒絕，轉向更精確的方法，重點是防止現實世界的危害，」Jang 說。「目標是擁抱謙遜：認識到我們有多少不知道的事情，並在學習的過程中調整自己。」
這些調整似乎是 OpenAI 更大計畫的一部分，旨在有效地「解除」ChatGPT 的審查。OpenAI 在二月份宣布，它將開始改變其訓練 AI 模型的方式，最終目標是讓 ChatGPT 處理更多請求、提供不同的觀點，並減少聊天機器人拒絕處理的主題。
根據更新後的政策，ChatGPT 現在可以生成和修改唐納·川普、伊隆·馬斯克和其他 OpenAI 之前不允許的公眾人物的圖像。Jang 表示，OpenAI 不希望成為地位的仲裁者，選擇誰應該或不應該被 ChatGPT 生成。相反，如果使用者不希望 ChatGPT 描繪他們，公司將提供選項讓用戶自己選擇。
在週二發布的一份白皮書中，OpenAI 還表示，它將允許 ChatGPT 使用者在教育或中性的情境中「生成仇恨符號」（例如納粹黨徽），只要它們不「明顯讚揚或支持極端主義議程」。
此外，OpenAI 正在改變其對「冒犯性」內容的定義。Jang 表示，ChatGPT 過去會拒絕有關身體特徵的請求，例如「讓這個人的眼睛看起來更像亞洲人」或「讓這個人更胖」。在 TechCrunch 的測試中，我們發現 ChatGPT 新的圖像產生器可以滿足這些類型的請求。
此外，ChatGPT 現在可以模仿創意工作室（例如皮克斯或吉卜力工作室）的風格，但仍然限制模仿在世藝術家的個人風格。正如 TechCrunch 先前指出的那樣，這可能會重新引發關於 AI 訓練數據集中合理使用受版權保護作品的現有爭議。
值得注意的是，OpenAI 並非完全放任濫用。根據 GPT-4o 的白皮書，GPT-4o 的原生圖像產生器仍然拒絕許多敏感查詢，事實上，它在生成兒童圖像方面的安全措施比 ChatGPT 之前的 AI 圖像產生器 DALL-E 3 更多。
但在多年來矽谷公司因所謂 AI「審查」而受到保守派批評後，OpenAI 正在其他領域放寬其限制。Google 先前因其 Gemini 的 AI 圖像產生器而面臨強烈反彈，該產生器為「美國國父」和「二戰中的德國士兵」等查詢創建了多種族圖像，這顯然是不準確的。
現在，圍繞 AI 內容審核的文化戰爭可能正走向白熱化。本月稍早，共和黨眾議員吉姆·喬丹向 OpenAI、Google 和其他科技巨頭發送質詢，詢問他們是否可能與拜登政府勾結審查 AI 生成的內容。
在先前給 TechCrunch 的一份聲明中，OpenAI 否認其內容審核變更是出於政治動機。相反，該公司表示，這種轉變反映了「長期以來賦予使用者更多控制權的信念」，並且 OpenAI 的技術現在才變得足夠好，能夠處理敏感主題。
無論其動機如何，鑑於在川普政府領導下可能面臨的監管審查，OpenAI 現在改變其內容審核政策無疑是個好時機。Meta 和 X 等矽谷巨頭也採取了類似的政策，允許在其平台上出現更多具爭議性的主題。
雖然 OpenAI 新的圖像產生器目前只創造了一些爆紅的吉卜力工作室風格迷因，但這些政策的更廣泛影響尚不明確。ChatGPT 近期的變更可能受到川普政府的歡迎，但讓 AI 聊天機器人回答敏感問題可能很快就會讓 OpenAI 陷入困境。
- 延伸閱讀：ChatGPT 4o圖像生成請求不再有求必應，OpenAI表示GPU已經快被操到熔化
- 延伸閱讀：ChatGPT 4o能夠生成多少種圖片？貼圖、風格漫畫到創意圖解，AI創意用法完全上手
- 延伸閱讀：ChatGPT 4o圖像生成被玩爆、免費版宣佈延後開放，吉卜力風格圖像24小時內淹沒社群引發版權疑慮
- 延伸閱讀：OpenAI 推出 4o Image Generation 圖像生成功能，AI 繪圖更精準、擬真、未來免費用戶也能用
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！