Google Pixel 9上的 Pixel Studio AI圖像生成工具被指「百無禁忌」，可以生成納粹版海綿寶寶、持槍寶可夢

Google上週推出了 Pixel 9智慧型手機陣容，其中包括多款以人工智慧為核心的新裝置。所有 Pixel 9手機都支援Gemini人工智慧，Google還增加了基於人工智慧的圖像生成和編輯工具。評測人員已經對智慧型手機的新功能進行了測試，從目前的測試結果來看，AI 圖像生成工具的「百無禁忌」可能會成為Google的公關噩夢。

Google為 Pixel 手機推出了一款名為 Pixel Studio 的 AI 圖像生成應用程式。它的設計目的是通過基於文字的提示來建立貼紙和圖片，它看起來和聽起來很像蘋果計畫中的 Image Playground。到目前為止，評測者已經可以用 Pixel Studio 製作出各種有問題的圖片，從納粹版的海綿寶寶到手持 AK47 的精靈寶可夢，不一而足。

Digital Trends不費吹灰之力就能讓 Pixel Studio 製作出深受喜愛的卡通人物進行可疑活動的圖像。槍支、毒品和酒精不是禁區，校園槍擊等令人反感的情況也沒有成為禁區。

Google表示，為了防止 Pixel Studio 被惡意使用，Google還進行了安全檢查。Pixel Studio 不會生成人類圖像，Google正在根據評論對人工智慧進行調整。在與Google溝通後，Digital Trends無法再讓 Pixel Studio 建立使用可卡因或打扮成德國士兵的卡通人物。

不過，比 Pixel Studio 更令人擔憂的是Google的Reimagine工具，它可以為已拍好的照片新增物體。

The Verge用它為圖片新增了屍體、炸彈、毒品和災難，照片中的物體看起來非常逼真，很難分辨圖片是否經過編輯。Google能很好地將生成的物體的光線和視角與原始照片相匹配，而且在社群媒體上沒有浮水印或標記。雖然Google會新增meta資料標籤到生成的圖片上表明是AI生成，但這只要利用截圖就可以破解。

當然，這兩個人工智慧功能都非常好用，所以這些工具並不都是壞的，就像你可以使用 Pixel Studio 建立有趣的圖片一樣，例如，Android Authority就分享了許多正常使用的例子。

以往在圖片上新增人體，或者製作一張拿著槍的精靈寶可夢的圖片，通常需要一定的 Photoshop 技能和時間。有了 Pixel手機，只需一個念頭和幾秒鐘就能建立這樣的圖片，而且就在智慧型手機上，任何人都可以使用。

Google在一份聲明中說，它設計的生成式人工智慧工具尊重使用者提示的意圖，當使用者提出要求時，它可能會建立「可能冒犯使用者」的內容。但Google聲稱，服務條款規定了哪些內容是不允許的，而且保障措施將不斷改進。

蘋果尚未推出圖像生成工具 Image Playground 或 Genmoji，而Pixel 9 發佈的媒體報導讓我們瞭解到，如果未來蘋果不能恰到好處地應對，可能會出現什麼樣的反應。迄今為止，蘋果公司一直對逼真的人工智慧圖像敬而遠之，但Google正在全力以赴，今後社群媒體上的照片將更難取信於人。

• 延伸閱讀：Google 的 Pixel Studio 本機 AI 文生圖功能：基於 Imagen 3 模型，2 秒內生成