Google CEO表示，Gemini AI輸出的種族與歷史爭議性內容「完全不可接受」

Google首席執行長皮查伊（Sundar Pichai）在一份內部備忘錄中告訴員工，Google Gemini AI生成的與歷史不符的圖片和文字「冒犯了我們的使用者，並顯示出偏見」。

上週，Google暫停了Gemini AI生成圖片的功能，因為人們發現，該模型生成的圖片存在種族差異，包括納粹時期的德國士兵、非白人的美國國父，甚至還不精準地描繪了Google自己的聯合創始人的種族。

▲ 社群網路上的眾多網友們還提供了一些 Gemini 生成維京人、教皇的圖片樣本。我們可以看到有一名身著教皇服裝的亞洲女性，但歷史上所有教皇都是男性擔任的。

最後，Google知識與資訊高級副總裁 Prabhakar Raghavan 針對 Gemini 圖像生成問題表示關閉相關服務，並且道歉：

「三週前，我們為 Gemini 對話應用程式（以前稱為 Bard）推出了新的圖像生成功能，其中包括建立人物圖像的功能。

很明顯，這個功能沒有達到預期。生成的一些圖像不精準甚至具有攻擊性。我們感謝使用者的反饋，並對功能未能正常運行感到抱歉。

我們已經承認了這個錯誤，並暫停了 Gemini 的人物圖像生成功能，同時我們正在開發改進版本。」

皮查伊：它冒犯了我們的使用者並顯示出偏見，這是完全不可接受的

雖然Google隨後為失誤道歉，並表示正在努力在未來幾週內重新啟用圖像生成功能，但週二的備忘錄是Google首席執行長首次提及這一爭議。

在這份最早由Semafor報導的備忘錄中，皮查伊說公司一直在夜以繼日地工作，以解決Gemini AI對於文字和圖片回覆的問題。他並沒有說Google已經解決了這個問題。他寫道：「沒有任何 Al 是完美的，尤其是在這個行業發展的新興階段，但我們知道對我們的要求很高，無論需要多長時間，我們都將繼續努力。」

下面是皮查伊致Google員工的備忘錄全文：

大家好！

我想談談最近在Gemini AI（前身為 Bard）中出現的文字和圖片回覆問題。我知道它的一些回覆冒犯了我們的使用者並顯示出偏見，這是完全不可接受的，是我們做錯了。

我們的團隊一直在夜以繼日地解決這些問題。我們已經看到各種提示有了實質性的改進。沒有 Al 是完美的，尤其是在行業發展的這個新興階段，但我們知道對我們來說標準很高，無論需要多長時間，我們都將繼續努力。我們會重新審視所發生的一切，並確保我們能大規模地解決這些問題。

我們的使命是組織全球資訊，使其能夠被普遍獲取並行揮作用，這一點神聖不可侵犯。我們始終致力於在我們的產品中為使用者提供有用、精準和公正的資訊。這就是人們信任我們產品的原因。我們的所有產品，包括新興的 Al 產品，都必須秉承這一理念。

我們將採取一系列明確的行動，包括結構改革、更新產品指南、改進發佈流程、嚴格的評估和紅隊以及技術建議。我們正在全面審視這些問題，並將做出必要的改變。

在吸取教訓的同時，我們也應該以過去幾週在AI領域發佈的產品和技術為基礎。這包括我們在底層模型方面取得的一些基礎性進展，例如我們的 100 萬長上下文窗口突破和我們的開放式模型，這兩項都廣受好評。

我們深知如何才能創造出受數十億人和企業使用和喜愛的優秀產品，憑藉我們的基礎設施和研究專長，我們擁有了實現 Al 浪潮的絕佳跳板。讓我們專注於最重要的事情：打造值得使用者信賴的有用產品。