NVIDIA推出NeMo Guardrails,防止AI聊天機器人再跟你「一本正經的胡說八道」

NVIDIA推出NeMo Guardrails,防止AI聊天機器人再跟你「一本正經的胡說八道」

ADVERTISEMENT

NVIDIA以開源方式推出NeMo Guardrails工具軟體,協助開發人員限制AI聊天機器人的行為,確保符合企業安全要求。

防止AI聊天機器人被玩壞

回想一下當我們教外國朋友中文的時候,是不是都會抱著惡作劇的心情,先教對方說一些「不好的話」。但是如果企業的AI聊天機器人也被開這種玩笑的話,後果可就非同小可。

NVIDIA為了避免這種狀況而推出NeMo Guardrails工具軟體,可以確保如ChatGPT等以大型語言模型(LLMs)為基礎的AI應用程式能夠準確、適當、切題且安全地回答問題,避免AI被「玩壞」的情況發生。

NeMo Guardrails主要提供下列3種功能,它的操作相當簡單,只需幾行程式碼就能快速建立新規則,即使不是機器學習專家也能使用。

NeMo Guardrails功能一覽

  1. 主題護欄:可以避免應用程式偏離到不想要的領域。例如,它們可以防止客戶服務助理回答關於天氣的問題。
  2. 安全護欄:確保應用程式回覆準確、適當的資訊。它們可以過濾不必要的語言,並強制要求只引用可信的來源。
  3. 保全護欄:限制應用程式僅與已知為安全的外部連結建立連接。

NeMo Guardrails工具軟體以開源方式推出,可以搭配多種大型語言模型使用。

NeMo Guardrails具有主題護欄、安全護欄、保全護欄等功能。

NeMo Guardrails能夠限制AI聊天機器人的行為。

NeMo Guardrails的設定只需簡單幾行程式,操作相當簡單。

受益於開放原始碼的特性,NeMo Guardrails可以與企業應用程式開發人員使用的所有工具配合使用,有利於縮端開發時間,整合第三方應用程式與大型語言模型的強大功能,發揮更大的生產力。

國寶大師 李文恩
作者

電腦王特約作者,專門負責硬派內容,從處理器、主機板到開發板、零組件,尖端科技都一手包辦,最近的研究計畫則包括Windows 98復活與AI圖像生成。

使用 Facebook 留言
發表回應
謹慎發言,尊重彼此。按此展開留言規則