ADVERTISEMENT
NVIDIA以開源方式推出NeMo Guardrails工具軟體,協助開發人員限制AI聊天機器人的行為,確保符合企業安全要求。
防止AI聊天機器人被玩壞
回想一下當我們教外國朋友中文的時候,是不是都會抱著惡作劇的心情,先教對方說一些「不好的話」。但是如果企業的AI聊天機器人也被開這種玩笑的話,後果可就非同小可。
NVIDIA為了避免這種狀況而推出NeMo Guardrails工具軟體,可以確保如ChatGPT等以大型語言模型(LLMs)為基礎的AI應用程式能夠準確、適當、切題且安全地回答問題,避免AI被「玩壞」的情況發生。
NeMo Guardrails主要提供下列3種功能,它的操作相當簡單,只需幾行程式碼就能快速建立新規則,即使不是機器學習專家也能使用。
NeMo Guardrails功能一覽
- 主題護欄:可以避免應用程式偏離到不想要的領域。例如,它們可以防止客戶服務助理回答關於天氣的問題。
- 安全護欄:確保應用程式回覆準確、適當的資訊。它們可以過濾不必要的語言,並強制要求只引用可信的來源。
- 保全護欄:限制應用程式僅與已知為安全的外部連結建立連接。
受益於開放原始碼的特性,NeMo Guardrails可以與企業應用程式開發人員使用的所有工具配合使用,有利於縮端開發時間,整合第三方應用程式與大型語言模型的強大功能,發揮更大的生產力。
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!