全新發布的開源軟件能夠幫助開發者指導生成式AI應用生成令人印象深刻的文本響應，并保持在正軌上。

(相關資料圖)

NeMo Guardrails有助于確保大型語言模型（LLM）驅動的智能應用準確、恰當、符合主題且安全。該軟件包含了企業為提高可以生成文本的AI應用程序的安全性所需的所有代碼、示例和文檔。

LLM正在被用于回答客戶的問題、總結冗長的文件，甚至編寫軟件和加速藥物研發。作為這些AI應用背后的強大引擎，LLM正在被越來越多的行業所采用，此次發布恰逢其時。

NeMo Guardrails專為幫助用戶保證這類新型AI賦能的應用的安全性而開發。

NeMo Guardrails幫助企業確保建立在大型語言模型上的應用符合其功能安全和信息安全要求

強大的模型，強大的護欄

生成式AI的安全性是人們普遍關心的問題。NVIDIA設計NeMo Guardrails是為了讓它適用于所有LLM，例如OpenAI的ChatGPT。

該軟件可以讓開發者調整LLM驅動的應用，以確保模型的安全性并在公司的專業領域內。

NeMo Guardrails使開發者能夠構建三種邊界：

· 主題護欄防止應用偏離進非目標領域，例如防止客服助理回答關于天氣的問題。

· 功能安全護欄確保應用能夠以準確、恰當的信息作出回復。它們能過濾掉不希望使用的語言，并強制要求模型只引用可靠的來源。

· 信息安全護欄限制應用只與已確認安全的外部第三方應用建立連接。

幾乎每個軟件開發人員都可以使用NeMo Guardrails，他們不需要成為機器學習專家或數據科學家，只需幾行代碼就可以快速創建新的規則。

與熟悉的工具集成

NeMo Guardrails是開源的，因此它可以與企業應用開發人員使用的所有工具搭配使用。

例如，它可以在LangChain上運行。LangChain是一個開源工具包，越來越多的開發者用它來將第三方應用嵌入到LLM中。

LangChain工具包的創建者Harrison Chase表示：“用戶可以輕松地將NeMo Guardrails添加到LangChain工作流程中，以快速為其AI應用設置安全邊界。”

此外，NeMo Guardrails專為適用于廣泛的基于LLM的應用而設計，例如Zapier。Zapier是一個被超過200萬家企業使用的自動化平臺，它見證了用戶如何將AI集成到他們的工作中。

Zapier的AI首席產品經理Reid Robinson表示：“功能安全，信息安全和信任是負責任的AI開發的基石，我們對NVIDIA主動將這些護欄嵌入AI智能系統感到興奮。”

“我們期待著讓AI成為未來可靠并值得信賴的一部分所帶來的益處。”

由NVIDIA提供，現已開源可用

NVIDIA正在將NeMo Guardrails整合到NVIDIA NeMo框架中，該框架包含用戶使用公司的專有數據來訓練和調整語言模型所需的一切。

NeMo框架的大部分內容已在GitHub上作為開放源碼提供。作為NVIDIA AI Enterprise軟件平臺的一部分，它還可以以完整的支持包的形式提供給企業。

NeMo還可作為一項服務使用。作為NVIDIA AI Foundations的一部分，這套云服務面向希望基于自己的數據集和領域知識創建、運行自定義生成式AI模型的企業。

通過使用NeMo，韓國領先的移動運營商構建了一個智能助手，該助手目前已經與客戶進行了800萬次對話；瑞典的一個研究團隊使用NeMo創建了LLM，為該國醫院、政府和商業機構自動生成文本。

需要整個社區的長期共同努力

為生成式AI構建有效的護欄是一項難題，隨著AI的發展將需要大量持續的研究。

NVIDIA將其多年研究成果——NeMo Guardrails開源，為釋放開發者社區的巨大能量及推動AI安全工作作出了貢獻。

NVIDIA在護欄方面的努力將幫助企業確保他們的智能服務滿足功能安全、隱私和信息安全的要求，從而使這些創新引擎保持在正軌上。

關鍵詞：