【ITBEAR科技資訊】4月26日消息，NVIDIA推出了一款名為NeMo Guardrails的軟件，它能夠?yàn)槿斯ぶ悄苣Ｐ驮O(shè)置安全“護(hù)欄”，避免AI輸出一些不良的內(nèi)容。據(jù)悉，NeMo Guardrails的本質(zhì)是一個(gè)位于用戶和模型之間的軟件層，它能夠在模型輸出不良內(nèi)容前進(jìn)行攔截和修改。
比如，如果用戶需要一個(gè)針對(duì)特定方向的AI，就可以利用該軟件，來限制AI至輸出對(duì)應(yīng)方面的內(nèi)容，而不談?wù)摬幌嚓P(guān)的話題。此外，該軟件還能夠利用一個(gè)AI模型檢測另一個(gè)AI模型，如果兩個(gè)模型輸出的答案不一致，軟件將直接輸出“我不知道”的回答。通過這種方式，人工智能“胡說八道”的情況會(huì)得到有效降低，一些可能存在危險(xiǎn)的回復(fù)也能夠被直接攔截。
據(jù)ITBEAR科技資訊了解，隨著生成式人工智能的普及，越來越多的用戶在享受便利的同時(shí)發(fā)現(xiàn)，AI經(jīng)常會(huì)出現(xiàn)“一本正經(jīng)的胡扯”的現(xiàn)象，有時(shí)甚至?xí)幸恍┳屓思?xì)思極恐的發(fā)言。NeMo Guardrails是一個(gè)非常有用的工具，它能夠?yàn)橛脩籼峁┮环N更加安全和可控的人工智能體驗(yàn)。
NeMo Guardrails的推出，對(duì)于AI行業(yè)來說具有重要意義。它不僅能夠提高人工智能系統(tǒng)的安全性和可控性，還能夠讓用戶更加放心地使用人工智能產(chǎn)品。此外，隨著越來越多的用戶開始關(guān)注人工智能的安全性問題，相信類似NeMo Guardrails這樣的工具在未來會(huì)越來越受到重視，成為人工智能行業(yè)的必備工具之一。
