Zilliz 在第三屆稀土開發(fā)者大會 (XDC 2023)上的分享可以解答一二。近日，由稀土掘金技術(shù)社區(qū)主辦的 XDC 2023 成功開幕。Zilliz 受邀參與并和業(yè)界同仁一起圍繞開源生態(tài)與產(chǎn)業(yè)發(fā)展，探索和發(fā)現(xiàn)產(chǎn)業(yè)中最具價值的新技術(shù)，探討在技術(shù)變革中的應(yīng)對策略，期望攜手萬千技術(shù)開發(fā)者在激蕩的環(huán)境中，共同探尋前行的方向。
在大模型與 AIGC 論壇上，Zilliz 開發(fā)者關(guān)系及市場運(yùn)營負(fù)責(zé)人、客戶成功與生態(tài)發(fā)展負(fù)責(zé)人李晨進(jìn)行了名為《向量數(shù)據(jù)庫：面向 AIGC 的海量記憶體》的主題演講。
李晨指出，當(dāng)前大模型面臨的主要問題之一是“AI 幻覺”，而構(gòu)建知識庫是解決該問題的有效方法。向量數(shù)據(jù)庫可以作為知識庫的擴(kuò)展插件，為大模型提供知識增強(qiáng)的能力。
向量數(shù)據(jù)庫是為人工智能而生的數(shù)據(jù)庫。作為全球第一款開源的向量數(shù)據(jù)庫，Milvus 具備云原生分布式、超高性能、可插拔引擎以及云端一體化的特點。通過與 NVIDIA Rapids 的合作，Milvus 成為全球首個支持 GPU 的向量數(shù)據(jù)庫，查詢性能提升了 3 倍;而與 OpenAI 的合作，則使得 ChatGPT 的插件具備了向量檢索的條件。
當(dāng)然，向量數(shù)據(jù)庫的玩法遠(yuǎn)不止于此，在配合大模型的基礎(chǔ)上疊加如今火熱的 LangChain、LlamaIndex、Semantic Kernel 等框架項目，向量數(shù)據(jù)庫可以將記憶體的效果發(fā)揮到極致，幫助開發(fā)者實現(xiàn) 12 小時寫出一個 AI 程序的夢想。
這種搭配也為大語言模型時代構(gòu)建數(shù)據(jù)應(yīng)用提供了一種新的范式，稱為 CVP Stack。其中，C 代表以 ChatGPT 為代表的大模型，V 代表向量數(shù)據(jù)庫，P 代表 prompt 工程。C 作為運(yùn)算單元，提供邏輯分析和自然語言對接的能力;V 作為存儲單元，提供穩(wěn)定準(zhǔn)確、高容量的知識;P 在前兩者的基礎(chǔ)上，提供面向具體業(yè)務(wù)的適配能力。
例如，Zilliz 的工程師就曾用兩天的時間做出了 CVP Stack 的 OSSChat(https://osschat.io)，用于解決開源項目文檔冗長、不易查找等問題，目前已經(jīng)支持幾十個主流的開源項目，訪問量巨大，用戶甚至可以去生成開源項目的代碼。
目前，Milvus 不僅具備百億級向量的擴(kuò)展能力，還集成了 OpenAI、Langchain、Huggingface、Pytorch 等人工智能生態(tài)系統(tǒng)，成為大語言模型落地應(yīng)用的重要組成部分。
當(dāng)然，為了提供開箱即用的全托管向量檢索服務(wù)，Zilliz 還推出了全托管的 Milvus 向量數(shù)據(jù)庫產(chǎn)品——Zilliz Cloud。它具備維護(hù)成本低、使用門檻低、豐富的企業(yè)級特性以及安全可靠的特點。Zilliz Cloud 已經(jīng)支持了 AWS 和 GCP，即將支持阿里云、百度智能云、騰訊云、金山云等云平臺。
可以說，Zilliz 致力于構(gòu)建開源+云的非結(jié)構(gòu)化數(shù)據(jù)處理方案。而隨著 AIGC 浪潮的興起，Zilliz 必將披荊斬棘，帶領(lǐng)向量數(shù)據(jù)庫行業(yè)成為AIGC時代架構(gòu)的重要組成部分。未來，在 AIGC 領(lǐng)域的推動下，向量數(shù)據(jù)庫將朝著更大、更快、更穩(wěn)的方向發(fā)展，降低使用成本，更好地服務(wù)于開發(fā)者和企業(yè)。
總的來說，向量數(shù)據(jù)庫作為大模型時代備受關(guān)注的細(xì)分領(lǐng)域，在 AI 時代具有重要意義。作為賽道的奠基者和領(lǐng)先者，Milvus 和 Zilliz Cloud 通過 CVP Stack 為大模型場景的落地提供了典型的范例。回到AI時代，對于廣大開發(fā)者和相關(guān)企業(yè)來說，探索開箱即用的向量數(shù)據(jù)庫產(chǎn)品是必然趨勢。
值得欣喜的是，據(jù) Zilliz 官方透露，全托管的 Milvus SaaS/PaaS 將于下周上線，由 Zilliz 原廠打造!將覆蓋阿里云、百度智能云、騰訊云、金山云等云平臺。目前已經(jīng)支持試用申請，企業(yè)用戶可以申請 PoC 或其他商務(wù)合作，請聯(lián)系 [email protected]。
