在當今數(shù)字化時代,生成式人工智能(AI)應用的開發(fā)與部署正成為企業(yè)和開發(fā)者競相探索的新藍海。然而,復雜的技術流程和高昂的入門成本往往成為阻礙這一進程的主要障礙。為了打破這一瓶頸,青云科技旗下的AI算力云——基石智算CorsHub,憑借其高度標準化的平臺與應用集成能力,為用戶提供了一個便捷、靈活的開發(fā)環(huán)境,極大地降低了生成式AI應用的開發(fā)門檻。
為了幫助開發(fā)者更輕松地構建和運營生成式AI原生應用,Dify作為一個開源的LLM應用開發(fā)平臺應運而生。該平臺不僅集成了主流LLM,還提供了直觀的Prompt協(xié)調(diào)界面、高質量的RAG引擎、靈活的人工智能代理框架,并支持低代碼/無代碼開發(fā),使得開發(fā)者能夠通過易用的界面和API接口,實現(xiàn)從Agent構建到AI workflow編排、RAG檢索、模型管理等全方位的功能。
接下來,我們將以基石智算平臺上的大模型服務DeepSeek-R1為例,詳細介紹如何在Dify平臺上調(diào)用該模型,并部署自己的AI應用。
首先,用戶需要在基石智算平臺上注冊并登錄,然后導航至大模型服務平臺頁面。在這里,用戶可以創(chuàng)建并獲取API密鑰,這是訪問預置模型API服務的關鍵。同時,用戶還可以在在線推理服務頁面找到目標模型的API文檔,查看API服務接口路徑,即模型的API域名。
獲取API密鑰和域名后,用戶就可以開始配置和使用Dify平臺了。首先,訪問Dify官網(wǎng)并點擊開始使用,選擇合適的登錄方式登錄。登錄成功后,進入設置頁面,在模型供應商模塊中添加OpenAI-API-compatible模型。在彈出的窗口中,用戶需要配置各項參數(shù),包括模型類型、模型名稱、API Key、API endpoint URL等。
配置完成后,返回Dify工作室,點擊創(chuàng)建空白應用。在創(chuàng)建頁面,選擇聊天助手模板,輸入應用名稱和圖標,點擊創(chuàng)建。隨后,在調(diào)試與預覽窗口中,將所使用的模型切換為自行配置的DeepSeek-R1,即可開始調(diào)試自己的聊天助手。
Dify平臺還支持多模型調(diào)試功能,用戶可以同時選擇平臺內(nèi)的其他模型進行對比調(diào)試,以便更好地選擇和優(yōu)化自己的AI應用。
通過基石智算CorsHub和Dify平臺的強強聯(lián)合,開發(fā)者得以輕松跨越生成式AI應用開發(fā)的技術門檻,快速構建并部署自己的AI應用。這一創(chuàng)新性的解決方案不僅加速了AI技術的普及和應用,更為企業(yè)和開發(fā)者在數(shù)字化轉型的道路上提供了強有力的支持。