近期，字節(jié)跳動(dòng)旗下火山引擎公司宣布了一項(xiàng)重要進(jìn)展，其豆包1.5·深度思考模型已經(jīng)成功部署至邊緣大模型網(wǎng)關(guān)，并向用戶提供高達(dá)500萬tokens的免費(fèi)試用配額，此舉迅速吸引了AI領(lǐng)域內(nèi)的廣泛關(guān)注。
豆包1.5·深度思考模型是火山引擎精心打造的一款高性能AI模型，尤其在數(shù)學(xué)、代碼和科學(xué)推理等領(lǐng)域展現(xiàn)出了卓越的能力，其表現(xiàn)已達(dá)到或接近國際頂尖水平。不僅如此，該模型在非推理任務(wù)如創(chuàng)意寫作方面也展現(xiàn)出了強(qiáng)大的適應(yīng)性和泛化能力，適用于更多元化和復(fù)雜的應(yīng)用場(chǎng)景。此次推出的豆包1.5包含兩個(gè)版本，一個(gè)是專注于推理的大語言模型Doubao-1.5-thinking-pro，另一個(gè)則是融合了視覺推理功能的多模態(tài)版本。
火山引擎的邊緣大模型網(wǎng)關(guān)為豆包1.5·深度思考模型提供了堅(jiān)實(shí)的支撐。用戶現(xiàn)在可以通過這一網(wǎng)關(guān)輕松訪問豆包全系列模型，并享受200萬tokens的免費(fèi)使用額度。特別地，若用戶在網(wǎng)關(guān)訪問密鑰中集成了豆包大模型，還有機(jī)會(huì)將免費(fèi)額度提升至500萬tokens。
邊緣大模型網(wǎng)關(guān)通過統(tǒng)一的API接口，使用戶能夠便捷地訪問多家大模型供應(yīng)商的模型和智能體。借助遍布全球的邊緣計(jì)算節(jié)點(diǎn)，它實(shí)現(xiàn)了模型的快速就近調(diào)用，從而顯著提升了模型訪問速度，為用戶帶來了更加迅速和可靠的AI服務(wù)體驗(yàn)。用戶可以通過兩種途徑調(diào)用豆包1.5·深度思考模型：一是直接使用網(wǎng)關(guān)預(yù)置的模型，二是將第三方模型平臺(tái)的密鑰托管至網(wǎng)關(guān)，并通過網(wǎng)關(guān)訪問密鑰進(jìn)行模型調(diào)用。
豆包1.5·深度思考模型采用了先進(jìn)的MoE架構(gòu)，擁有200B的總參數(shù)和僅20B的激活參數(shù)，這一設(shè)計(jì)使其在訓(xùn)練和推理成本上具有顯著優(yōu)勢(shì)。基于高效算法，該模型能夠提供極高的并發(fā)處理能力，同時(shí)實(shí)現(xiàn)20毫秒的超低延遲。其深度思考和視覺理解的復(fù)合能力，使得豆包1.5·深度思考模型在解決問題時(shí)更加高效和智能。
通過邊緣大模型網(wǎng)關(guān)調(diào)用豆包1.5·深度思考模型，用戶將享受到一系列優(yōu)勢(shì)，包括調(diào)用加速、成本控制、自動(dòng)重試和故障轉(zhuǎn)移等。這些功能不僅提升了服務(wù)質(zhì)量，還降低了運(yùn)維成本，確保了服務(wù)的連續(xù)性和穩(wěn)定性。
目前，火山引擎的邊緣大模型網(wǎng)關(guān)已經(jīng)適配了超過100種主流大模型和智能體。為了推廣豆包1.5·深度思考模型，邊緣大模型網(wǎng)關(guān)推出了特別優(yōu)惠活動(dòng)。用戶在網(wǎng)關(guān)中創(chuàng)建訪問密鑰并關(guān)聯(lián)最新的豆包模型后，即可申請(qǐng)將免費(fèi)使用額度提升至500萬tokens。
火山引擎的這一戰(zhàn)略舉措不僅為AI開發(fā)者提供了強(qiáng)大的工具支持，也為AI技術(shù)的普及和應(yīng)用推廣注入了新的動(dòng)力。通過邊緣大模型網(wǎng)關(guān)，用戶可以更加便捷地使用豆包1.5·深度思考模型，推動(dòng)AI技術(shù)在更多領(lǐng)域內(nèi)的創(chuàng)新和應(yīng)用。
