不知不覺間,距離掀起全球新一輪 AI 革命的 ChatGPT 出道,已經過去一周年了。在這場顛覆性的 AI 革命中,許多企業和程序員們逐漸形成了一個共識:“不會用 AI 就將被淘汰”。
為了避免“被淘汰”,這一年來眾多企業和程序員全力擁抱 AI、開發各種 AI 應用——連程序員自己都不禁要吐槽一句:“我們是為數不多喜歡革自己命的群體。”
作為一位(上學時候)接觸過代碼的技術編輯,最近,我的程序員朋友們給我安利了一個產品,說 10 分鐘就能用它開發一個 AI 應用!
程序員:“你可以隨時用它做一個’證件照‘應用、一個專屬 AI 秘書或一個 AI 心理咨詢師……你就說你想做啥,咱現在就缺需求和創意。”
我:“啥玩意兒???”
10 分鐘開發一個 AI 應用,是真的!
講句實話,聽到 “10 分鐘開發一個 AI 應用”時,我的第一反應是:你就吹吧!雖然本人并不從事開發工作,但基本常識還是有的——光是部署個 AI 應用的開發環境,就不止 10 分鐘了。
但是本著 FOMO(fear of missing out)的心態,我還是去體驗了一下。
結果,跟著官網上的文檔和操作手冊,我真的花了不到 10 分鐘做了一個“程序員小助手”:程序員可以將自己想要閱讀的代碼復制給它,并給出指令“解釋代碼”,“程序員小助手”即可給出每行代碼的意思和整體邏輯。
不僅如此,我還用同樣短的時間做出了一個設計助手,實現“AI 爆改靈魂畫手”,開了一個類似于妙鴨相機的“個人專屬照相館”。
體驗至此,我滿腦子都是:這也太香了吧!
連我這樣的菜雞,都可以輕易做到“10 分鐘開發一個 AI 應用”:除了等待兩個模型初始化,我幾乎沒再花費其他時間——而這個產品,就是騰訊云高性能應用服務(Hyper Application Inventor,簡稱 HAI)。
開發 AI 應用難,騰訊云 HAI 來破局
許多企業和開發者全力擁抱 AI、積極開發或接入各種 AI 應用,但在這個過程中卻發現,這件事似乎并沒有想象中簡單:硬件選型、環境部署復雜、開發門檻高、技術人才不足等一系列問題,都在阻礙著 AI 應用的落地。
首先,你要過的第一關:硬件選型。
原來,要開發一款 AI 應用,你要先有 GPU 算力。先別說 GPU 有多貴,就說一卡難求的今天,云幾乎是最佳選擇。
然而,先要仔細評估業務場景需要配置什么類型的 GPU、CPU、內存,再從一大堆產品類目中分別挑出合適的存儲、網絡、安全產品,并且自行選擇 CPU 內存配比、GPU 卡型。
第二個難關:環境部署復雜。
舉個例子。相信對于不少開發者而言,進入開發工作之前的模型環境部署,是一件十分繁瑣卻又無法繞開的事情。以部署和安裝 ChatGLM2-6B 模型環境為例,開發者通常需要準備好以下工具和環境:
- Python/ target=_blank class=infotextkey>Python 3.6 及以上版本
- TensorFlow 2.4 及以上版本
- PyTorch 1.6 及以上版本
- CUDA 10.0 及以上版本
- CUDNN 7.6 及以上版本
- Git
- wget
- unzip
- vim 或 emacs 編輯器
準備好之后,開發者要從 Github 上下載 ChatGLM2-6B 源代碼、安裝依賴項、配置模型路徑等等。
當然,以上這一切對于經驗豐富的開發者而言自然不在話下,但如果是初次接觸的新手小白,情況可能迥然不同——好不容易把模型環境部署完了,結果抬頭一看天都黑了,只能嘆口氣:要是誰能幫我把這些準備工作都做了就好了……
在這種背景下,近期騰訊云推出了“開箱即用”的高性能應用服務 HAI 平臺,希望解決開發者的難題。
HAI 能夠提供即插即用的算力與常見環境,可幫助中小企業、開發者及個人用戶快速部署語言模型(LLM)、AI 作畫、數據科學等高性能應用,原生集成配套的開發工具與組件,從而大幅提高應用的開發生產效率,并大幅降低開發門檻。
騰訊云 HAI 支持智能選型,可根據 AI 應用自動匹配推選 GPU 算力資源,實現最高性價比,減輕了開發者在選型上的負擔。
針對上面提到的復雜環境部署,騰訊云 HAI 為開發者事先預置了 StableDiffusion、ChatGLM2-6B、Llama2 7B 等熱門模型及常用插件,用戶只需要點選,幾分鐘即可自動構建 LLM、AI 作畫等應用環境,降低了開發者的技術門檻。
如果 HAI 上面預裝的模型滿足不了你的天馬行空,你也可以根據自身需要,將最新的開源模型下載部署到 HAI。比如最近很火的 Stable Video Diffusion 模型,讓圖片動起來。
HAI 還支持了"學術加速"能力,線路自動擇優,大幅提升對部分主流學術資源平臺的資源訪問、下載速度。
騰訊云甚至還想幫你降低第三道難關:開發難度高。
原來大部分的云服務器操作系統,大部分是基于碼農常用的 linux 內核研發。開機之后基本需要通過使用命令進行交互,沒有代碼基礎的同學可謂“一臉懵逼”。
在操作界面上,HAI 提供WebUI 等直觀、易用的可視化算力連接方式,一鍵進入服務,對開發者友好、即開即用的圖形界面容易上手,讓開發者能更好地進行理解和操作。
有了以上這些特點,也難怪能 10 分鐘就搞定一個 AI 應用——HAI 不僅把 AI 應用開發的前期準備工作全部簡化,其提供的 WebUI 等可視化界面更是大幅降低了開發門檻。
需要更多爆款應用,AIGC 時代才會來
現在的 AIGC 時代,最不缺的是大模型,最缺的是算力、創意與應用場景。
基于此,我們跟騰訊云異構計算產品負責人宋丹丹聊了聊。她表示,ChatGPT 出現了之后,引爆了大家的想象,但目前更多的探索還是在大模型等技術層面,實際落地的應用、實用的工具,還沒有真正落地以及被廣泛使用。騰訊云推出 HAI 的初衷,就是希望可以降低 AIGC 應用的開發門檻,不讓代碼阻礙創意的落地。
“我們希望讓更多的人可以參與進來,而不是圍觀甚至被落下。”
如果不讓越來越多的人學會使用 AI 或者創造 AIGC 應用,其實 AIGC 應用會變成一種特權,而不是讓技術真正地“賦能”每一個人,也只有在這樣的情況下,才會有更多創意與爆款應用落地,我們所期待的 AIGC 時代才會真的到來。
基于這樣的理解,騰訊云 HAI 的產品團隊首先篩選出:哪些人,被技術門檻擋在了外面?答案顯然不是大廠,也不是完全的小白用戶。
HAI 所面向的用戶,騰訊云將其分成兩類:
一類是研發類用戶,原來可能是做前端等崗位,雖然有研發經驗,但是在 AI 領域的知識和工程經驗比較少。他們感興趣、也希望嘗試開發應用,但算力的獲取、部署運維的復雜,都成為了擋在前面的門。正如前文所及,部署一個 AI 開發環境,是如此復雜,足以勸退大部分有想法的開發者們。
另一類是應用型、或可稱為設計類用戶,主要是學生和設計師等。這類用戶的技術不強,需要可視化的交互界面來操作,但他們的創造力和應用場景需求很強:市面上豐富的 Stable Diffusion 模型,可以讓他們的作品變得更加精美。針對這類用戶,騰訊云會提供比較詳細的文檔教他們怎么換模型,且不需要懂代碼。
另一問題是:為什么是現在推出 HAI?
“之前的圖像識別、語音識別、自動駕駛等傳統的模型,對于長尾用戶來說意義不大,更多還是被大公司所使用,個人應用不起來。”宋丹丹解釋,“但去年火起來的大語言模型或者說通用人工智能浪潮,對很多個人開發者來說是有使用價值的。”
在這波浪潮中,騰訊云看到了許多豐富的開源模型,規模在 7B 和 13B 不等,用戶無需對模型進行重新訓練,只需對模型做微調即可創建一個獨立的應用。此外幾個爆款應用的出現,也讓業界看到了應用生態的巨大想象空間。
在內測階段,已經有不少用戶使用了 HAI,開發出一些比較有意思的應用,比如兒童照相館、“看圖識成語”小游戲、小學語文教案制作、英文潤色專家、AI 周公等。
“我們相信產品正式上線之后,會看到更多用戶的創造。”宋丹丹表示。
AI 不只繪畫與對話,未來會聚焦 ModelOps
目前,HAI 產品剛剛上線,主要針對常見的應用場景與使用人群,做了相關環境與模型的預裝,包括:
(1)AI 作畫/設計
在如今迅速發展的 AI 領域中,投身于 AI 作畫的設計師和開發者們越來越多。為此,HAI 預裝了主流的 AI 作畫模型,如 Stable Diffusion 等,并內置了常用插件等,使開發者、甚至是非專業技術背景的創作者,都能輕松部署和優化 AI 繪畫模型,專注于創意的表達而無需深入研究底層技術和繁瑣的技術配置。
(2)AI 對話/寫作
ChatGPT 的一炮走紅,讓語言模型技術也在不斷進步,基于此,HAI 預置了一系列強大的語言模型,如 Llama2、ChatGLM2 等,確保開發者能在最短時間內完成語言模型的部署工作,并保持高度的穩定性和可靠性,便于研究者和開發者更好地適應不同的語言處理任務,不在技術細節上再耗費時間。
(3)AI 開發測試
除了 AI 大模型外,HAI 還為開發者提供了一個理想的工作平臺:預置了主流的 AI 框架和工具,如 TensorFlow、PyTorch 等,使開發者能更輕松地進行算法設計和模型優化(如新算法的原型開發、模型微調與遷移學習、深度學習框架的交叉測試等等),無需過多關注底層的硬件兼容性和軟件配置問題。不僅如此,HAI 還預置了 Notebook、Python 環境以及主流分析軟件,因此數據科學家也能在 HAI 上快速進行數據分析和圖標處理。
當然,以上這些應用場景只是圍繞 HAI 預置的某個模型,而它還支持讓開發者自行下載開源模型部署到環境中,也支持多種模型同時使用,開發者可根據項目需求靈活選擇組合,實現應用的快速擴展和迭代,以此發掘新的業務模式和機會。
關于 HAI 的未來產品規劃,宋丹丹也進行了分享:針對 AI 場景,HAI 的整體思路是要匹配模型的發展階段,為用戶提供他們最需要的產品能力。
現階段許多開發者需要通過多個模型組合,做出一個 MVP 來快速推向市場,測試用戶的反應。因此,HAI 目前聚焦在如何讓用戶最快速、最省事、最低門檻地完成這個“快速驗證”的過程。
一旦這個 MVP 經過驗證獲得了巨大成功,開發者就會有大規模部署需求。因此,未來不排除 HAI 會往大規模集群部署方向規劃與優化:目前需求弱,是因為爆款應用還沒出現;而未來一旦出現,多種能力勢必要持續完善。
此外,未來 HAI 可能會圍繞開發者的需求、ModelOps 的路徑來構建應用服務,在高性能算力的基礎上,可能還會上類似開源模型聚合、數據集等服務。
當然,HAI 也并非只能滿足 AI 場景的需求,例如科學計算、視覺渲染等,也將是 HAI 會陸續完善的方向之一。
結語
AIGC 發展至今,開源和閉源的“路線之爭”持續不斷。
開源模型有著強烈的生命力,且發展速度很快。已有的爆款應用很多也基于開源模型,但其商業化落地一直備受挑戰;另一方面,大型互聯網公司與國內部分重要行業,都有著使用自研或閉源模型的需求。
作為平臺型企業的騰訊云,自然是“成年人不做選擇”,開源、閉源兩條腿走路,同時滿足大型企業與開發者等不同用戶的場景需求:
- 面向大型企業級客戶,騰訊云已經構建了全棧生態。在 IaaS 層,騰訊云提供了面向大模型訓練的 HCC 高性能算力集群與通用 GPU 算力;在 PaaS 層面,提供云原生數據湖倉和向量數據庫,以及面向大規模訓練加速的 TI 平臺;在模型層,通過模型商店 MaaS,支持接入騰訊混元大模型及 20 多個主流開源模型。
- 面向開發者,騰訊云此前推出了 Coding DevOps、云開發、Cloud Studio、輕量云服務器 LightHouse 等產品,希望降低開發者構建應用的部署、運維和開發成本。如今,HAI 的推出進一步豐富了騰訊云面向開發者側的 AIGC 產品矩陣。
隨著 HAI 這類平臺出現,AIGC 出現越來越多爆款應用的可能性似乎正在增加:HAI 提高效能、降低門檻、對開發者友好的特點,讓越來越多程序員能無縫體驗 AI,有關 AI 應用的無限創意將快速落地……正如 HAI 平臺的產品愿景所說:讓每個開發者都能開發自己的 AI 應用。
在這種趨勢下,AI 技術必將進一步發展并日益普及,同時這也將為 AI 對未來世界的影響賦予更多可能性。
HAI 平臺體驗地址:
https://cloud.tencent.com/product/hai