在近期舉辦的一場聚焦人工智能產(chǎn)業(yè)應(yīng)用的重要大會(huì)上，北京正陽恒卓科技有限公司的首席科學(xué)家高凱，分享了公司在智算中心建設(shè)領(lǐng)域的實(shí)戰(zhàn)經(jīng)驗(yàn)，并針對(duì)AI基礎(chǔ)設(shè)施建設(shè)運(yùn)營中面臨的高效性和可靠性挑戰(zhàn)，提出了獨(dú)到的見解。
高凱強(qiáng)調(diào)，盡管客戶普遍期望AI任務(wù)能夠高效利用智算中心提供的硬件資源，實(shí)現(xiàn)集群規(guī)模增大和硬件升級(jí)帶來的性能提升，但現(xiàn)實(shí)卻往往不盡如人意。對(duì)于大規(guī)模分布式AI任務(wù)來說，單純增加機(jī)器數(shù)量和升級(jí)計(jì)算芯片，并不能輕松實(shí)現(xiàn)性能的線性增長。
他指出，大規(guī)模分布式AI任務(wù)對(duì)資源的需求巨大，容易導(dǎo)致碎片化資源閑置，并對(duì)調(diào)度系統(tǒng)性能提出更高要求。同時(shí)，并行方法和通信順序也是影響分布式AI任務(wù)效率的關(guān)鍵因素。為了解決這些問題，高凱提出，大規(guī)模分布式AI基礎(chǔ)設(shè)施必須擁有強(qiáng)大的系統(tǒng)容錯(cuò)能力和豐富的并行策略。
高凱還指出，在智算中心建設(shè)過程中，客戶對(duì)AI大模型運(yùn)行的可靠性有著很高的期望。然而，現(xiàn)實(shí)情況是，AI系統(tǒng)中的各個(gè)組件都可能出現(xiàn)故障，導(dǎo)致AI任務(wù)中斷或失敗。這主要是因?yàn)锳I任務(wù)依賴專用硬件，與傳統(tǒng)計(jì)算集群在能源、產(chǎn)熱、工作條件等方面存在差異。同時(shí)，主流AI并行框架采用同步方式運(yùn)行，存在單點(diǎn)故障問題，傳統(tǒng)云平臺(tái)的容錯(cuò)能力并不適用。
高凱認(rèn)為，大規(guī)模分布式AI系統(tǒng)的容錯(cuò)能力是AI系統(tǒng)穩(wěn)定運(yùn)行的基礎(chǔ)，已經(jīng)成為全球AI大廠競相關(guān)注的問題。結(jié)合正陽恒卓為國家超算、大模型公司等企業(yè)建設(shè)大規(guī)模智算中心的經(jīng)驗(yàn)，他提出，建設(shè)高效可靠的AI基礎(chǔ)設(shè)施是一個(gè)系統(tǒng)工程，可靠性和高效性都必須遵循從硬件到軟件系統(tǒng)性開發(fā)的原則。
他將AI基礎(chǔ)設(shè)施的構(gòu)建分為智算中心建設(shè)、基礎(chǔ)設(shè)施服務(wù)運(yùn)營、AI開發(fā)部署框架以及AI應(yīng)用開發(fā)四個(gè)層級(jí)，并指出，相比于大型廠商能夠?qū)崿F(xiàn)從底層硬件到上層AI應(yīng)用的全棧自主研發(fā)，絕大部分小型企業(yè)往往不具備這樣的經(jīng)濟(jì)能力和人才儲(chǔ)備。因此，為了助推人工智能產(chǎn)業(yè)應(yīng)用的發(fā)展，提供高效可靠的AI基礎(chǔ)設(shè)施是智算中心未來需要具備的基本能力和發(fā)展趨勢。
據(jù)高凱介紹，為了讓AI基礎(chǔ)設(shè)施能夠惠及更多的人工智能產(chǎn)業(yè)應(yīng)用企業(yè)，正陽恒卓正致力于領(lǐng)導(dǎo)并構(gòu)建一個(gè)開放的、面向高效可靠智算中心的AI基礎(chǔ)設(shè)施基礎(chǔ)框架。這個(gè)開放基礎(chǔ)框架中的功能模塊基于開放的標(biāo)準(zhǔn)進(jìn)行設(shè)計(jì)，旨在吸引更多相關(guān)行業(yè)的企業(yè)和開發(fā)者共同組建技術(shù)生態(tài)。這樣，用戶的模型開發(fā)、部署、應(yīng)用就能夠在不同的算力環(huán)境中實(shí)現(xiàn)無感的遷移，而AI基礎(chǔ)設(shè)施企業(yè)則可以通過技術(shù)創(chuàng)新提供高效性和可靠性的增值服務(wù)。
作為一家成立于2015年4月的公司，正陽恒卓目前已服務(wù)超300家企業(yè)客戶，是英偉達(dá)認(rèn)證的精英級(jí)合作伙伴，并連續(xù)兩年成為NVIDIA Networking NPN業(yè)績第一名。在人工智能產(chǎn)業(yè)應(yīng)用領(lǐng)域，正陽恒卓正以其豐富的經(jīng)驗(yàn)和創(chuàng)新的技術(shù)，為推動(dòng)AI基礎(chǔ)設(shè)施的高效性和可靠性發(fā)展貢獻(xiàn)力量。
