【ITBEAR】在清華系創(chuàng)業(yè)的浪潮中，AI Infra領(lǐng)域正成為新的熱點。多家源自清華實驗室的創(chuàng)企，如清昂智能、清程極智等，正致力于將模型與芯片深度適配，以提升算力資源的利用效率，并推動模型應(yīng)用的快速發(fā)展。
當(dāng)前，這些清華系創(chuàng)企面臨的核心問題之一，是如何在瞬息萬變的模型、應(yīng)用和硬件層之間找到突破口。MaaS平臺、訓(xùn)推一體機、異構(gòu)混訓(xùn)等方向，都成為了他們探索的焦點。然而，這些方向也引發(fā)了業(yè)內(nèi)的諸多質(zhì)疑和討論。
關(guān)于MaaS平臺，有觀點認(rèn)為，這將與通用大模型公司產(chǎn)生直接競爭，創(chuàng)業(yè)公司的生存空間可能受到擠壓。然而，也有創(chuàng)業(yè)者堅持認(rèn)為，通過提供可靠的彈性服務(wù)和優(yōu)化算力成本，MaaS平臺能夠為大模型應(yīng)用落地提供關(guān)鍵支持。
在訓(xùn)推一體機方面，創(chuàng)企們看到了后訓(xùn)練市場的巨大潛力。然而，也有意見認(rèn)為，訓(xùn)推一體機可能難以兼顧訓(xùn)練和推理的需求，其長期發(fā)展前景尚不明朗。
與此同時，異構(gòu)混訓(xùn)作為另一種解決方案，也在引發(fā)業(yè)內(nèi)的關(guān)注。無問芯穹等創(chuàng)企通過異構(gòu)多種GPU卡來同時混訓(xùn)一個大模型，以滿足不同客戶的需求。然而，這一方向也面臨著性能損耗、效率不佳等挑戰(zhàn)。
在AI Infra的創(chuàng)業(yè)浪潮中，創(chuàng)企們還需要面對國內(nèi)外市場的差異。海外市場由于芯片供應(yīng)相對集中，軟件生態(tài)較為成熟，為創(chuàng)業(yè)公司提供了更多的機會。然而，國內(nèi)市場則因為芯片供應(yīng)分散、軟件生態(tài)薄弱等問題，給創(chuàng)企們帶來了更大的挑戰(zhàn)。
盡管如此，這些清華系創(chuàng)企仍然堅信，在AI Infra領(lǐng)域存在著巨大的商機。他們通過不斷探索和創(chuàng)新，試圖找到能夠解決國產(chǎn)算力問題的最佳路徑。無論是從哪個方向切入，他們的努力都將為AI產(chǎn)業(yè)的發(fā)展注入新的活力。
值得注意的是，這些創(chuàng)企在發(fā)展過程中也需要與云廠商等巨頭進(jìn)行競合。盡管雙方在某些方面存在競爭關(guān)系，但通過友好協(xié)作和差異化發(fā)展，他們有望共同推動AI Infra領(lǐng)域的繁榮與進(jìn)步。
