【ITBEAR科技資訊】6月26日消息，近日，Etched公司成功完成了1.2億美元(折合人民幣約8.73億元)的A輪融資，這筆資金將被投入到全球首款專(zhuān)為T(mén)ransformer架構(gòu)設(shè)計(jì)的ASIC芯片——Sohu的開(kāi)發(fā)與銷(xiāo)售中。
Etched公司，這家由哈佛大學(xué)輟學(xué)生加文?烏伯蒂(Gavin Uberti)和克里斯?朱(Chris Zhu)創(chuàng)立、運(yùn)營(yíng)時(shí)間不足2年的初創(chuàng)企業(yè)，正以其獨(dú)特的技術(shù)視角和創(chuàng)新力量，引領(lǐng)著人工智能硬件的新潮流。
據(jù)ITBEAR科技資訊了解，Sohu芯片的最大突破在于它直接將Transformer架構(gòu)蝕刻到芯片中，從而實(shí)現(xiàn)了硬件與算法的深度融合。烏伯蒂透露，Sohu芯片采用了臺(tái)積電的4納米工藝，這使得其推理性能顯著優(yōu)于傳統(tǒng)的GPU和其他通用AI芯片，同時(shí)在能耗方面也有更出色的表現(xiàn)。
在性能測(cè)試中，以L(fǎng)lama 70B為基準(zhǔn)，Sohu芯片每秒能處理超過(guò)50萬(wàn)個(gè)tokens，這一速度為用戶(hù)構(gòu)建出了GPU無(wú)法實(shí)現(xiàn)的產(chǎn)品提供了可能。此外，Sohu還具備實(shí)時(shí)語(yǔ)音代理、毫秒級(jí)處理大量文本、強(qiáng)大的代碼樹(shù)搜索、并行比較多個(gè)響應(yīng)、多播推測(cè)解碼以及實(shí)時(shí)生成新內(nèi)容等先進(jìn)功能，為運(yùn)行未來(lái)萬(wàn)億級(jí)參數(shù)模型鋪平了道路。
