博特智能（BotSmart）自成立以來(lái)始終致力于研發(fā)人工智能(AI)的圖像識(shí)別、文本分析、聲音識(shí)別等技術(shù)。面對(duì)互聯(lián)網(wǎng)內(nèi)容量UGC產(chǎn)量日益巨增，該公司利用人工智能(AI)技術(shù)協(xié)助互聯(lián)網(wǎng)企業(yè)對(duì)網(wǎng)絡(luò)內(nèi)容進(jìn)行快速且精準(zhǔn)的審核和過(guò)濾。
作為一家專注信息內(nèi)容安全和內(nèi)容審核的公司，博特智能做了充足的準(zhǔn)備工作，收集儲(chǔ)備了不同類型數(shù)量豐富的圖片和文本信息，以自研的深度學(xué)習(xí)算法，實(shí)現(xiàn)了對(duì)互聯(lián)網(wǎng)內(nèi)容高效的審核和過(guò)濾。
應(yīng)對(duì)海量?jī)?nèi)容分析，需要更高系統(tǒng)算力
在應(yīng)對(duì)網(wǎng)絡(luò)海量?jī)?nèi)容審核的業(yè)務(wù)場(chǎng)景時(shí)，博特智能發(fā)現(xiàn)違規(guī)內(nèi)容的類型繁雜，涉及涉政、涉恐、涉黃、廣告等方面，媒體形式包含文本、圖片、視頻、音頻等。面對(duì)此種情況，需要收集大量圖片和文本才能進(jìn)行機(jī)器學(xué)習(xí)的訓(xùn)練。
此外，每種違規(guī)類型的具體情況又有多重變化。系統(tǒng)學(xué)習(xí)得越多，系統(tǒng)的識(shí)別率就越高。海量的學(xué)習(xí)訓(xùn)練，量級(jí)越高，對(duì)識(shí)別率的精準(zhǔn)度幫助越大，這對(duì)訓(xùn)練系統(tǒng)的算力提出了很高的要求。
在內(nèi)容審核的實(shí)時(shí)分析方面，企業(yè)客戶的業(yè)務(wù)要求越來(lái)越嚴(yán)苛，對(duì)提交的圖片和文本等內(nèi)容多數(shù)希望能立即分析完成返回結(jié)果，這就對(duì)單任務(wù)的分析計(jì)算速度有了極高要求。而另一方面，互聯(lián)網(wǎng)用戶的自由度不受限，在短時(shí)間提交大量?jī)?nèi)容的情況近期頻發(fā)。要對(duì)相關(guān)網(wǎng)絡(luò)內(nèi)容安全性進(jìn)行審核，就等同于日均圖片的識(shí)別量高達(dá)一億的數(shù)量，并且最終將成常態(tài)，這對(duì)服務(wù)器造成的壓力是此前相關(guān)內(nèi)容審核從業(yè)人員不曾遇到的。
NVIDIA RTX Server，超強(qiáng)算力應(yīng)對(duì)多種需求
面對(duì)這些挑戰(zhàn)，博特智能通常通過(guò)建立CPU+GPU異構(gòu)計(jì)算，匯集成百上千服務(wù)器的集群用來(lái)滿足算力需求。同時(shí)，服務(wù)器集群需要能夠根據(jù)GPU使用情況支持自動(dòng)擴(kuò)容縮容，從而實(shí)現(xiàn)資源合理分配。
博特智能一直采用NVIDIA GPU搭建的多卡服務(wù)器集群，用于訓(xùn)練模型和推理計(jì)算。NVIDIA的多卡服務(wù)器集群可以滿足內(nèi)容審核的人工智能運(yùn)算需求。
設(shè)計(jì)方案示例——圖像多GPU集群 利用NVIDIA多GPU集群實(shí)現(xiàn)每天一億張的海量圖片處理，每張圖片處理速度可達(dá)
博特智能目前采用NVIDIA RTX 8000作為訓(xùn)練和推斷的顯卡，這跟原有GTX1080 Ti性能相比有了比較大的提升，在運(yùn)行ResNet-50的訓(xùn)練時(shí)，每秒處理的圖片數(shù)量由原來(lái)的207張?zhí)嵘?90張。
在模型訓(xùn)練階段，借助NVIDIA GPU多卡服務(wù)器集群，讓訓(xùn)練速度有了質(zhì)的飛躍。訓(xùn)練時(shí)間大大縮短極大的加快了模型迭代的速度，從而很快完成模型訓(xùn)練并部署測(cè)試。而后根據(jù)結(jié)果修改算法，又可以更快的開(kāi)始新一輪訓(xùn)練，更快的滿足企業(yè)用戶各種定制化審核模型的需求。
NVIDIA RTX 8000各項(xiàng)指標(biāo)都很優(yōu)秀，不僅具備更多的CUDA核心，還擁有更大的顯存空間和更高的顯存帶寬。單卡渲染速度在50秒以內(nèi)，而滿載額時(shí)，每秒處理數(shù)量最多為643張。在渲染的同時(shí)還能實(shí)現(xiàn)去AI噪點(diǎn)以及其它AI推理工作。
NVIDIA RTX 8000實(shí)時(shí)光線追蹤功能因48GB的大顯存及Tensor Cores的加持，加深了AI推理和深度學(xué)習(xí)的速度，讓更多的數(shù)據(jù)可加載到顯存，在很大程度上加快了計(jì)算速度，減少了數(shù)據(jù)拷貝的時(shí)間。
NVIDIA GPU還對(duì)公司圖文、音頻、視頻的模型訓(xùn)練給予了極為良好的支持。顯示接口由從前的4xDP+1xDVI升級(jí)為了4xDP+1xVirtualink配置。DP接口最高分辨率可達(dá)7680*4320，是一代VR設(shè)備的標(biāo)準(zhǔn)接口，這對(duì)公司已經(jīng)在計(jì)劃中的AR、XR、VR項(xiàng)目提前給予了支持。
在實(shí)際部署階段，NVIDIA的多卡服務(wù)器集群為算法工程師大量的數(shù)據(jù)分析提供了高效穩(wěn)定的計(jì)算資源，滿足了實(shí)際部署階段的算力需求。
當(dāng)大量的互聯(lián)網(wǎng)內(nèi)容通過(guò)網(wǎng)絡(luò)服務(wù)進(jìn)入部署的NVIDIA多卡服務(wù)器集群中時(shí)，服務(wù)器集群能夠自動(dòng)擴(kuò)容，根據(jù)內(nèi)容的計(jì)算量進(jìn)行調(diào)度，充分利用資源，實(shí)現(xiàn)GPU的高效利用。
GPU賦能AI落地內(nèi)容審核行業(yè)
目前，博特智能的人工智能內(nèi)容審核業(yè)務(wù)落地互聯(lián)網(wǎng)多個(gè)領(lǐng)域，且數(shù)量正保持高速的增長(zhǎng)，其覆蓋的客戶包括網(wǎng)絡(luò)視頻、直播，音頻文學(xué)、媒體、游戲、交友、旅游出行、電商等各個(gè)領(lǐng)域，并將不斷擴(kuò)展。
博特智能創(chuàng)始人兼CEO戴亦斌表示：“此前信息內(nèi)容審核行業(yè)完全依靠人工進(jìn)行審核，這種傳統(tǒng)的方式已經(jīng)無(wú)法滿足不斷快速增長(zhǎng)的互聯(lián)網(wǎng)內(nèi)容。以人工智能審核為主的網(wǎng)絡(luò)內(nèi)容審核必將是未來(lái)的發(fā)展方向。在NVIDIA GPU的支持下，我們能夠在每天高達(dá)一億張圖片識(shí)別量的壓力下，為用戶提供快速準(zhǔn)確的違規(guī)內(nèi)容審核和過(guò)濾，讓我們的客戶運(yùn)營(yíng)實(shí)現(xiàn)價(jià)值最大化。未來(lái)，信息內(nèi)容審核行業(yè)將會(huì)是價(jià)值千億的市場(chǎng)。相信隨著AI技術(shù)的不斷發(fā)展和普及，我們必將能為更多企業(yè)創(chuàng)造更多實(shí)惠及更大的商業(yè)價(jià)值。”
