近日，為期兩天的2024中國生成式AI大會（上海站）圓滿落幕。本次大會吸引了超過4000人報名咨詢，現場觀眾突破1200人，線上觀看人次更是突破百萬大關，成為業內矚目的焦點。
大會以“智能躍進 創造無限”為主題，匯集了51位產學研投領域的嘉賓，共同探討生成式AI的技術創新、商業落地及未來趨勢。現場氣氛熱烈，主會場和分會場均座無虛席，產業交流活躍，15家企業的新技術、新產品備受關注。
上海交通大學副教授、無問芯穹聯合創始人戴國浩在AI Infra峰會上強調，業界應關注單位算力的高效token吞吐，通過軟硬協同優化和多元異構適配提升算力利用效率。北電數智智算云負責人郭文分享了全棧AI工廠的實踐，提出通過“國產算力PoC平臺”填補算力供需斷層。GMI Cloud亞太區總裁King.Cui則介紹了高穩定性GPU集群在AI企業全球化布局中的關鍵作用。
阿里云智算集群產品解決方案負責人叢培巖預測，未來模型性能將隨參數和數據集增長而提升，阿里云推出的靈駿智算集群支持超大規模分布式訓練，具備高穩定性和極致性能。光羽芯辰創始人周強指出，個人大模型正在快速發展，端側智能設備將成為重要載體。中昊芯英芯片軟件棧負責人朱國梁分享了國產TPU芯片“No CUDA”軟件棧的構建經驗，實現高效管理和生態兼容。
在下午的圓桌討論中，嘉賓們圍繞“大模型行至深水區，AI Infra的新變化與新機會”展開深入交流。德聯資本執行董事劉景媛指出，AI Infra在幫助大模型落地過程中，產品邊界和功能需求逐漸明晰，開源社區和全球化成為重要趨勢。Zilliz合伙人欒小凡認為，AI技術去年被高估，今年被低估，未來落地還需等待機會。
多位嘉賓還分享了AI Infra領域的最新進展。楓清科技創始人高雪峰提出，將生成式AI應用于企業決策場景，需融合符號邏輯推理。聲網生成式AI產品負責人毛玉杰介紹了生成式AI對實時互動技術的變革，期待實現真正的心靈交互。騰訊云向量數據庫技術負責人謝宇展示了向量數據庫在RAG場景中的應用，解決召回率低的問題。Jina AI聯合創始人王楠認為，長文本大模型與RAG將長期共存，長窗口向量模型面臨推理成本和內存消耗挑戰。英飛流創始人張穎峰提出了多模態RAG新范式，解決多模態文檔處理和檢索難題。Alluxio首席架構師傅正佳介紹了通過統一數據視圖和高性能數據訪問提升模型訓練效率的方案。
本次大會不僅展示了生成式AI領域的最新成果，也為未來發展指明了方向。隨著生成式AI技術的不斷成熟和商業化進程的加速，全產業鏈的合作共贏將成為推動行業發展的關鍵。
