小紅書近期在人工智能領域邁出了重要一步，其hi lab團隊正式揭曉了自主研發的開源文本大模型——dots.llm1。這一創新成果憑借其龐大的參數規模和卓越性能，迅速吸引了行業內外的高度關注。
dots.llm1作為一款混合專家（MoE）語言模型，參數總量達到了驚人的1420億，其中有效激活參數為140億。該模型歷經精心訓練，使用了高達11.2TB的高質量數據，其性能足以與業界領先的阿里巴巴Qwen2.5-72B模型相抗衡。這一成就不僅體現在文本生成的精準度和流暢性上，更在于dots.llm1能夠應對更為復雜的自然語言處理任務。
尤為dots.llm1的預訓練全程未采用任何合成數據，所有訓練素材均源自真實場景中的高質量文本。這一做法使得dots.llm1在理解人類語言的微妙之處和自然表達方面更具優勢，從而能夠為用戶提供更加真實、自然的交互體驗。
小紅書此次決定開源dots.llm1，不僅體現了其在人工智能領域的持續深耕和雄心壯志，也彰顯了其對于技術創新的堅定承諾。開源舉措不僅有助于增強社區的互動和貢獻，更為廣大開發者提供了一個寶貴的平臺，使他們能夠深入探索并應用這一強大的技術工具。
作為以內容分享和社交為核心的平臺，小紅書始終致力于提升用戶體驗和技術實力。dots.llm1的推出，正是小紅書在智能化服務領域邁出的重要一步，旨在為用戶提供更加智能化的服務體驗。同時，小紅書也希望借此機會激勵更多開發者投身到人工智能的研究與實踐中，共同推動技術的進步與發展。
