近期,谷歌對外公布了一項關于其Gemini大模型能源消耗的技術細節,這一舉動在人工智能領域引起了廣泛關注。該報告不僅詳細披露了每次查詢所消耗的能源量,還被視為大型AI公司中最具透明度的一次估算。
谷歌在報告中指出,Gemini模型在提供文字回答時,平均每次消耗的能量為0.24瓦特小時,這一數值與微波爐運行一秒鐘所需的能量相當。同時,這次查詢還伴隨著0.03克二氧化碳當量的排放。這一數據公開后,不少研究人員對此表示期待已久。
除此之外,谷歌還發布了Gemini系列中的一個輕量級版本——Gemma 3 270M。這款模型擁有2.7億參數,專為端側部署設計,并具備指令遵循和文本結構化的能力。Gemma 3系列涵蓋了從270M到27B五種不同規模的模型,滿足了多樣化的應用需求。
在內存需求方面,Gemma 3系列在Q4_0量化格式下表現出色。具體而言,270M、1B、4B、12B和27B五種規模的模型所需的RAM內存分別為240MB、892MB、3.4GB、8.7GB和21GB。Gemma 3 270M在Pixel 9 Pro手機上運行25輪對話時,僅消耗了0.75%的電量,展現了其高效節能的特點。
Gemma 3 270M模型的應用場景廣泛,尤其適用于高頻率、任務明確的場景。它能夠處理個人隱私信息,如情感分析、實體識別和人生規劃等任務。該模型還為開發專用小型模型提供了有力支持。為了幫助開發者更好地利用這款模型,谷歌還同步提供了微調教學資源,包括基于Hugging Face Transformers的全模型訓練流程,支持分類、信息抽取、情感分析等多種任務的定制。