9月 19 日，在杭州云棲大會(huì)上，阿里云CTO周靖人宣布通義萬(wàn)相全面升級(jí)，并發(fā)布全新視頻生成模型，可生成影視級(jí)高清視頻，可應(yīng)用于影視創(chuàng)作、動(dòng)畫(huà)設(shè)計(jì)、廣告設(shè)計(jì)等領(lǐng)域。即日起，所有用戶(hù)可通過(guò)通義APP及通義萬(wàn)相官網(wǎng)免費(fèi)體驗(yàn)。
據(jù)介紹，通義萬(wàn)相首批上線(xiàn)文生視頻、圖生視頻功能，在文生視頻功能中，用戶(hù)輸入任意文字提示詞，即可生成一段高清視頻，支持中英文多語(yǔ)言輸入，并可以通過(guò)靈感擴(kuò)寫(xiě)功能智能豐富視頻內(nèi)容表現(xiàn)力，支持16:9、9:16等多種比例生成;在圖生視頻功能中，支持用戶(hù)將任意圖片轉(zhuǎn)化為動(dòng)態(tài)視頻，按照上傳的圖像比例或預(yù)設(shè)比例進(jìn)行生成，同時(shí)可以通過(guò)提示詞來(lái)控制視頻運(yùn)動(dòng)。
現(xiàn)場(chǎng)，阿里云演示了該模型強(qiáng)大的運(yùn)動(dòng)生成和概念組合能力，輸入「穿著滑冰鞋的小兔子在冰面上靈活移動(dòng)的可愛(ài)場(chǎng)景」，通義萬(wàn)相僅用數(shù)分鐘就能生成一段高清、逼真的視頻。
通義萬(wàn)相視頻生成大模型集成了多項(xiàng)創(chuàng)新技術(shù)，有效解決畫(huà)面表現(xiàn)力和大幅度運(yùn)動(dòng)等視頻生成技術(shù)難題。針對(duì)運(yùn)動(dòng)生成和物理模擬等難點(diǎn)優(yōu)化算法，實(shí)現(xiàn)了大幅度主體運(yùn)動(dòng)和運(yùn)鏡控制，并有效模擬真實(shí)世界物理特性;設(shè)計(jì)了高壓縮比、高質(zhì)量視頻VAE框架，有效降低視頻信息冗余，并保持高質(zhì)量視頻重構(gòu)能力;同時(shí)，基于輕量微調(diào)框架和精選數(shù)據(jù)集優(yōu)化訓(xùn)練，在中式傳統(tǒng)元素、風(fēng)格化視頻生成上表現(xiàn)更好。
去年7月，通義萬(wàn)相圖像生成大模型首次亮相，目前已累計(jì)生成7500萬(wàn)張圖片。云棲大會(huì)現(xiàn)場(chǎng)，通義萬(wàn)相宣布視覺(jué)生成大模型全面升級(jí)為Diffusion Transformer框架，同時(shí)結(jié)合通義千問(wèn)復(fù)雜提示詞解釋能力，有效提升畫(huà)面表現(xiàn)力、語(yǔ)義理解能力、可控生成能力。隨著通義萬(wàn)相視頻生成模型的發(fā)布，通義大模型已覆蓋文本生成、圖像理解、視頻理解、音頻理解、圖像生成、視頻生成等全模態(tài)場(chǎng)景。
