張傲 投稿
量子位 | 公眾號 QbitAI
多模態(tài)大模型集成了檢測分割模塊后，摳圖變得更簡單了！
只需用自然語言描述需求，模型就能分分鐘標注出要尋找的物體，并做出文字解釋。
在其背后提供支持的，是新加坡國立大學NExT++實驗室與清華劉知遠團隊一同打造的全新多模態(tài)大模型。
隨著GPT-4v的登場，多模態(tài)領域涌現出一大批新模型，如LLaVA、BLIP-2等等。
為了進一步擴展多模態(tài)大模型的區(qū)域理解能力，研究團隊打造了一個可以同時進行對話和檢測、分割的多模態(tài)模型NExT-Chat。
NExT-Chat的最大亮點，是在多模態(tài)模型中引入位置輸入和輸出的能力。
其中位置輸入能力指的是根據指定的區(qū)域回答問題（下方左圖）；位置輸出能力指的則是定位對話中提及的物體（下方右圖）：
即使是復雜的定位問題，也能迎刃而解：
除了物體定位，NExT-Chat還可以對圖片或其中的某個部分進行描述：
分析完圖像的內容之后，NExT-Chat可以利用得到的信息進行推理：
為了準確評估NExT-Chat的表現，研究團隊在多個任務數據集上進行了測試。
在多個數據集上取得SOTA
作者首先展示了NExT-Chat在指代表達式分割（RES）任務上的實驗結果。
雖然僅僅用了極少量的分割數據，NExT-Chat卻展現出了良好的指代分割能力，甚至打敗了一系列有監(jiān)督模型（如MCN，VLT等）和用了5倍以上分割掩模標注的LISA方法。
△RES任務上NExT-Chat結果
接著，研究團隊展示了NExT-Chat在REC任務上的實驗結果。
如下表所示，相比于相當一系列的有監(jiān)督方法(如UNITER)，NExT-Chat都可以取得更優(yōu)的效果。
一個有意思的發(fā)現是NExT-Chat比使用了類似框訓練數據的Shikra效果要稍差一些。
作者猜測，這是由于pix2emb方法中LM loss和detection loss更難以平衡，以及Shikra更貼近現有的純文本大模型的預訓練形式導致的。
△REC任務上NExT-Chat結果
在圖像幻覺任務上，如表3所示，NExT-Chat可以在Random和Popular數據集上取得最優(yōu)的準確率。
△POPE數據集上NExT-Chat結果
在區(qū)域描述任務上，NExT-Chat也能取得最優(yōu)的CIDEr表現，且在該指標打敗了4-shot情況下的Kosmos-2。
△RefCOCOg數據集上NExT-Chat結果
那么，NExT-Chat背后都采用了哪些方法呢？
提出圖像編碼新方式
傳統方法的缺陷
傳統的模型主要通過pix2seq的方式進行LLM相關的位置建模。
比如Kosmos-2將圖像劃分成32x32的區(qū)塊，用每個區(qū)塊的id來代表點的坐標；Shikra將物體框的坐標轉化為純文本的形式從而使得LLM可以理解坐標。
但使用pix2seq方法的模型輸出主要局限在框和點這樣的簡單格式，而很難泛化到其他更密集的位置表示格式，比如segmentation mask。
為了解決這個問題，本文提出了一種全新的基于embedding的位置建模方式pix2emb。
pix2emb方法
不同于pix2seq，pix2emb所有的位置信息都通過對應的encoder和decoder進行編碼和解碼，而不是借助LLM本身的文字預測頭。
△pix2emb方法簡單示例
如上圖所示，位置輸入被對應的encoder編碼為位置embedding，而輸出的位置embedding則通過Box Decoder和Mask Decoder轉化為框和掩模。
這樣做帶來了兩個好處：
模型的輸出格式可以非常方便的擴展到更多復雜形式，比如segmentation mask。
模型可以非常容易的定位任務中已有的實踐方式，比如本文的detection loss采用L1 Loss和GIoU Loss (pix2seq則只能使用文本生成loss)，本文的mask decoder借助了已有的SAM來做初始化。
通過將pix2seq與pix2emb結合，作者訓練了全新的NExT-Chat模型。
NExT-Chat模型
△NExT-Chat模型架構
NExT-Chat整體采用了LLaVA架構，即通過Image Encoder來編碼圖像信息并輸入LLM進行理解，并在此基礎上添加了對應的Box Encoder和兩種位置輸出的Decoder。
為了解決LLM不知道何時該使用語言的LM head還是位置解碼器的問題，NExT-Chat額外引入一個全新的token類型來標識位置信息。
如果模型輸出了，則該token的embedding會被送入對應的位置解碼器進行解碼而不是語言解碼器。
此外，為了維持輸入階段和輸出階段位置信息的一致性，NExT-Chat額外引入了一個對齊約束：
△位置輸入、輸出約束
如上圖所示，box和位置embedding會被分別通過解碼器、編碼器或解碼器編碼器組合，并要求前后不發(fā)生變化。
作者發(fā)現該方法可以極大程度促進位置輸入能力的收斂。
而NExT-Chat的模型訓練主要包括3個階段：
第一階段：訓練模型基本的框輸入輸出基本能力。NExT-Chat采用Flickr-30K，RefCOCO，VisualGenome等包含框輸入輸出的數據集進行預訓練。訓練過程中，LLM參數會被全部訓練。
第二階段：調整LLM的指令遵循能力。通過一些Shikra-RD，LLaVA-instruct之類的指令微調數據使得模型可以更好的響應人類的要求，輸出更人性化的結果。
第三階段：賦予NExT-Chat模型分割能力。通過以上兩階段訓練，模型已經有了很好的位置建模能力。作者進一步將這種能力擴展到mask輸出上。實驗發(fā)現，通過使用極少量的mask標注數據和訓練時間(大約3小時)，NExT-Chat可以快速的擁有良好的分割能力。
這樣的訓練流程的好處在于：檢測框數據豐富且訓練開銷更小。
NExT-Chat通過在充沛的檢測框數據訓練基本的位置建模能力，之后可以快速的擴展到難度更大且標注更稀缺的分割任務上。
論文地址：
https://arxiv.org/abs/2311.04498
