語(yǔ)言模型在文本生成領(lǐng)域的巨大成功，啟發(fā)了研究人員探索將類似的范式遷移至視覺領(lǐng)域。ImageGPT-Large等早期開創(chuàng)性模型證明了自回歸Transformer架構(gòu)在視覺領(lǐng)域的可行性。由于原始圖像數(shù)據(jù)維度高，直接將RGB值作為序列會(huì)導(dǎo)致計(jì)算復(fù)雜度爆炸。為此，研究團(tuán)隊(duì)引入了創(chuàng)新的色彩聚類預(yù)處理技術(shù)，將每個(gè)像素映射到預(yù)設(shè)的數(shù)百種可能的聚類值之一。這一操作大幅降低了數(shù)據(jù)的維度，使得原本龐大的三維圖像能夠被轉(zhuǎn)換為一維的Token序列?；诖?，模型可以通過(guò)預(yù)測(cè)“下一個(gè)像素Token"的自監(jiān)督任務(wù)來(lái)學(xué)習(xí)圖像的深層表征。盡管早期的受限于當(dāng)時(shí)的算力僅能生成低分辨率圖像，但這種將視覺數(shù)據(jù)序列化并進(jìn)行像素級(jí)預(yù)測(cè)的思想，為后續(xù)統(tǒng)一多模態(tài)大模型奠定了關(guān)鍵的技術(shù)基石。