Jina AI 用条件掩码扩散实现文本嵌入逆向还原

Jina AI 提出把嵌入逆向还原视为条件掩码扩散任务，从全掩码序列出发，用去噪模型并行还原所有位置的 token，并通过 AdaLN-Zero 以目标嵌入为条件，无需在每一步重新对当前假设做嵌入。作者称现有 Vec2Text、ALGEN、Zero2Text 等反转方法采用自回归生成 token，需要反复经由目标编码器重新嵌入，而该方法每个去噪步骤借助全局上下文同时细化所有位置。