MULTI-RESOLUTION DIFFUSION MODELS

核心思想

mr-Diff模型创新性地将多分辨率时间结构引入扩散模型，通过使用季节趋势分解从时间序列中依次提取从细到粗的趋势进行前向扩散。去噪过程采用由易到难的非自回归方式进行。首先生成最粗略的趋势，使用粗略趋势作为条件变量，逐步添加更精细的细节。

扩散模型

前向扩散（加噪）

正向扩散，获取每一步加的噪声作为去噪过程的ground truth，预测ground truth 去计算loss。并将每一步加噪后的图像作为input

该过程并不是从一步接着一步从$X_0 ->X_1->X_2 ->X_3 ->……->X_n​$

而是：

第1步：$X_0$ ->$X_1$

第2步：$X_0$ ->$X_2$

第3步：$X_0$ ->$X_3$

……

第n步：$X_0$ ->$X_n$

反向去噪

从全噪的图片逐步生成目标图片，最开始的噪点是人为加上去的，该模型的去噪过程Denoise，重点训练的就是Denoise Predicter

做雕像的时候，雕像的形状本来就在大理石中了，把多余的部分给去掉即得到了这个雕像

接收两个参数： 扩散过程的带噪图和当前扩散的步数

算法

条件扩散模型

文生图即为条件扩散模型，文本即为模型里的条件

在加噪过程中，除了原始图片和噪点，还需要添加条件

扩散模型用于时间序列

条件变成了回望窗口（即历史时间序列）

Mr-diff模型

现有方法：直接将原始时间序列的回望窗口作为条件

多分辨率分解：

• 使用季节趋势分解框架：mr-Diff 使用季节趋势分解的前向扩散过程，从细到粗的分辨率依次提取趋势。这样，模型就能在多种时间分辨率下捕捉时间动态。
• 从易到难的渐进式去噪方法：与直接从随机向量进行去噪的原始扩散模型不同，mr-Diff 将去噪目标分解为多个子目标，每个子目标对应于特定分辨率下的趋势。去噪过程从生成最粗略的趋势开始，然后使用预测的较粗略趋势作为条件变量，逐步增加更精细的细节。
• 多分辨率趋势的条件： 在去噪过程中，模型以相同分辨率的回溯段和下一阶段的更粗趋势为条件。这样就能从较粗的趋势中更好地重建较细的趋势。