时间序列预测相关论文阅读(1)

基于Attention-LSTM的短期电力负荷预测

模型框架

self-attention+lstm

image-20250525152804606

子模块及其作用

LSTM:它能够处理和提取负荷数据中的时间依赖性,用于捕捉时间序列数据中的动态变化和周期性模式。

自注意力机制:提取与当前数据最相关的时间序列特征。自注意力机制通过计算每个时间点与其他时间点的相关性,从而动态调整其对数据的关注程度,提升对复杂数据模式的建模能力。

多头注意力: 能够并行处理多个不同的注意力头,增强模型对多种时间模式的学习能力。

Dropout层:防止模型过拟合。通过随机丢弃部分神经元,减少模型对某些输入的过度依赖,从而增强其泛化能力。

全连接层:将模型的最终输出映射到预测结果,即每天每15分钟的电力负荷值。

集成原因

LSTM 擅长处理时间序列数据,能够有效捕捉电力负荷数据中的周期性和长期依赖关系。

自注意力机制可以动态调整对关键数据点的关注,从而提升对复杂非线性特征的建模能力。

Dropout 层有助于避免过拟合,提高模型的泛化能力。

全连接层则为最终的输出提供了一个整合机制。

图表

image-20250525152836014

进行相关性分析以选取特征(剔除了相对湿度和工作日)

image-20250525153316191

损失曲线对比。相比于其他方法,本模型最终收敛的损失值最小

image-20250525153447905

预测结果对比。相比于其他方法,本模型更加接近真实数据

image-20250525153628343

不同评价指标下的对比。相比于其他方法,本模型在多个评价指标下均最优

基于BiLSTM和多头注意力机制的超短期电力负荷预测

模型框架

multi-head+bilstm

image-20250525155119716

子模块及其作用

BiLSTM子模块:BiLSTM是LSTM的扩展,它能够同时考虑正向和反向的信息依赖,从而提高了对电力负荷数据时间依赖性的捕捉能力。这一机制有助于处理电力负荷数据的时间性和周期性,提升预测精度。

多头注意力机制子模块:多头注意力机制通过多个注意力头并行工作,从不同的子空间提取特征,可以帮助模型关注那些对负荷预测至关重要的时间段或特征。这对于捕捉数据中的突发性事件和复杂的时序模式至关重要。

Dropout层:Dropout层用于正则化,防止模型在训练过程中出现过拟合现象,确保模型的泛化能力。

集成原因

BiLSTM增强了模型对时间序列数据的双向依赖性建模能力,避免了传统RNN在处理长序列时可能遇到的梯度消失问题。

多头注意力机制帮助模型自适应地关注输入数据中的重要特征,尤其是在面对周期性波动和突发事件时,能够提高模型对这些特殊模式的捕捉能力。

集成这两者的原因在于BiLSTM和多头注意力机制的结合能更全面地提高电力负荷预测模型的性能,尤其是在复杂的非线性和时变性环境下。

图表

image-20250525162533887

相关性分析

image-20250525163811272

训练集与验证集上的损失曲线,模型收敛且未出现过拟合

image-20250525163931500

控制变量,横向对比,说明本模型较优

基于IOVMD-SE和CNN-BILSTM的短期电力负荷预测

模型框架

cnn-bilstm

image-20250525165348929

子模块及其作用

IOVMD-SE (改进的鱼鹰优化算法与变分模态分解结合的样本熵方法):VMD 能够将原始信号分解为若干个具有不同中心频率和带宽的本征模态函数。使用优化算法寻找参数,优化了vmd的分解过程。

CNN :从 VMD 分解后处理过的信号中提取局部特征,主要作用是捕捉电力负荷信号中的局部时序依赖性。

BiLSTM :处理时间序列数据,捕捉负荷数据中的前向和反向时间依赖关系,挖掘长短期依赖信息,从而增强预测准确性。

集成原因

VMD和IOVMD-SE优化:通过VMD分解电力负荷数据,将其转化为不同频率的模态成分,减少数据中的噪声,提高数据质量。通过IOVMD-SE进一步优化VMD参数,利用样本熵提取模态分量的复杂度信息,以便对数据进行更准确的重构。

CNN特征提取:CNN能够有效提取局部时间特征,并通过卷积层捕捉电力负荷信号中的时序依赖性,而池化层则帮助降低维度,从而减少计算复杂度。

BiLSTM时序建模:BiLSTM通过双向学习方式,能更好地理解电力负荷数据的时间上下文关系,提供更准确的短期负荷预测。

图表

image-20250525170009821

多个函数下,传统算法与改进算法效果对比

image-20250525170141233

原始数据

image-20250525170752671

不同算法适应度迭代曲线

image-20250525170831703fig:

image-20250525170844486

各算法参数寻优结果及VMD分解结果

image-20250525171205957

不同模型预测结果

image-20250525171230586

不同模型在不同评价指标下的表现

image-20250525171337347

不同的数据预处理方法,相同模型下的表现对比

基于TCN-Attention的电力负荷短期概率预测方法

模型框架

tcn-attention

image-20250525172431206

子模块及其作用

TCN子模块:通过扩张因果卷积处理输入的时间序列数据,提取局部时间模式。

Attention机制子模块:通过多头注意力机制来处理历史数据与未来数据之间的依赖关系。它使得网络能够更集中地关注于与预测目标最相关的时间点。

集成原因

通过将TCN和Attention机制集成,模型既能有效提取局部模式(例如电力负荷的突变和周期性变化),又能捕捉到全局趋势信息。这样的集成避免了单一模型在处理复杂时间序列时的局限性,从而提高了预测精度。

图表

image-20250525172458163

tcn结构

image-20250525192216210

因果卷积结构

image-20250525192238523

扩张因果卷积结构

image-20250525172646725

横向对比不同模型预测不同时间长度下的精度对比,本模型精度较优

image-20250525172814449

对比推理时间及参数量,说明本模型性能较优

image-20250525172933500

预测结果可视化,区间包含了大多数实际数据

 

posted @ 2026-05-17 23:05  ssr_chen  阅读(14)  评论(0)    收藏  举报