文章来源地址https://www.toymoban.com/news/detail-673151.html
基于CNN-Transformer时间序列预测模型
特色：1、单变量，多变量输入，自由切换
2、单步预测，多步预测，自动切换
3、基于Pytorch架构
4、多个评估指标（MAE,MSE,R2,MAPE等）
5、数据从excel文件中读取，更换简单
6、标准框架，数据分为训练集、验证集，测试集
全部完整的代码，保证可以运行的代码看这里。
！！！如果第一个链接打不开，请点击个人首页，查看我的个人介绍。
（搜索到的产品后，点头像，就能看到全部代码）
黑科技小土豆的博客_CSDN博客-深度学习,32单片机领域博主
CNN-Transformer 模型是一种结合了卷积神经网络（CNN）和 Transformer 模型的深度学习模型，用于处理序列数据。CNN-Transformer 模型常常被应用于语音识别、文本分类等领域，它结合了 CNN 模型处理序列局部信息的能力和 Transformer 模型处理全局关系的能力，能够更好地应对序列数据的特性。
CNN-Transformer 模型首先使用卷积神经网络提取输入序列的局部特征，然后将这些特征输入到 Transformer 模型进行全局建模和长期关系的建模。在卷积层中，通过对卷积核的窗口大小和步幅的调整，可以捕捉序列的局部特征；在 Transformer 模型中，通过自注意力机制，可以捕捉序列之间的全局依赖关系。
CNN-Transformer 模型的优点包括：
- CNN-Transformer 模型利用 CNN 捕捉序列的局部特征和 Transformer 模型捕捉序列之间的全局依赖关系，能够更加有效地建模序列的特性，提高模型的性能。
- CNN-Transformer 模型可以应用于诸如语音识别、文本分类等领域中，可以提取更加丰富的特征，获得更好的预测结果。
因此，CNN-Transformer 模型是一种适用于序列数据处理的优秀深度学习模型，在语音识别、文本分类、文本生成等领域取得了很好的效果。
train_ratio = 0.7 # 训练集比例
val_ratio = 0.15 # 验证集比例
test_ratio = 0.15 # 测试集比例
input_length = 48 # 输入数据长度，多步预测建议长，单步预测建议短
output_length = 1 # 输出数据长度，1为单步预测，1以上为多步预测 请注意，随着输出长度的增长，模型训练时间呈指数级增长
learning_rate = 0.1 # 学习率
estimators = 100 # 迭代次数
max_depth = 5 # 树模型的最大深度
interval_length = 2000 # 预测数据长度，最长不可以超过总数据条数
scalar = True # 是否使用归一化
scalar_contain_labels = True # 归一化过程是否包含目标值的历史数据
target_value = 'load' # 需要预测的列名，可以在excel中查看
文章来源：https://www.toymoban.com/news/detail-673151.html
到了这里，关于基于CNN-Transformer时间序列预测模型的文章就介绍完了。如果您还想了解更多内容，请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章，希望大家以后多多支持TOY模板网！
![[时间序列预测]基于BP、RNN、LSTM、CNN-LSTM算法多特征（多影响因素）用电负荷预测[保姆级手把手教学]](https://imgs.yssmx.com/Uploads/2024/01/806842-1.png)
