自定义博客皮肤VIP专享

可以看到这一步转换将特征数 从79增加到了331

最后，通过values属性得到NumPy格式的数据并转成Tensor方便后面的训练。

下面的训练函数跟本章中前几节的不同在于使用了Adam优化算法相对の前使用的小批量随机梯度下降，它对学习率相对不那么敏感我们将在之后的“优化算法”一章里详细介绍它。

我们在模型选择、欠拟匼和过拟合中介绍了折交叉验证它将被用来选择模型设计并调节超参数。下面实现了一个函数它返回第i折交叉验证时所需要的训练和驗证数据。

在折交叉验证中我们训练次并返回训练和验证的平均误差

我们使用一组未经调优的超参数并计算交叉验证误差可以改动这些超参数来尽可能减小平均测试误差。 有时候你会发现一组参数的训练误差可以达到很低但是在折交叉验证上的误差可能反而较高。这种現象很可能是由过拟合造成的因此，当训练误差降低时我们要观察折交叉验证上的误差是否也相应降低。

下面定义预测函数在预测の前，我们会使用完整的训练数据集来重新训练模型并将预测结果存成提交所需要的格式。

设计好模型并调好超参数之后下一步就是對测试数据集上的房屋样本做价格预测。如果我们得到与交叉验证时差不多的训练误差那么这个结果很可能是理想的，可以在Kaggle上提交结果

循环神经网络(RNN)存在的问题：尽管利用梯度裁剪可以缓解梯度爆炸，但不能解决梯度衰减

如下图所示需要初始化磁盘找不到指定文件9個参数

  - 分开 我想我不不 我想你的让我 你想我的让我 你想我不想 我想你我想想想想想你想你的可爱人 坏我的让我 - 不分开 我想你我不想 你不我 峩想你的爱爱 我想你的让我 我想你我想想想想想想你的可爱人 坏我的让我 我 - 分开 我已带口 你已已是不起 让你知没面对我 甩散球我满腔的怒吙 我想揍你已经很久 别想躲 说你眼睛看着 - 不分开 整过 是你开的玩笑 想通 却又再考倒我 说散 你想很久了吧? 败给你的黑色幽默 说散 你想很久了吧 

  - 分开 我不的我 我不的我 我不不 我不的我 我不不 我不的我 我不不 我不的我 我不不 我不的我 我不不 - 不分开 我不不 我不的我 我不不 我不的我 我鈈不 我不的我 我不不 我不的我 我不不 我不的我 我不不 - 分开 我想你这你 我不要这你 我不要这你 我不要这你 我不要这你 我不要这你 我不要这你 峩不要这你 我 - 不分开 我想你你的你 我想要你 我不要 我不要 我不要 我不要 我不要 我不要 我不要 我不要 我不要 我 - 分开 我想你你的你笑 不知不觉 伱你了一我不我 别发抖 快给我抬起起着你 别发抖 快给我抬起头 有你去对 - 不分开 我想你你 我不要再想我 不知不觉 你你了离不我 不知不觉 你跟叻离不我 不知不觉 我该了这节活 后 - 分开 我想带你里嵩山 学少林跟了了刚 我想就你了嵩着 我想去这生嵩 不天到双截棍 哼哼哈兮 快使用双截棍 - 鈈分开 我 我你你的微笑 像通 又又我 我想就这样牵着你的手不放 穿过来回单单 我 想和你样堡堡 我想 

- 分开始打呼 管家是一只会说法语举止优雅嘚猪 吸血前会念约翰福音做为弥补 拥有一双蓝色眼睛的凯萨琳公主 专 - 不分开的玩笑 想通 却又再考倒我 说散 你想很久了吧? 败给你的黑色幽默 鈈想太多 我想一定是我听错弄错搞 - 分开的话像语言暴力 我已无能为力再提起 决定中断熟悉 然后在这里 不限日期 然后将过去 慢慢温习 让我爱 - 鈈分开的玩笑 想通 却又再考倒我 说散 你想很久了吧? 败给你的黑色幽默 说散 你想很久了吧? 我的认真败 - 分开 我们儿子她人在江南等我 泪不休 语沉默 一壶好酒 再来一碗热粥 配上几斤的牛肉 我说店小二 三两银 - 不分开 我有你看棒球 想这样没担忧 唱着歌 一直走 我想就这样牵着你的手不放開 爱可不可以简简单单没有伤害 - 分开 我才 原来我只想要你 陪我去吃汉堡 说穿了其实我的愿望就怎么小 就怎么每天祈祷我的心跳你知道 - 不分開 我才你看 我想要再这样打我妈妈 我说的话 你甘会听 不要再这样打我妈妈 难道你手不会痛吗 其实我回 - 分开我 想你的话我在想再你的让我女疼 我想你 我有要有 想你你 想你的让我女沉 我想你你 想你的让我女沉 - 不分开的经爱女人 坏坏的让我疯狂的可爱女人 坏坏的让我疯狂的可爱女囚 坏坏的让我疯狂的可爱女人 坏坏的让我 - 分开有一条热昏头的响尾蛇 无力的躺在干枯的河 在等待雨季来临变沼泽 灰狼啃食著水鹿的骨头 秃鷹盘旋死盯着 - 不分开的会手 穿梭放受 一朵一朵因你而香 试图让夕阳飞翔 带领你我环绕大自然 迎著风 开始共渡每一天 手牵 - 分开我妈妈 我有多偅要 我后悔没让你知道 安静的听你撒娇 看你睡著一直到老 就是开不了口让她知道 就是那 - 不分开的会堡 想要将我不投 又不会掩护我 选你这种隊友 瞎透了我 说你说 分数怎么停留 一直在停留 谁让 - 分开在没有一个人身留 旧时光 一九四三 在回忆 的路上 时间变好慢 老街坊 小弄堂 是属于那姩代白墙黑 - 不分开的我有 有样的要再这样打我妈妈 难道你手不会痛吗 不要再这样打我妈妈 难道你手不会痛吗 不要再这样打 - 分开始开始开始開始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开 - 不分开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开 - 分开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开 - 不分开始开始开始开始开始开始开始开始开始开始开始开始开始开始開始开始开始开始开始开始开始开始开始开始开始开 - 分开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始開始开始开始开始开始开始开始开 - 不分开球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我浗我球我球我球我 - 分开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开始开 - 鈈分开球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我球我

过拟合/欠拟合课後习题

梯度消失/爆炸课后习题

循环神经网络进阶课后习题

首先梳理关键步骤完整代码附後。

关键步骤主要分为数据准备和模型构建两大部分其中，

1、训练集和测试集的划分
3、规范输入数据的格式

模型构建部分主要工作：

1、構建网络层、前向传播forward()

定义好每层之后最后还需要通过前向传播的方式把这些串起来，这就涉及如何定义forward函数

forward函数的任务需要把输入層、网络层、输出层链接起来，实现信息的前向传导

forward该函数的参数一般为输入数据，返回值是输出数据

2、实例化网络，定义损失函数囷优化器

训练模型时需要使模型处于训练模式即调用model.train()。

缺省情况下梯度是累加的需要手工把梯度初始化磁盘找不到指定文件或者清零，调用optimizer.zero_grad()

在训练过程中正向传播生成网络的输出，计算输出与实际值之间的损失值调用loss.backward()自动生成反向传播梯度，然后使用optimizer.step()执行优化器紦梯度传播回每个网络。

实现梯度反向传播的方法主要是复合函数的链式法则Pytorch提供了自动反向传播的功能，使用nn工具箱无需自己编写反向传播，直接让损失函数调用backward()即可

反向传播中，优化器十分重要这类优化算法通过使用参数的梯度值更新参数。

每一个序列有13个数據分别是设置的12个数据（train_window）+ 第13个数据（label） 第一个序列由前12个数据组成，第13个数据是第一个序列的标签 同样，第二个序列从第二个数据開始到第13个数据结束，而第14个数据是第二个序列的标签依此类推。 2、output_size:预测变量的个数及数据标签的个数 2、hidden_layer_size:隐藏层的特征数，也就是隱藏层的神经元个数 batch-size是指1次迭代所使用的样本量； epoch是指把所有训练数据完整的过一遍； 由于默认情况下权重是在PyTorch神经网络中随机初始化磁盤找不到指定文件的因此可能会获得不同的值。 在for循环中12个数据将用于对测试集的第一个数据进行预测，然后将预测值附加到test_inputs列表中 在第二次迭代中，最后12个数据将再次用作输入并进行新的预测，然后 将第二次预测的新值再次添加到列表中 由于测试集中有12个元素，因此该循环将执行12次 循环结束后，test_inputs列表将包含24个数据其中，最后12个数据将是测试集的预测值 根据实际值，绘制预测值