Epoch

模型训练中对整个训练数据集的一次完整遍历。Epoch 数是衡量训练进度和收敛性的基本指标。

一个 Epoch 代表对整个训练数据集的一次完整遍历。对于 ImageNet 的 128 万张图像,批量大小为 256 时,一个 Epoch 约为 5000 次迭代。典型的图像分类模型需要 90 到 300 个 Epoch 才能收敛。

Epoch 数是控制训练充分性的超参数。Epoch 过少会导致欠拟合,模式未被捕获。过多则导致过拟合,模型记住训练样本而牺牲泛化能力。

迁移学习大幅减少所需 Epoch 数:微调预训练模型通常只需 10-30 个 Epoch。数据增强增加每个 Epoch 的有效数据集大小,提高效率并减少所需的总 Epoch 数。

1 个 Epoch 即训练数据集整体被遍历 1 轮。以批量大小 256 学习 ImageNet 约 128 万张图像时,1 个 Epoch 相当于约 5,000 次迭代 (128 万 / 256)。Epoch 过少会导致欠拟合 (Underfitting),模型捕捉不到数据的模式;过多则导致过拟合 (Overfitting),对训练数据过度贴合而泛化性能显著下降。早停法的做法是:验证损失在设定的 Epoch 数 (patience,例如 10 个) 内没有改善时自动停止训练。

相关术语

相关文章