第12课：神经网络、参数和训练

学习目标

• 理解神经网络、参数、训练、推理四个概念
• 区分训练阶段和使用阶段
• 知道参数数量不是产品质量的唯一指标

正文

Neural Network

Neural Network = 神经网络。 它借用了“神经元连接”的直观比喻，但并不等于人脑。

Parameter

Parameter = 参数。 模型中有大量需要通过训练学习得到的数值。

你可以把参数想象成： 模型内部大量“旋钮”。训练就是不断调整这些旋钮，让模型对训练数据的预测更合适。

Training

Training = 训练：让模型从数据中调整参数。

Inference

Inference = 推理：训练好后，模型接收新输入并给出结果。

所以： 训练模型 ≠ 调用模型。 普通 AI 网站通常是在“调用已经训练好的模型进行推理”。

1. 本课要建立的整体认识

神经网络可以看作许多带参数的计算单元按层连接；训练负责调整参数，推理负责使用已学参数处理新输入。

2. 把核心概念逐层拆开

2.1 输入经过每一层的加权计算和非线性变换

输入经过每一层的加权计算和非线性变换，逐步形成更抽象的表示。

2.2 参数是模型学习得到的数值

参数是模型学习得到的数值，超参数则通常由人设置，例如学习率、批量大小和训练轮数。

2.3 损失函数衡量预测与目标之间的差距

损失函数衡量预测与目标之间的差距，优化器根据梯度逐步调整参数。

2.4 过拟合表示模型记住训练数据却不能适应新数据

过拟合表示模型记住训练数据却不能适应新数据，需要验证集、正则化和更多代表性数据。

2.5 参数数量大不自动等于效果好

参数数量大不自动等于效果好，数据质量、任务匹配、训练方法和评测同样关键。

3. 把概念串成一条完整流程

训练循环可以概括为：取一批数据→前向计算预测→计算损失→反向传播梯度→更新参数→在验证集检查→重复。推理阶段不再学习，只根据输入产生结果。

4. 用真实场景理解

把参数比作调音台上的大量旋钮有助于入门，但要知道模型不是人工逐个旋钮调整，而是通过优化算法根据误差同时改变大量数值。

5. 学习时应该怎样判断自己是否真正理解

不要只看自己是否“听过”这些词。请尝试不用原文，向一位没有技术背景的人解释本课概念；再画出关系或流程；最后换一个与你专业相关的例子。如果无法说明输入、处理、输出、依据和风险，就说明还停留在名词记忆阶段。

遇到模型、工具或规则变化时，优先保留这里学到的判断框架：先定义任务，再确认资料与边界，随后执行、测试和核验。具体品牌和界面会变化，但这种工作方法可以持续使用。

6. 本课小结

本课不是要求一次记住全部细节，而是建立一个能够继续扩展的知识框架。完成正文后，请结合后面的示例、测验和实践任务，把理解转化成自己的语言和可检查的成果。

7. 进一步拆解：从“知道名词”到“会做判断”

学习技术概念时，最容易出现的问题是记住了定义，却不知道什么时候使用，也不知道怎样发现错误。下面逐项使用同一组问题检查理解：

• 输入经过每一层的加权计算和非线性变换：继续追问它接收什么输入、产生什么输出、依据从哪里来、失败时会出现什么现象、由谁负责复核。把这五个问题写出来，概念就会从一句定义变成可用于真实工作的判断工具。
• 参数是模型学习得到的数值：继续追问它接收什么输入、产生什么输出、依据从哪里来、失败时会出现什么现象、由谁负责复核。把这五个问题写出来，概念就会从一句定义变成可用于真实工作的判断工具。
• 损失函数衡量预测与目标之间的差距：继续追问它接收什么输入、产生什么输出、依据从哪里来、失败时会出现什么现象、由谁负责复核。把这五个问题写出来，概念就会从一句定义变成可用于真实工作的判断工具。
• 过拟合表示模型记住训练数据却不能适应新数据：继续追问它接收什么输入、产生什么输出、依据从哪里来、失败时会出现什么现象、由谁负责复核。把这五个问题写出来，概念就会从一句定义变成可用于真实工作的判断工具。
• 参数数量大不自动等于效果好：继续追问它接收什么输入、产生什么输出、依据从哪里来、失败时会出现什么现象、由谁负责复核。把这五个问题写出来，概念就会从一句定义变成可用于真实工作的判断工具。

8. 建立自己的操作检查表

第一张是“任务表”：写清服务对象、目标、已有材料、最终交付物和完成标准。第二张是“数据与来源表”：记录每项材料从哪里来、何时获得、是否允许使用、是否需要更新。第三张是“执行表”：把任务拆成可以观察状态的步骤，标明每一步的输入、处理、输出和失败提示。第四张是“核验表”：列出必须人工检查的事实、数字、引用、权限、安全和专业边界。

这四张表适用于本课所讲的大多数任务。它们能防止把“模型给出了结果”误认为“工作已经完成”，也能帮助团队在出现问题时迅速定位到底是需求不清、资料错误、流程中断，还是输出没有经过验证。

9. 与前后课程的关系

这套20课不是彼此孤立的知识点。本课涉及的概念，需要与Prompt中的任务说明、API与软件系统中的执行链、RAG中的资料依据、数据分析中的质量检查以及AI安全中的责任边界结合起来。学习时可以不断回到一个问题：如果把这个概念放进完整AI产品，它位于哪一层，会影响谁，又需要谁来检查？

10. 课后自查

1. 我能否不用术语堆砌，用自己的话解释本课核心关系？
2. 我能否画出一个包含输入、处理、输出和核验的流程？
3. 我能否举出一个与自己专业、学习或工作有关的实例？
4. 我能否说出至少两个容易犯的错误，以及怎样提前发现？
5. 我能否把本课方法用于一个真实任务，并留下可检查的成果？

示例

常见误区

• “参数就是用户输入的Prompt参数。”——这里通常指模型内部可学习数值。
• “推理等于逻辑推理能力。”——工程语境中的Inference也指模型运行生成结果。
• “参数越多一定越好。”——效果还受数据、架构、训练方法和任务影响。

小测验

点击题目查看答案。

实践任务