训练与推理:一个AI模型的两段人生
同一张照片参与训练与进入手机识别时,经历的是模型生命中两类不同活动:前者依据数据和误差调整参数,后者使用已经形成的参数处理新输入。文章从这条分界出发,解释预训练、微调、前向计算、上下文学习、外部记忆和持续学习分别改变了什么,并澄清聊天机器人根据当前对话改变回答,通常不等于当场重写权重。区分训练与推理,能够帮助读者看清算力成本、数据责任、模型版本和信息新鲜度来自哪里;当系统答错时,也能进一步判断问题应在训练数据、固定参数、当次输入、检索资料还是产品流程中寻找,而不是把一切适应性表现都叫作“机器正在学习”。
同一张猫的照片,可以在一个AI模型的生命里出现两次。第一次,它和许多带标签的图片一起进入训练机房。模型猜错了,系统计算误差,再沿网络把责任分回各个参数;经过一次次调整,某些像素组合开始与耳朵、胡须、毛纹等有用特征建立联系。第二次,另一位用户在手机上拍到一只从未见过的猫。此时模型直接读取图像,完成计算并给出结果,通常不会因为这一张新照片就改写自己的参数。
前一次叫训练,后一次叫推理。两者可能运行相似的矩阵运算,也可能使用同一套模型结构,却承担完全不同的任务:训练负责形成或更新模型,推理负责使用已经形成的模型。把这两段人生混在一起,就容易误以为AI每回答一次都在“现场学习”,也容易把训练成本、使用成本、数据责任和更新方式算成一笔糊涂账。
训练不是把答案装进抽屉,而是改变参数
国家标准 GB/T 41867—2022 把模型训练定义为:使用训练数据,依据机器学习算法确定或改进机器学习模型参数的过程。参数可以理解为模型内部参与计算、会影响输出的数值。在线性模型里,它们可能是一组系数;在神经网络里,常见参数是连接权重和偏置。模型结构规定信息怎样流动,参数则决定每一步计算具体产生什么结果。
以识猫模型为例,一轮典型训练先让当前模型对一批图片作出预测,再把预测与训练目标比较,得到一个表示错误大小的损失值。随后,反向传播计算各个参数对误差的影响,优化算法据此把参数向减少损失的方向移动一点。下一批数据到来,过程重新开始。许多轮之后,留下来的不是“猫图抽屉”和一套逐张查询规则,而是一组在训练目标约束下形成的参数。
“上学”可以帮助理解这段过程:训练数据像练习材料,损失函数像评分规则,优化算法像改正方向。但类比到此为止。模型没有学生那样的生活经验和理解动机;它只是按照目标函数改变计算结构中的数值。训练结果也不等于完整保存每个样本。模型可能从许多例子中概括出可迁移的规律,也可能记住某些罕见片段,或把训练数据中的偏差一起吸收进去。学到了什么,要靠独立数据和真实场景检验。
训练还不只发生一次。从大范围数据中获得通用表示叫预训练;用某个领域或任务的数据继续调整参数,通常叫微调;模型上线后因环境变化而用新数据更新,则可称再训练。名称不同,判断它们是否属于训练有一条可靠线索:模型参数有没有被重新确定或改变。
推理是在固定参数下走完一次计算
训练结束后,开发者会保存模型结构和参数,并把一个经过评估的版本部署到手机、服务器、车辆或其他设备。新输入到来时,系统先把照片、语音或文字转换成模型可以处理的数值形式,再让信息沿着已经确定的计算路径向前传播,得到类别、分数、文字或动作建议。这个利用已训练模型产生预测或结果的过程,就是推理。
识猫模型的一次推理可以在一次前向计算后结束。大语言模型生成回答时,过程更像连续推理:模型根据已有上下文计算下一个词元的概率,选出一个词元放回序列,再计算下一个,直到停止。每一步的临时状态和输入都在变化,输出也可能因采样设置而不同,但在通常的部署方式中,那组经过训练得到的核心参数并没有随回答逐字改写。
推理也绝非“按一下按钮就没有工程问题”。手机希望低延迟、低功耗并保护本地数据,云服务还要面对大量并发请求、显存占用、排队、网络和稳定性。中国信通院关于大模型基础设施的研究把训练微调平台与推理引擎分开讨论,正是因为两类负载的优化目标不同:训练要高效完成参数更新,推理服务更关心响应时间、吞吐、资源利用和持续可用。一次训练可能集中消耗大量计算,而同一模型的推理会在产品生命周期里重复发生,累计成本不能忽略。
它记住了对话,不等于它刚刚重新训练
聊天机器人会根据你刚才的纠正改变下一句回答,看起来像是“听懂后学会了”。多数时候,发生的是上下文条件改变。对话历史、提示词和你给出的示例被重新放进输入,固定参数的模型据此计算不同结果。研究中所说的“上下文学习”也常指这种无需梯度更新、无需改变参数的适应。它能让模型在当前上下文里照着格式或任务示例行动,却不保证新规则在下一次独立会话中继续存在。
外部记忆与检索也会制造相似观感。系统可以把用户偏好写入数据库,下次对话时再取出;可以从知识库检索最新文件,连同问题一起交给模型;还可以调用日历、计算器或搜索工具。此时改变的是模型读到的信息,或模型之外的系统状态。图书馆添了一本新书,不等于读者的大脑结构当场重建;同样,知识库更新也不等于模型权重更新。
用户的反馈当然可能进入后续训练。服务方可以在符合法律和产品规则的前提下收集评价、清理数据,经过测试后微调或训练出新版本,再统一部署。但从“你点了差评”到“所有用户拿到更新模型”之间,还有数据治理、目标设计、训练、评测、发布和回滚等环节。我国现行《生成式人工智能服务管理暂行办法》也把预训练、优化训练的数据处理与面向用户提供服务分别提出要求,这从治理侧面说明了两类活动不能混作同一个瞬间。
两段人生会相接,也可能在特殊系统里交叠
“推理时参数固定”是理解常见部署模型的有效起点,却不是对一切系统的永久禁令。有些在线学习或持续学习系统会在运行中吸收新数据,按一定节奏更新参数;个性化模型也可能在设备端进行小规模再训练。这样的系统让训练与服务在时间上交叠,但只要发生了参数更新,那一部分活动仍然可以被识别为训练,而不能因为它发生在上线后就改叫推理。
反过来,推理时多算几步也不自动变成训练。一个系统可以生成多个候选答案、逐一检查,调用计算器验证,或在允许的上下文中反复修正。计算量增加了,临时状态丰富了,只要模型参数没有因这些样本而更新,它仍在使用既有模型完成推理流程。区分“参数”“上下文”和“外部状态”,比只看系统是否表现得更适应更可靠。
这种区分直接影响风险判断。训练数据决定模型长期形成哪些倾向,因而要关注来源、代表性、个人信息和知识产权;推理输入则与一次具体使用相连,要关注访问权限、传输保存和输出处置。训练阶段的错误可能随模型版本扩散到许多用户,推理阶段的错误又会受到当时环境、提示和系统部件影响。治理两者,需要不同的证据和控制点。
看见回答时,也要看见它从哪里来
现在再跟随那张手机里的猫照片。它先被转换成数值,穿过一套参数已经确定的网络,得到“猫”的预测;这次计算不会天然成为永久知识。若开发者后来把经过授权和筛选的新照片加入数据集,重新调整参数、测试并发布新版本,模型才进入下一轮训练,再开始新的推理周期。
所以,一个AI模型的“两段人生”可以用一句话分开:训练用数据和学习算法改变参数,推理用已经学得的参数处理新输入。提示、对话、检索和工具能改变一次推理所处的环境,却通常不等于模型现场改了权重;上线后的持续学习则是训练活动被搬进运行期,而不是训练与推理失去区别。
分清这条界线,读者便能继续追问更重要的问题:一个回答依赖哪个模型版本,最新信息来自权重还是检索,用户反馈是否会进入后续训练,错误应在数据、参数、输入还是产品流程中寻找。屏幕上只闪过一次结果,背后却连着两段不同的工程人生。
来源: 科普教育
- 上一篇:没有了
- 下一篇:盘点人工智能“黑话”:智能体、技能、多模态、幻觉...是什么?