写了七十年的软件,底层其实只换过两次。第一层是人给机器写指令;第二层是把规则压进神经网络权重,仓库从代码托管变成模型托管。第三层把模型本身当成可编程机器,自然语言成了源码。同一件情感分类:可以手写规则,可以训一个分类器,也可以丢一句提示词让通用模型做完。
把大模型比成电网,说的是资本开支、按量计费、宕机就停工。更贴切的类比是操作系统:模型像 CPU,上下文窗口像内存,应用在调度二者。今天的部署成本仍像六十年代大型机——算力集中在云端,用户用瘦客户端分时接入。聊天框也像早期命令行,通用图形界面还没被发明出来。
编码场景已经出现半自主界面:补全、改一段、改一文件、改整个仓库,自主程度可以滑动。模型越主动并不总是越快。战甲能自己飞,多数时候仍要人握操纵杆。半自主,是能力还不稳定时的正确默认。
落地清单
- 新功能先问:这是该写代码、训权重,还是写提示词。
- 产品里把自主程度做成档位,不要一上来全权交给模型。
- 故障预案按操作系统来做:上下文满了、工具挂了、模型宕了,分别有降级。
大量存量软件要用人类语言重写。现在更像操作系统刚起步,而不是电网已经铺完。
本文侧重全链路风控方法论。落地时请用自身业务单据做回放验证,不要把示例阈值直接当生产策略。 相关:风控体检 · 方案资源
常见问题 FAQ
软件第三层具体指什么?
第三层软件是把大模型本身当成可编程机器,自然语言成为源码。这不同于第一层的人给机器写指令和第二层的神经网络权重训练,允许直接通过提示词让模型执行任务,比如情感分类可以丢一句提示词让通用模型做完。
为什么文章说模型更像操作系统而不是电网?
文章比喻大模型像电网,但更贴切的是操作系统:模型像CPU,上下文窗口像内存,应用在调度二者。这强调了模型作为可编程系统的角色,而电网比喻侧重于资本开支和按量计费,忽略了模型的交互和调度特性。
如何在产品中实现半自主程度?
根据落地清单,产品应把自主程度做成档位,不要一上来全权交给模型。例如在编码场景,可以设置补全、改一段、改文件或整个仓库等滑动自主程度,让用户根据需求控制模型介入水平,像半自动驾驶那样握操纵杆。
落地清单中故障预案具体怎么做?
故障预案按操作系统设计:当上下文满了、工具挂了或模型宕了,分别有降级方案。比如上下文满时清理或截断,工具故障时回退到基本功能,模型宕机时切换备用服务,确保系统稳定运行。
新功能开发时,该怎么选择写代码、训权重还是写提示词?
落地清单建议新功能先问:这是该写代码、训权重,还是写提示词。例如情感分类可以手写规则、训练分类器或用提示词让模型完成,取决于任务复杂度、成本和维护需求,提示词更灵活但权重更定制化。
为什么半自主是模型能力不稳定时的正确默认?
文章指出模型越主动并不总是越快,就像战甲能自己飞,但多数时候仍要人握操纵杆。半自主模式在模型能力还不稳定时,提供了更好的控制和可靠性,避免全自主带来的风险,适合当前技术阶段。