🐬垂直领域的 AI 应用,从入门到“放弃”
2026-10-28
| 2026-11-3
0  |  0 分钟
type
Post
status
Published
date
Oct 28, 2026 07:49 AM
slug
content-7f3a9c2e-6b41-4d85-a0c7-2e9f1b6d438a
summary
AI 在垂直行业的自由发挥导致业务风险,约束成本高昂,最终只能停项目。本文揭示模型“有想法”却缺责任的根本矛盾,提醒读者思考概率模型与确定性工程的平衡。
tags
技术
开发
工具
思考
分析
category
行业分析
icon
password
当大家都在探讨大模型的垂直落地时,我决定停掉手头的项目。
一个回答越来越像专家的模型,为什么反而让我不敢把业务交给它?
不是因为模型不够聪明,而是它太有“想法”,却不必为自己的每一次“发挥”承担责任。
这个 AI 项目,已经推进了很长一段时间。
停下并不是因为模型效果调不出来,也不是算力受限。
notion image
而是因为,在严肃业务场景中,用工程手段强行约束一个概率模型,投入与回报并不匹配。
从最初的尝试、中期的修补,到最终决定暂停。
算是完整走了一遍“从入门到放弃”。

一、AI“有想法”

在创意工作中,“有想法”或许是个很好的特质。
但很多业务要的不是一个“很有想法”的答案,而是规则明确、结果一致、过程可溯源。
同样的提示词、同样的业务上下文,换个时间让大模型推导,它的重心就可能不同。
甚至会自行“补全”得出结论的逻辑过程。
专业、流畅,看上去也很合理。但这种自由发挥,在业务中可能是一场灾难。
更关键的是,答案由它生成,但即使混淆了概念、引用了不存在的依据,它也不必承担责任,自然无须顾忌出错的后果。
我们之所以愿意相信人,是因为一个人要为自己的创新和想法承担后果。
当然,真正让我停下来的,并不是“AI 会犯错”这个早就知道的问题。
而是:为了不让它自由发挥时产生的错误进入交付,我到底还要补上多少工程?

二、约束,沉重的工程

有人会说:“既然它会发散,那加上严格的约束不就行了吗?”
没有真正做过落地,很容易把“约束”想得太简单。
调低 Temperature、规定好 JSON 输出格式、在 Prompt 里多写几条限制,好像就能解决问题。
但深入具体场景后就会发现,为了让大模型老老实实按规矩办事,需要搭建一套庞大的外围系统:
编写极长的提示词,把各种边界条件、业务特例塞进去。
可提示词越长,模型的注意力越容易分散,遵循指令的稳定性反而下降;
在工作流中穿插大量的正则表达式、状态机、实体抽取和知识库比对,试图把模型自由发挥的部分过滤掉;
甚至需要再引入一套规则引擎或校验模型,专门用来审查前一个模型的输出是否合规。
但这是一件很矛盾的事:
为了约束一个不确定的模型,我们要在它外面包裹七八层确定性的硬编码逻辑。
如果一个系统的安全底线和准确性,最终完全依赖外围的规则和代码来兜底,那么在中间放一个成本高、延迟高、还需要时刻提防的大模型,意义究竟是什么?
用确定性的工程手段,去穷举和修补概率输出中的不确定性,本身就是一件边际成本极高的事。

三、写代码可以

那为什么 AI 编程(Coding Agent)能落地得这么好,而在其他垂直行业却步履维艰?
AI 写代码之所以可用,不只是因为模型懂编程,更是因为软件工程经过几十年的发展,已经拥有了一套完备的自动化“约束基础设施”:
编译器与解释器、静态检查与类型系统、自动化测试、版本控制。
不熟悉这些术语也没关系。简单说,在代码的世界里,约束和检验 AI,可以交给一整套自动化、确定性的工具链。
模型哪怕有再多“想法”,只要通不过编译和测试,就会被工具链自动打回重写,直到输出符合标准。
而在现实中的大多数垂直行业里,情况却不同:
业务数据往往是非结构化的,流程中充斥着大量的行业经验、隐性规则和上下文语境;
这些行业没有现成的、自动化的“业务编译器”,无法在几毫秒内自动判断一段分析是否严谨、一个业务结论是否合规;
最终充当“编译器”和“测试断言”的,只能是具备专业知识的人。
差别就在这里:有些场景,是工具替人兜底;另一些场景,却是人替工具兜底。

四、边界,回归确定性

停掉项目,是我完整走过“尝试、修补、认清局限”的过程后,基于现状作出的判断。
大模型是一项极具突破性的技术,但现阶段它更适合容错率高、鼓励发散、或者已经有成熟自动化工具链兜底的场景。
而在对确定性和责任归属有严格要求的垂直领域,
想要与概率博弈,最终得到逻辑清晰、规则明确、结果可控的工程方案,就需要付出巨大的工程代价。
 
行业分析
  • 技术
  • 开发
  • 工具
  • 思考
  • 分析
  • 我们的认知,停在了10年前观点反转?审计全链路留痕,违背人性。
    目录