为什么企业 AI 自动化项目约 80% 会失败：PoC 与生产的裂缝

核心判断： 无视 LLM 的非确定性，只靠提示词把流水线拼起来时，那 1% 的边角案例会把整套系统拖死。

1. PoC 陷阱

自动化工具的演示很漂亮。分类邮件、摘要报告、回复客户。管理层当场拍板。

一接到真实系统，下面这些就会冒出来：

1. 非结构化输出把解析器打崩。 你要的是 JSON，偶尔却来一段 Markdown 代码块或多余的客套话，后端 Parser 报错。
2. 幻觉变成法律 / 业务风险。 不存在的规定、错误的金额，直接发给客户。
3. API 费用和延迟指数上升。 提示词变长、并发变多，月账单跳到数千万韩元。

2. 上生产前的三道安全网

[用户输入] ──> [1. 模式校验（Pydantic / Zod）] ──> [2. LLM 引擎]
                                                              │
                                                              ▼
[系统输出] <── [4. 回退] <── [3. 结构化输出校验（Instructor）]

① 强制结构化输出

别指望“就是一段文字”。用 OpenAI/Claude 的 Function Calling 或 Structured Outputs（JSON Schema），让后端立刻拿到严格类型。

② 把 RAG 质量当产品，而不是倒垃圾

把文档切块丢进向量库，到不了生产质量。

• 混合检索（BM25 关键词 + 向量相似度）
• 用重排模型（如 Cohere Rerank）再筛出前 3 段关键上下文

③ 把确定性代码和不确定性模型分开

计算、分支、支付仍由普通代码（Python、TypeScript、SQL）负责。模型只做 非结构化文本的整形 和 意图分类。