第 24 章 LLM传统模型风控
第 24 章 案例:传统模型生产化
第 24 章 案例:传统模型生产化
学习目标
- 通过风控/推荐/广告/搜索/预测五个真实领域,理解传统模型生产化的完整闭环;
- 掌握特征平台、模型服务、监控的工程结构;
- 理解「传统模型不会被 LLM 取代,而是被 LLM 增强」的现实;
- 学会把本书前 7 篇的方法论套用到传统 ML 场景。
24.1 案例全景:五个领域、一个闭环
传统模型生产化(第 2 章「GBDT 统治结构化数据」)的本质是同一个闭环:特征 → 训练 → 服务 → 监控 → 回流。五个领域只是特征的形态与业务指标不同:
| 领域 | 核心任务 | 主力模型 | 关键指标 | 业务指标 |
|---|---|---|---|---|
| 风控 | 欺诈/信用分类 | GBDT/XGBoost、LR | AUC、KS | 坏账率、通过率 |
| 推荐 | 物品排序 | GBDT 精排、双塔召回 | Recall@K、NDCG | 点击率、转化 |
| 广告 | 点击/出价预测 | GBDT/LR、深度学习 CTR | AUC、LogLoss | eCPM、ROI |
| 搜索 | 相关性排序 | 双塔召回 + GBDT 精排 | MRR、nDCG | 点击率、满意度 |
| 预测 | 销量/流量/时序 | 时序模型、GBDT | MAE、MAPE | 预测准确率 |
共同点:都是「低延迟、高吞吐、确定性优先」的场景——这正是第 2 章说的「传统模型的主场」。LLM 不直接上场,但可以进场增强(第 24.4 节)。
24.2 特征平台:特征的生产线
传统模型的生命周期里,特征工程是最大的工作量(第 1 章:传统 ML 靠特征工程)。特征平台解决「特征从哪来、怎么算、怎么保证线上线下一致」:
%%{init: {"themeVariables": {"primaryTextColor": "#000000", "textColor": "#000000", "labelColor": "#000000", "nodeTextColor": "#000000", "labelTextColor": "#000000", "scaleLabelColor": "#000000"}}}%%
flowchart LR
A[原始数据
日志/数仓/实时流] --> B[特征加工
离线批 + 在线实时]
B --> C[特征存储
离线特征表 + 在线 KV]
C --> D[训练
用离线特征]
C --> E[推理
用在线特征]
D -.特征一致性校验.-> E特征平台的三大核心问题:
- 线上线下一致性(Train-Serve Skew):训练用离线特征、服务用在线特征,两边算法/口径不一致 → 模型在线失效。方案:离线在线统一的特征计算框架(Feast、Tecton 类);
- 实时特征:推荐/广告需要秒级特征(用户刚点了什么)——实时流(Kafka)→ 特征计算 → 在线 KV(Redis);
- 特征治理:特征血缘、版本、质量监控(覆盖度、分布漂移——第 22 章方法在特征层复用)。
LLM 对特征平台的冲击:LLM 可以作为「特征生成器」——用 Embedding 模型把文本/语义变成特征(第 24.4 节)。特征平台的「非结构化 → 结构化特征」能力成为新需求。
24.3 模型服务与监控闭环
传统模型的服务侧比 LLM 简单(确定性、低延迟),但闭环原则相同:
- 模型服务:Triton/KServe(第 16 章),或更轻的在线推理(打分接口);模型要支持多版本 + 灰度(第 16 章);
- 监控:第 21 章四层监控——系统(在线服务的延迟/吞吐)、模型(AUC/KS 在线监控、特征漂移)、业务(坏账率、点击率);
- 回流:用户行为(点击/转化/拒绝)→ 样本回流 → 标注/特征 → 重训(CT,第 19 章)。
风控案例的完整闭环(本书方法论的浓缩):
%%{init: {"themeVariables": {"primaryTextColor": "#000000", "textColor": "#000000", "labelColor": "#000000", "nodeTextColor": "#000000", "labelTextColor": "#000000", "scaleLabelColor": "#000000"}}}%%
flowchart LR
A[交易请求] --> B[实时特征
设备/行为/关系网络]
B --> C[风控模型
GBDT 打分]
C --> D{分数阈值}
D -->|通过| E[放行]
D -->|拒绝| F[拦截 + 人工复核]
E --> G[结果回流
真实好坏标签]
F --> G
G --> H[样本库]
H --> I[每周重训
CT]
I --> J[上线前
回测 KS/AUC]
J --> C风控的特殊点:正样本极稀疏(欺诈率低)、概念漂移快(欺诈手段演化)——第 22 章的概念漂移检测 + 第 19 章的 CT 在这里是刚需,不是锦上添花。
24.4 LLM 时代的升级路径
传统模型不会被 LLM 取代,但每个领域都有「LLM 增强」的具体路径:
| 领域 | LLM 增强方式 |
|---|---|
| 风控 | LLM 解析交易备注/聊天记录做欺诈语义特征;生成风险解释 |
| 推荐 | LLM 生成商品摘要/用户兴趣画像;做冷启动与多样性增强 |
| 广告 | LLM 生成广告文案/创意变体;理解长尾 query 意图 |
| 搜索 | Query 改写(第 17 章 RAG 技术);生成式回答 + 传统检索混合 |
| 预测 | LLM 解析非结构化信号(新闻、政策文本)做外生特征 |
混合架构的黄金法则:确定性的活(打分、排序、风控)留给传统模型,开放性的活(理解、生成、解释)交给 LLM,中间用特征/检索/路由连接。第 2 章「LLM 统一生成、传统模型管确定性」的选型判断,在这里落地。
本章要点回顾
- 传统模型生产化的本质是同一闭环:特征 → 训练 → 服务 → 监控 → 回流。
- 特征平台的三大核心:线上线下一致性(Train-Serve Skew)、实时特征、特征治理(血缘/漂移)。
- 风控案例浓缩了 CT、概念漂移、样本回流等核心方法论。
- LLM 不取代传统模型,而是增强:确定性活留给传统模型,开放性活交给 LLM。
- 混合架构用特征/检索/路由连接两端——这是第 2 章选型判断的落地。
习题
- 设计一个推荐系统的特征平台:离线/在线特征各举 5 个,说明如何保证一致性。
- 风控模型上线后 AUC 高但坏账率没降,可能哪里出了问题?给出排查路径。
- 你的搜索系统要加「生成式回答」功能,如何与传统精排共存?画出混合架构。
- LLM 生成的推荐文案如何评估?给出离线与在线两套指标。
延伸阅读
- Cheng et al., Wide & Deep Learning for Recommender Systems, 2016
- Covington et al., Deep Neural Networks for YouTube Recommendations, 2016
- Feast / Tecton 特征平台文档
- XGBoost / LightGBM 文档
- 各公司推荐/风控系统工程博客
下一章预告
第 25 章视觉/语音/多模态:图像分类检测分割 OCR、语音识别合成、多模态检索图文生成视频理解,以及多模态大模型(VLM)的工程化。