吴恩达重构 AI 工程：6 大技能对抗模型随机性

据 Woofun AI 消息，DeepLearning.AI 创始人 Andrew Ng（吴恩达）近期发布 AI Engineering Skills Map，将"构建与部署 AI 应用"确立为 AI 工程师的核心高级能力，并拆解为六大技能模块。吴恩达指出，AI 软件与传统软件的根本差异在于输出具有不确定性，开发者无法预知大型语言模型的具体生成结果，因此 AI Engineering 的本质是利用概率性元件构建可靠的软件系统。

第一项技能聚焦 LLM 基础，要求工程师深入理解模型如何 tokenize 输入及逐步生成输出，明确模型在何种情境下可信或易失败。这直接关联到实际开发中的工程判断，例如决定 context window 的信息容量、判断多模态模型相较于纯文本模型的适用场景、评估 cache hit 对成本的影响，以及考量模型知识截止日期、reasoning effort、sampling parameters 和 tool calling 的使用时机。

只有透彻掌握这些底层机制，工程师才能精准选择单一模型或混合多种模型策略。第二项技能涉及以数据 Grounding 模型，Woofun AI 整理数据显示，当前 Grounding 技术已远超早期的 vector search 范畴。工程师需决策哪些信息直接嵌入 Prompt，哪些通过工具实时查询，并根据数据类型选择表示方式：文件搜索适用 vector index，复杂实体关系适合 knowledge graph，而客户订单等结构化数据则需建立 semantic layer。

此外，还需将 PDF、HTML、图片等非结构化数据清洗为模型可用的格式，并维护确保数据干净、正确且持续更新的 pipeline，核心能力在于针对特定查询需求，选择最优方式向模型交付正确 context。

第三项技能涵盖 Agentic Systems 的架构设计与生产级安全治理。吴恩达将智能体系统定义得极为广泛，从简单的预定义 workflow（如依序调用 LLM）到进阶的 agent harness（模型自主观察状态、判断并行动）。工程师需决定步骤的串行或并行逻辑，区分传统代码与 LLM 的处理边界，并在 Agent loop 中配置 MCP、CLI、sandbox execution environment 等工具调用权限。长时间任务涉及 memory architecture 与 context management，而 multi-agent orchestration 的引入需权衡系统复杂度。

更关键的是，Prototype 与 Production 之间存在巨大落差，必须部署 guardrails 以应对 prompt injection、数据外泄等风险。一个能读取内部数据并调用外部工具的 Agent，若遭遇注入攻击，可能将简单的回答错误升级为严重资安事件。因此，Agent Engineering 不仅赋予模型自主能力，更需界定其行为边界及错误阻断机制。

此外，voice agents、computer-use agents 及 generative UI 等新兴形态也需纳入掌握范围。

第四项技能强调 Evaluation-driven Development，吴恩达将其视为判断工程师是否擅长开发 AI 系统的关键特征。由于模型输出的随机性，依赖直觉调整 Prompt 易导致开发过程混乱，而建立纪律化的 Eval → Error Analysis → Development 循环至关重要。有效的 evals 能让团队系统性量化产品改善程度，并优先解决高价值问题。开发者需通过阅读 system trace、检查大量模型输出、进行 exploratory data analysis，结合产品与商业理解来确定衡量指标。评估方法多样：部分问题适用 deterministic 代码检查，主观品质问题可采用 LLM-as-a-judge，高风险场景则需 human-in-the-loop。

值得注意的是，eval 系统本身的准确性也需被评估，并随产品演进迭代。这与传统软件测试存在唯一正确答案的逻辑截然不同，测试标准本身具有动态性和概率性。

第五项技能关注生产环境运营，包括监控 uptime、追踪模型表现 drift、识别持续失败的输入类型及防范 prompt injection 等资安问题。CI/CD 与 regression testing 需适配 AI 特性，采用统计式评估而非绝对匹配，且测试严格程度应随风险分级。例如，推荐餐厅的 AI 偶尔答错与医疗系统偶尔答错，其容错标准和测试要求截然不同。

此外，inference cost 与 latency 是规模化后的核心挑战，Demo 阶段忽略的调用成本在用户规模上升后将直接影响毛利。工程师需掌握 model choice optimization、distillation、fine-tuning 及简化 agentic workflow 等成本控制手段，这是 AI Engineering 区别于纯 Prompt Engineering 的重要维度，体现了对工程效率与经济性的综合考量。

第六项技能重申 Machine Learning 基础在 LLM 时代的持续价值。尽管 ChatGPT 的普及曾引发"无需学习传统 ML"的误解，但吴恩达指出，擅长构建 LLM 系统的工程师通常具备扎实的 machine learning 与 deep learning 理解。一方面，LLM 本身依赖 supervised learning、reinforcement learning 等方法训练；另一方面，许多实际应用仍需传统 ML 模型或自行训练模型。

工程师需权衡不同模型在 accuracy、training speed、inference speed 等方面的 trade-off。更重要的是，bias/variance、error analysis 与 data engineering 等经典概念，依然是理解不确定输出系统的重要思维框架，为应对模型黑盒特性提供了可解释性和可控性的理论基础。

综上所述，AI 工程师的核心竞争力已从单纯调用 API 转向应对不确定性的工程化能力。与传统软件追求确定性不同，AI 系统需在概率性输出中构建可靠性，这要求工程师在模型基础、数据治理、智能体架构、评估循环、生产运营及 ML 理论之间建立系统性思维。这是继大模型爆发后，AI 工程领域从"实验探索"迈向"工业级落地"的关键范式转变，标志着 AI 开发正式进入精细化、标准化与规模化并重的新阶段。