大家好，我是歸藏（guizang），今天来讨论一下最近圈子很火的上下文工程概念。 这几天 AI 圈子有个非常有必要也非常热的讨论就是提示工程是不是应该被称为"上下文工程"更加适合。 最早由 Shopify CEO Tobi Lutke 在推特说，他觉得相比提示工程更喜欢"上下文工程"这个术语。 因为这个词可以更加准确的描述岗位所需要的核心技能： 需要为 LLM 提供完成任务所需要的所有上下文。 之后 Andrej Karpathy 也发表了意见，"提示"通常让人联想到日常使用的 LLM 聊天机器人中的简短任务描 述。 但是在每一个工业级 LLM 应用中，上下文工程是精心艺术和科学地填充上下文窗口， 使其包含下一步所需 恰到好处的信息 。 因为做到这一步需要的不只是提示词这一个东西，还需要任务描述和解释、少量样本、RAG（检索增强生 成）、相关的（可能是多模态）数据、工具、状态和历史、以及压缩等信息。 如果信息太少或形式不对，LLM 可能无法获得最佳性能所需的正确上下文。 但如果信息过多或不相关，LLM 的成本可能会上升，性能也可能下降。 所以上下文工程师需要提供恰到好处的信息，而且这需要对 LLM"心理"有一 ...