
提示词工程和氛围编码。这两个术语在网上经常被提及。一个是以特定方式组织问题,从人工智能模型获得完美回应。另一个让用户,主要是非开发人员,无需编写任何代码就能创建功能。
现在,我们有了第三个术语 – 上下文工程。
上下文工程是提示词工程的超集。这是一种为大型语言模型(LLMs)构建系统的方法,为AI代理提供正确格式的适当信息和工具,使其能够完成任务。
无论任务多么复杂。
由于上下文工程通过同步数据、记忆、工具和用户意图来运作,这是获得真正重要结果的可靠方法,而且上下文质量越好,性能就越好。目前,它被用于创建AI编程助手和服务聊天机器人,以加快产品开发和客户服务。
但营销中的上下文工程是如何运作的?在本文中,您将找到这个问题的答案,并了解营销人员如何使用它来减少工作量并实现规模化的个性化。
虽然相对较新,但上下文工程植根于管理AI系统信息流的原则。它无非就是为AI模型提供所需的一切,无论是数据、工具还是指令,使其能够每次都可靠地完成工作。
这是OpenAI创始团队的前成员Andrej Karpathy的推文,关于上下文工程的本质:
"人们将提示与日常使用中给LLM的简短任务描述联系在一起。而在每个工业级LLM应用中,上下文工程是一门精密的艺术和科学,即为下一步填充恰到好处的信息到上下文窗口中。"
这与提示工程完全不同,后者只需输入命令。毕竟,单个提示的作用是有限的。因为,当AI需要回忆过去的对话、提取用户数据、总结过去的讨论,然后给用户写一封个性化的电子邮件时,会发生什么?
不是分步进行,而是在一个工作流程中完成?
这就是上下文工程的用途。它将重点从以提示为中心的设计转向全面的系统,为LLM模型提供一个"外部大脑"——包括结构化上下文、对话日志、文档存储、API和实时数据。
让我们先了解上下文工程中的"上下文"是什么意思。上下文是AI模型在生成输出前参考的所有内容。这不仅包括用户的查询,还包括关于代理应如何行为的系统提示,以及用户交互记录、按需获取的数据和模型可以使用的工具。
有了正确的上下文,一个无状态的LLM就转变成了一个看起来能"记住"、"理解"并"执行"你的指令的代理。
那么,以下是上下文工程中"上下文"的基本组成部分:
以下是这些元素如何组合在一起。首先,系统提示指导AI助手应该如何行为。然后,用户提出问题。这启动了数据检索过程,同时记忆提供当前对话摘要和过去的用户偏好。
我们还准备了工具目录。例如,用于发送电子邮件的API、查询客户记录的数据库或提取PDF内容的解析器。
所有这些组件合并成一个模型在单次调用中消费的"上下文包"。LLM将所有内容(对话历史、外部数据和工具指令)作为一个整体处理。然后生成完全符合定义架构的输出,无论是营销电子邮件草稿还是产品摘要表。
一旦生成响应,反馈循环就会启动。如果响应需要调整,您可以优化上下文组件。随着时间推移,这种迭代调优确保每个上下文包变得更准确,更符合用户需求。
我们所知的LLM,从一次互动到下一次互动实际上不会携带任何信息。它们几乎总是在没有过去事件记忆的情况下开始每次新对话。
如果没有提供相关上下文的明确框架,智能AI无法导航用户是谁或任务需求是什么。相反,它会偏离主题、重复错误或简单猜测。上下文工程通过将模型需要的所有内容组装成单一、结构良好的单元来填补这些空白。
通过上下文包,您可以消除与LLM相关的四个主要失败:幻觉、无状态、泛泛而谈的回应和过时的答案。
通常,AI代理失败不是因为它没有正确的数据或工具来完成工作,而是因为它运行的LLM出错了。这主要是因为LLM没有获得生成好的响应所需的正确上下文。
要么上下文缺失,要么格式不当。
即使是最好的模型,如果上下文质量差也无济于事。因此,随着您的AI工作流程变得更加复杂,遵循最佳实践,如定义清晰的架构或标记数据源,可确保您的代理始终拥有正确格式的正确信息。
通过工程化上下文,明确设定代理"看到"什么、如何看以及按什么顺序来看,你可以将单一提示的文本生成器转变为一个可靠的、多步骤的助手。最棒的是什么?它遵循你的规则并从过去的错误中学习。
你可能会想,"上下文工程不就是花哨的提示工程吗?"并非如此。提示工程是关于选择正确的短语、关键词和句子结构,以从LLM获得最佳响应。
然而,这种方法本身是在真空中运作的:它不会为模型提供任何额外的数据,也不会嵌入指令或连接外部工具。它所做的只是在不给模型解决复杂挑战所需智能的情况下微调单个命令。
另一方面,上下文工程将规则、文档、动态数据集和工具编织成一个框架。在营销中,它可能涉及向LLM输入产品目录、品牌指南和用户行为数据,以及关于语气和格式的清晰指示。

信息图来自Dex Horthy,发布于X/Twitter。
这并不意味着提示在上下文工程系统中不重要。
创建具体问题有助于AI应用程序正确导航其广泛的知识库。但提示只是更大图景中的一部分。当你构建一个能够回忆早期对话、提取外部数据或与CRM集成的AI代理时,你就在实践上下文工程。
你的提示指导模型的行动,但上下文提供模型的"记忆"、数据和规则。
根据 Tobi Lutke,Shopify 的首席执行官所说,"[上下文工程]... 更好地描述了(提示工程的)核心技能:为任务提供所有上下文,使大语言模型能够合理地解决问题。"
这种方法允许您构建动态系统,不仅可以访问外部数据,还可以在对话过程中使用外部工具。它们可以查找文档,使用API找到相关信息,并将其与问题或任务一起包含在上下文窗口中。而且使用时间越长,效果越好。
因此,上下文工程可用于不同目的也就不足为奇了,以下我们介绍其中一些用途。

上下文工程是现代编程助手的核心。Windsurf 和 Cursor 是最好的例子,它们将检索增强生成与类代理行为相结合,以处理高度结构化的相互关联的代码库。
以重构函数的请求为例。表面上看似乎只是重写几行代码。但人工智能助手需要更多上下文。它需要知道该函数在整个代码库中的使用位置、处理的数据类型、与外部依赖项的交互方式,以及逻辑稍有变化可能会破坏什么。
优秀的编程代理就是为处理这种复杂性而构建的。它们适应您的编码风格,保持对项目结构和文件关系的认知,并跟踪最近的提交以形成系统的工作记忆。
对于在内部使用代理系统的公司而言,上下文工程将分散的数据孤岛整合在一起 – CRM记录、Jira工单、内部维基等 – 提供最新的答案,同时不会使其人类同事负担过重。
这些系统自动总结会话历史,即时获取相关文档,并应用个性化规则,使每个响应都符合内部指导方针。同时,它们在部门之间协调记忆和任务切换,使人工智能能够处理分层的多步查询,并仍然以单一答案响应。
在客户服务中,上下文工程可用于构建直观的聊天机器人和会话式人工智能系统,指导每次客户互动。
要知道基础聊天机器人提供的是通用响应,有时还使用过时数据。
然而,上下文工程将这些基础机器人转变为能带来熟悉感的系统。
由於他們可以訪問各種數據,如支持記錄、帳單查詢、用戶帳戶狀態、偏好設置和產品文檔,他們能夠持續提供針對用戶個性化的信息。
因此,最終,你會遇到能夠叫出你名字的客服人員,他們記得你之前的問題是什麼,並在推薦解決方案之前查看你的帳戶狀態。
自主AI代理是上下文工程的下一步。它們超越了基本的RAG系統,成為能夠推理、規劃和採取行動的動態、目標導向實體。
這些代理不僅僅是回應提示;它們解決問題。
上下文工程為它們提供管理記憶、設定目標和使用正確工具的能力,即使在長期或複雜的會話中也是如此。例如,它們可能調用營銷API來獲取廣告洞察,或連接多個工具來完成完整的營銷工作流程。它們根據當前任務實時決定使用哪些工具。
這些代理不是給出一次性答案,而是能適應不斷變化的情況,在實際環境中執行多步驟任務。它們就像數字同事,能夠發現問題並在最少人工監督的情況下交付結果。
到目前為止,我們已經介紹了上下文工程在不同領域的四個使用案例。
那麼,上下文工程能應用於營銷嗎?當然可以。在下一節中,我們將探討它如何將通用外展轉變為真正能推動參與度的個性化體驗。
不久前,哈佛大学营销讲师Christina J. Inge在她的LinkedIn上的营销人工智能与分析新闻文摘中介绍了Delve AI。
首先,她谈到了如何利用该软件使用您的网站数据创建persona。有趣的是她后来提到的用例:将生成的persona输入ChatGPT,并提示它创建内容日历、测试信息策略和模拟焦点小组反应。

这不仅仅是另一个自动化实验的例子;这是上下文工程的练习。
在这里看到的persona和生成式人工智能之间的融合,其中一个工具将数据丰富的文本输入另一个工具以创建营销策略,这就是营销中的上下文工程的全部内容。
当这种方法与代理结合时——自主人工智能实体能够在最少人工参与的情况下使用工具和做出决策——就可以在不失去人工团队预期的战略深度的情况下实现大部分营销工作流程的自动化。
这可能意味着运行端到端的电子邮件营销活动。
电子邮件代理不仅仅是写邮件;它还会细分您的受众、检查您的日历、利用您的CRM、适应促销活动并衡量参与度。它将使用所有可用的工具和数据点来实现您的营销目标。
但与人类不同的是,它在管理数千名客户时不会感到不知所措。它不会忘记细节或丢失上下文。
这意味着创建一个营销代理或副驾驶,在具有相关上下文的系统上运行:您的受众档案、营销活动绩效数据、品牌资产、竞争分析、业务目标、市场信号等。
因此它不仅仅是一个通用文本生成器,而是一个动态的、具有上下文感知的助手。
提示工程已经是旧闻了。营销人员需要超越像ChatGPT和Claude这样的工具的表面使用,通过上下文工程提高参与度和转化率。
您需要构建一个相互连接的整体系统,而不是将数据、功能和工具视为孤立的组件,该系统需要理解:客户是谁,他们在旅程中的位置,品牌代表什么,以及过去的营销活动表现如何,以完成任务并做出决策。
一旦您完成构建上下文、统一资产、工具、市场数据、规则和业务关键绩效指标,您的AI代理可以:
这些AI代理使您能够大规模实现个性化,并根据实时市场数据自动优化您的营销计划,通过持续改进的响应反馈循环不断提升。
尽管上下文工程带来巨大的好处,但它也带来了需要智慧解决方案的挑战。

当AI产生幻觉或误解其训练数据时,这个错误的响应可能会潜入其上下文中。从那时起,系统可能会继续引用或基于错误的细节进行构建。随着时间推移,这些错误会累积,清除它们变得麻烦。
解决方案:建立严格的验证检查和版本化的上下文存储。当发现错误片段时,可以只回滚或替换该片段,而不需要清除所有内容。
当开始向模型输入更多数据时,可能会出现它开始专注于累积历史的情况。它不是利用其训练,而是循环旧的回复。
解决方案:使用上下文总结和抽象。定期将长历史压缩成简明的摘要。这使AI保持专注于新鲜、相关的信息。
用额外信息过度加载上下文会导致混乱的回答。无关的数据,比如在起草支持邮件时使用营销指南,会使AI偏离方向。最终得到的响应会混淆两个或更多任务。
解决方案:应用上下文过滤器。在每次调用之前,过滤掉任何不相关的文档或工具描述,使模型只"看到"该任务所需的内容。
有时,上下文中的两个来源相互矛盾,比如产品规格的两个版本或过时的价格与当前价格。AI然后必须猜测信任哪一个,这导致混乱的回复。
解决方案:使用上下文修剪。定期扫描过时或冲突的条目并删除它们。这保持"记忆"的连贯性和可靠性。
解决这些挑战是构建高效和准确的营销工作流程的关键。
上下文工程是人工智能时代最重要的技能之一。很显然,它已经超越了传统的提示工程,为其用户带来了相较于竞争对手的显著优势。
你不再需要完美的提示来写广告文案;你需要的是一个能管理和执行整个营销活动的智能系统。
通过上下文工程和人工智能代理,你可以实现大规模的内容个性化,适应不断变化的客户偏好,并提供建立品牌价值的领域特定答案,无需人工干预。
这不是遥远的未来。通过上下文工程,你可以构建工作流程,让人工智能代理像营销助手一样工作。它们了解你的客户,使用你的品牌语言,并做出数据驱动的决策。
当然,核心还是人在指导代理并优化营销结果。但那些重复性的、依赖上下文的任务?现在可以由你的人工智能助手来处理。
对于想要在保持细微差别的同时快速行动的营销人员来说,这是一个重大胜利。
情境工程是选择和构建最相关信息和工具的过程,如元数据、提示、系统指令、APIs和访问规则,以为人工智能系统提供完成任务所需的准确背景信息。
人工智能代理是能够利用其可支配的信息和工具来执行任务或完成目标的自主技术实体或软件 – 只需最少的人类参与。