温馨提示:文本由机器自动转译,部分词句存在误差,以视频为准
00:00
你花了一整年建起来的AI战略可能正在被另一套完全不同的规则打分。Elas把这一场变化拆成了五个判断,客户不再问你的检索基准是多少分儿,也不再比谁的参数更漂亮,他们问的是这一层能不能成为我的agent。感性的上下文来源过去是人在读搜索结果,现在是agent在推理循环里读检索判断再检索。MCP已经成了连接agent和企业数据的默认接口。ADC的调研很直接,只有12%的公司说他们对主要发现工具给出的事实始终有信心,超过一半的公司卡在从试点到量产的路上,原因只有一个字,不信,而在推理循环。
01:00
权利疑似过期、不完整、不相关的检索不是错一次就结束,它会顺着决策链一路放大,所以实时数据摄取已经不是可选项。搜索没有被A帧取代,它只是从一次疑问的排序列表变成了工作流里的多跳查序、混合检索、重排序、安全访问控制,一个都不能少。人带着领域知识去搜,Agent不自带上下文,你得在对的时刻把对的数据对的原数据对的分块喂给他,喂不准他就开始编,会多了同样会烂。这有个名字叫context rot, 无关信息堆满上下文,耗尽模型的注意力,预算更大的上下文窗口治不了它只是把失效点往后挪,多个向量库、多套重排模型、多种索引拼在一起。
02:00
看着灵活,实际是一种新的应用蔓延。维护成本加上每月照来的token账单,所以上下文工程接替了提示词工程,成了决定agent质量的那门手艺。给模型什么、怎么给和用哪个模型一样重要。我们正在从agent的畅想阶段走进生产架构阶段,今天定下的架构决定你明年能多快把下一个场景做出来。
我来说两句