中电金信软件有限公司 | 高级技术架构师、产品售前专家 (已认证)
你大概遇到过这样的场景:和 AI 聊了二三十轮,让它回头看看最开始提的需求,它却一脸茫然,仿佛你们从未聊过那件事。更让人困惑的是,它明明能一口气读完几十万字的小...
资料来源:15份市场研究报告、9份监管文件与标准原文、10余份企业公开信息与并购公告 定位:面向企业安全负责人、AI应用架构师、行业研究人员与业务决策者的行业认...
记得我刚接触大模型微调时,一开始就被全参数微调劝退了。我们拿到一个几十亿、上百亿参数的基座大模型,如果想让它学会我们自己的业务任务,比如抽取合同信息、做领域问答...
最近 DSH(DeepSeek Harness)开源,社区里那句话被反复引用:agent = model + harness。
很多人把大语言模型想象成"会思考的黑箱",但它的运行方式其实非常朴素:给定一串词,预测下一个最可能出现的词;把预测出的词接在末尾,再预测下一个,如此循环。 这种...
在当下身份认证场景中,传统账号密码登录存在记忆成本高、易泄露、易被破解等诸多短板,人脸生物识别凭借唯一性、便捷性、高安全性,已成为主流登录认证方案。市面上多数人...
现在我们做大模型应用时,基本都不需要从零搭建全新系统。很多时候我们需要在现有的业务系统上进行扩展完善,手上本来就跑着一套Python Flask后端,SQLit...
在长期的大模型应用落地、Prompt调优与工程迭代实践中,我发现了一个普遍且关键的行业现象:很多模型优化工作,都停留在“经验试错、主观判断、随缘迭代”的阶段。很...
最近大家都在聊大模型、Agent、RAG,很多人把注意力放在Prompt、智能体逻辑、检索算法上。但在实际落地的时候会发现,再好的模型权重、再精巧的业务逻辑,如...
标准 Agent 的每一步思考都要写成文本 token:解码一次、再嵌回输入一次。HybridAgent 的做法是把中间推理搬进连续隐状态,只在需要调工具、需要...
随着大模型技术飞速普及,从通用对话AI、智能客服到企业专属私有化模型、Agent智能体应用,大模型已经从实验室科研场景,彻底走入工业化落地阶段。构建初期一般都会...
做传统微服务、接口业务时,卡顿、报错、超时都很好定位,看日志、看QPS、看链路耗时,基本一分钟就能锁定根因,是数据库慢、代码bug、还是网络问题,一目了然。但大...
做医疗RAG面临一个非常核心的难题,简直是极大的困扰:首先是模型幻觉不可控、输出内容不严谨、无法满足医疗合规要求。在实际业务场景中,很多医疗AI产品经常出现错配...
当下使用大模型辅助编程已经成了我们开发者很常见的一种现象,但不知道大家有没有遇到这种情况:编码效率看似翻倍,项目落地质量却断崖式下跌。随便输入一句需求描述,大模...
训练一只有推理能力的猫娘,就一定需要一个更强大的优质猫娘老师吗?可是,上哪找那么优质的猫娘呀(悲)。唉,只可惜自己不是猫娘,喵。
做数据开发和算法的朋友应该都有同感,数据处理是AI项目的地基,地基稳不稳,直接决定后续模型训练、业务落地的效果好不好。传统的数据处理流水线,长期面临着效率低、人...