暂无搜索历史
大模型应用大概率都遇到过两个致命问题:一是模型幻觉,明明不懂的内容硬编,输出看似通顺实则错误的信息;二是知识滞后,模型训练数据有时间边界,最新的行业政策、技术进...
接触大模型应用开发,相信我们都遇到过大模型“知识过时”和“编造信息”的痛点。哪怕是最强的基础大模型,它的知识都被冻结在某个时间节点里,问到最新新闻、实时数据、行...
如今我们向大模型问一个复杂问题,如果直接丢给普通大模型,要么它只会调用训练截止前的陈旧知识,要么单次搜索只查一个关键词,得到碎片化信息,最后答案片面、遗漏关键数...
现在大模型已经越来越多的应用到了很多场景,智能问答、AI绘图、多模态推理、企业私有化部署等应用随处可见。但不管怎样,还是逃不掉一些核心难题:模型效果达标了,但运...
在前面我们做的语音转录过程中,客户端采集音频上传服务端后,经常遇到一类难以定位的线上问题:ASR识别结果为空、识别乱码、识别出噪声而非人声。很多时候ASR模型本...
在AI人机交互产品中,感知层是连接大模型和真实用户的第一道关口。大模型本身擅长文本、对话推理,但无法直接感知物理世界里用户是否在场、是否正在操作设备。这类用户在...
不知道大家有没有在使用智能客服、语音导航、外卖点单AI、智能家居语音助手时,好奇一个问题:为什么AI能听懂我们随口说的杂乱语句,精准抓取关键信息,还能自动完成对...
记得我刚接触大模型微调时,一开始就被全参数微调劝退了。我们拿到一个几十亿、上百亿参数的基座大模型,如果想让它学会我们自己的业务任务,比如抽取合同信息、做领域问答...
青少年心理辅导沟通存在一个现实痛点:咨询师在现场沟通时,既要专注倾听、共情回应,又要手动记录对话内容,很容易分心,遗漏关键情绪信息。人工记录效率低,事后整理访谈...
当下青少年心理健康问题愈发受到社会、学校与家庭的重点关注,师生沟通、亲子疏导、心理辅导过程中,传统人工情绪判断存在主观性强、滞后性明显、数据无法量化、实时性不足...
大模型部署大概率都遇到过同一个难题:模型训练完效果再好,上线就特别容易翻车。要么是GPU显存不够用,几十亿参数的大模型勉强载入,推理速度却慢得离谱,用户等待响应...
最近梳理了很多RAG方面的知识,平时累积的零零散散,现在打算归拢一下,相信大家和我一样,在啃大模型、RAG这类技术书的时候,最头疼的不是读不懂,而是读完之后脑子...
现在我们越来越明显的感受到,当下的大模型技术已经彻底改变了AI应用的开发模式,从最初简单的单轮问答、文本生成,逐步走向多步骤、多模型联动、带状态流转的复杂智能业...
在当下身份认证场景中,传统账号密码登录存在记忆成本高、易泄露、易被破解等诸多短板,人脸生物识别凭借唯一性、便捷性、高安全性,已成为主流登录认证方案。市面上多数人...
现在我们做大模型应用时,基本都不需要从零搭建全新系统。很多时候我们需要在现有的业务系统上进行扩展完善,手上本来就跑着一套Python Flask后端,SQLit...
在长期的大模型应用落地、Prompt调优与工程迭代实践中,我发现了一个普遍且关键的行业现象:很多模型优化工作,都停留在“经验试错、主观判断、随缘迭代”的阶段。很...
在长期的大模型落地、项目迭代与AI运维实践中,我们应该都有这种经历,模型线下测试表现优异,一旦正式上线,就频繁出现效果不稳定、回答出错、检索无效、信息提取遗漏等...
不知道大家在大模型应用过程中,是不是也会遇到模型碎片化、接口不统一、生产不稳定。早期为了快速落地,我们直接对接OpenAI系列模型的API,业务跑通后,出于数据...
相信我们在落地大模型应用时,都会遇到一个共性痛点:模型输出效果极其不稳定,且出了问题无从溯源、无法复盘、难以优化迭代。大家应该都有过这样的经历:同样的业务问题,...
最近大家都在聊大模型、Agent、RAG,很多人把注意力放在Prompt、智能体逻辑、检索算法上。但在实际落地的时候会发现,再好的模型权重、再精巧的业务逻辑,如...
暂未填写学校和专业
暂未填写个人网址