首页
学习
活动
专区
圈层
工具
发布

#模型

本体里内置公司模型,深入业务使用后,还需要其它应用软件吗?

本体构建好还需要数据库吗?

Fable与Mythos够强就能上生产吗?

够强不等于能直接上生产。Fable和Mythos跑分确实逆天,但落地得过三关。 技术上别全局裸调。网关得按场景路由:日常走Opus,硬核代码或科研才切Fable/Mythos。多租户必须用虚拟Key加动态路由表隔离,严防串流。 产品验收别光看官方跑分。得盯紧首字延迟、P95时延和真实业务里的任务成功率。Fable自带严格安全护栏,上线前必须测误杀率,别把正常请求也拦了。 商业上,Fable输入8刀、输出40刀每百万Token,不便宜。别只看单次调用账单,要算“单成功任务成本”(总花费÷成功任务数)。配合网关做Fallback,失败自动降级,砍掉无效Token消耗,这账才算得明白。 官方详细解决方案:https://cloud.tencent.com/product/lighthouse?Is=sdk-topnav... 展开详请

大模型流式响应被 Nginx 缓冲成整段,如何排查?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验
排查时先分层对比:用 curl -N 分别直连 vLLM、直连 Nginx、经上层 LB/CDN 访问,记录每个 chunk 的到达时间,哪一跳开始攒包就问题在哪一层。Nginx 侧重点检查 gzip(压缩会攒满缓冲区,流式接口应对该 location 关闭)、proxy_cache、proxy_buffering,以及 proxy_http_version 1.1 配合 Connection "" 的 keepalive 设置。HTTP/2 和 CDN 也可能合并或缓存分块,需单独关闭或绕过测试。客户端方面,确认 HTTP 库是否按行或按固定大小读取,Python 的 requests 需设置 stream=True 并用 iter_content 逐块读。生产上建议对 /v1/chat/completions 单独建 location,固定关闭 buffering、gzip 和 cache,设置较长的 proxy_read_timeout,并保留 X-Accel-Buffering: no 响应头。... 展开详请

73:AI给自己动刀,谁敢签字?

李福春游戏发行平台,跨境电商,低代码,物联网,数字人商业项目架构师
先把训练期改网络和推理期控输出分开:DoubleAI的phantom gradient是在训练中读内部状态、发现梯度下降没学会的需求,再由Agent提案插入Python code layer继续训练;DeepSeek式probe和Qwen式stop/restart属于推理控制,不改权重。混谈会把实验收益误当生产能力。 收益必须和成本同表:code layer增加GPU与回归验证成本,重采样最多三次增加token和时延,Qwen策略的思考token约为单次尝试2.8倍。CLRS-Text的33%到79%、55%到84%只限该实验设定,AIME/HMMT的64%到71%也只限非思考模式,不能外推通用基准。 落地要沙箱、静态和动态测试、签名版本、隐藏集A/B、灰度和回滚;模型可提案,发布授权必须由人签字。先小流量验证正确率、token、GPU、时延和可审计性,再决定是否扩大。责任边界写在流程里,而不是写在模型自评里。... 展开详请

Agent 的工具调用你们怎么设计 schema?重试怎么分层?

Agent工具调用的Schema设计,核心是“约束前置”。参数描述别写废话,只留“用途+边界”;格式类字段直接上正则校验,状态类用enum锁死取值范围。枚举值多时,在description里塞正反例比堆文字管用,模型注意力有限,越精炼准确率越高。 报错返回必须带“纠错处方”,不能只抛异常。结构要包含error_code、message和suggestion,比如明确提示“开始时间不能晚于结束时间”,模型才能精准修正,而不是盲目换参数重试。 重试得分三层:工具层处理网络抖动,指数退避最多3次;模型层喂回带建议的报错重生成,上限2次防死循环;编排层做兜底降级,换备用工具或转人工。不设上限的重试就是烧钱,分层卡死阈值才是工程化落地的底线。 官方详细解决方案:https://cloud.tencent.com/product/lighthouse?Is=sdk-topnav... 展开详请

RAG 混合检索你们用 BM25 加向量还是纯向量?召回率差多少?

别死磕ES一套,向量库+BM25两路并行更常见。融合千万别用线性加权,BM25分数无上界会把向量分数碾压,归一化调参能调哭。直接用RRF(倒数排名融合),只看名次不看分数,省事且鲁棒。 量化提升很明显。实测纯向量对精确术语(型号/错误码)召回率仅40%多,上RRF后能飙到90%以上。整体Recall@10通常能从70%左右拉升到85%以上,提升15到20个百分点,专治字面匹配盲区。 bge-reranker这类重排模型必上。Cross-Encoder精排能把“相关但没排前面”的文档拽上来。延迟大概增加50-100ms(批量推理能压到80ms左右)。RAG场景下这点延迟换召回率绝对划算,毕竟检索漏了,大模型再强也是瞎编。 官方详细解决方案:https://cloud.tencent.com/product/lighthouse?Is=sdk-topnav... 展开详请

AI 哲学思考 6:当 AI 能操作电脑,我们还是工具的使用者吗?

大模型与手机融合会催生Agent终端吗?

绝对会,2026年已经是Agent手机量产元年。华为、荣耀、vivo和阶跃星辰等都在推,手机正从“App容器”变成“智能体舞台”。 权限与端云边界:目前分两派。激进派(如豆包手机)拿系统底层权限模拟点击,结果被微信和银行风控拦截;稳健派(华为、vivo)走标准化API。权限管理上,华为新专利提出了“Agent+任务ID”机制,按任务动态授权,用完即收回。端侧负责意图感知、隐私隔离和任务调度,云端负责复杂推理,服务侧负责交易闭环。 入口与App兼容:现阶段必须保留App兼容层,但App正在“Skill化”。直接干掉App不现实,超级App还在死守护城河。主流做法是重构系统级对话入口,把App能力封装成可被调用的技能模块,过渡期则靠无障碍服务或模拟点击来兼容老应用。 成本谁买单:硬件溢价(NPU+大内存)最终是消费者买单,但行规是整机成本增幅不能超8%,否则渠道不推。生态接口改造则是互联网巨头和手机厂商在博弈妥协,比如阿里联合荣耀搞模型,支付宝推AHA互联协议,本质是大厂为了抢占Agent时代的新流量入口在自掏腰包。 官方详细解决方案:https://lke.cloud.tencent.com/lke/#/trialProduct... 展开详请

AI 哲学思考 4:当 AI 能模拟大脑,我们就更理解自己了吗?

能模拟不等于真理解,“行为像”和“机制像”完全是两码事。 比如今年上Nature的Centaur模型,能精准预测人类在百余项心理实验中的行为。但心理学家直接泼冷水:计算器算加法比人准,难道研究计算器就能搞懂人脑怎么算加法?只要AI还是黑盒,模拟得再像,也解释不了意识究竟怎么涌现。 不过,AI确实是把极好的“解剖刀”。现在科学家正用它处理fMRI和单神经元级别的海量数据,甚至尝试构建“硅基大脑”数字孪生,找出了以前肉眼看不出的脑网络关联。 AI模拟大脑,只是递来一面高精度的镜子和一把快刀。它跑出的是数据相关性,但要把这些变成对心智真正的“理解”,还得靠人类自己跨过因果解释那道坎。 官方详细解决方案:https://cloud.tencent.com/product/imagecreation... 展开详请

哪个cms系统的自定义模型功能灵活一点?

已采纳
您的核心需求并不仅是传统内容发布(文章/产品),而是网站中带业务型应用: 1. 值班管理(排班、日历类逻辑) 2. 人员管理(组织架构、人员档案) 3. 绩效打分(表单 + 计算逻辑 + 权限) 这就要求CMS的“自定义模型”不能只是“多加几个字段”,而要支持: 1. 自定义字段 + 自定义表单 2. 数据之间的关联关系(不只是树形分类) 3. 权限控制(谁能看、谁能填、谁能审) 4. 一定的流程/计算能力(绩效打分涉及汇总计算) 大多数传统CMS(如PHPCMS、DEDE)的模型本质是“文章表加字段”,确实难以胜任,并不能跳出栏目和文章模型的范畴。 你这种需求可以考虑使用pageadmin这类内置低代码引擎的cms,和其他cms区别是:pageadmin不单有完整的cms内核,还有完整的低代码内核,而且功能都是按需配置,你不需要的功能不配置就可以。 你的值班管理,人员管理,绩效打分这类需求通过系统自带的可视化表单组件来拖拉就可以完成,如下图 需要流程可以通过开启流程功能,如下图: 这里支持多条件,会签,或签、会签这类标准流程。 表单设置界面还有更完善的功能,比如功能配置,视图配置,自定按钮,全文检索,触发器这类功能,很容易实现一个从发布>审批>办理>通知这类需要完整的业务闭环功能,如下图: 如果功能比较复杂,建议单独提取出来做成独立的应用,不要和网站耦合在一起,pageadmin支持网站和应用以集约化方式统一构建,如下图:... 展开详请
您的核心需求并不仅是传统内容发布(文章/产品),而是网站中带业务型应用: 1. 值班管理(排班、日历类逻辑) 2. 人员管理(组织架构、人员档案) 3. 绩效打分(表单 + 计算逻辑 + 权限) 这就要求CMS的“自定义模型”不能只是“多加几个字段”,而要支持: 1. 自定义字段 + 自定义表单 2. 数据之间的关联关系(不只是树形分类) 3. 权限控制(谁能看、谁能填、谁能审) 4. 一定的流程/计算能力(绩效打分涉及汇总计算) 大多数传统CMS(如PHPCMS、DEDE)的模型本质是“文章表加字段”,确实难以胜任,并不能跳出栏目和文章模型的范畴。 你这种需求可以考虑使用pageadmin这类内置低代码引擎的cms,和其他cms区别是:pageadmin不单有完整的cms内核,还有完整的低代码内核,而且功能都是按需配置,你不需要的功能不配置就可以。 你的值班管理,人员管理,绩效打分这类需求通过系统自带的可视化表单组件来拖拉就可以完成,如下图 需要流程可以通过开启流程功能,如下图: 这里支持多条件,会签,或签、会签这类标准流程。 表单设置界面还有更完善的功能,比如功能配置,视图配置,自定按钮,全文检索,触发器这类功能,很容易实现一个从发布>审批>办理>通知这类需要完整的业务闭环功能,如下图: 如果功能比较复杂,建议单独提取出来做成独立的应用,不要和网站耦合在一起,pageadmin支持网站和应用以集约化方式统一构建,如下图:

AI 哲学思考 3:当 AI 的能力可以打分,谁来决定什么值得衡量?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验

“什么值得衡量”本身就是价值选择,不应只由模型厂商、评测机构或榜单领先者决定,而应让领域专家、实际使用者,尤其是承担失败代价的人共同参与:专家判断任务是否真实、测量是否可靠,受影响者提出哪些需求被遗漏、哪些损失不可接受,部署者则必须承担明确责任。

团队的技术债务大家是怎么量化管理的?

如何让AI 或者说是大模型 懂得什么是女人的美与丑 ?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
审美是偏好分布,不是客观标签,模型学到的只是标注者的共识。想让模型判断美丑,别直接问它美不美,先建偏好数据集,成对比较的标注质量远高于绝对打分,用它训一个 reward 或 aesthetic 模型,输出分数而不是二元判断。输入侧把美拆成可测维度,构图、光影、色彩协调、主体清晰度,让 VLM 分别打分,比一句主观提问稳定得多。 还得承认差异。文化圈层、年代、个体偏好差得很远,所谓丑往往只是不符合某个群体的审美,做内容平台按人群或场景分阈值,别搞一套全球统一的判定。 另外外貌打分这类产品要谨慎,性别相关的外观评判很容易被滥用,也踩合规。真要做,人可申诉、结果可解释,比一个黑盒分数重要。... 展开详请

内置模型(zhuque-text)月免费额度误操作,被瞬间消耗完怎么办?

先确认一下你说的 zhuque-text 是哪个渠道: 如果是 腾讯云 EdgeOne Makers 内置模型,它每月有 50 万 token 免费额度。 如果是 朱雀 AI 检测助手网页版,免费额度按天给,和 Makers 不是同一套。 现在可以这样处理 先去 Makers 概览页看用量明细 确认是不是真的被扣完,以及是哪个 Key、哪个接口、哪段时间消耗异常。 立刻排查误调用来源 重点看:自动化脚本、循环重试、测试环境、共享 Key、第三方平台是否拿你的 Key 在跑批量任务。 临时止损 重置或禁用当前 API Key; 把 Key 从代码、环境变量、CI 里撤掉; 给调用加频率限制和单日预算告警。 联系 EdgeOne / 腾讯云支持 说明“误操作导致免费额度被异常消耗”,带上账号、项目、Key、异常时间段和用量截图。免费额度通常不会补发,但如果确属异常调用,支持侧可能协助排查或给出临时方案。 后续改法 生产调用建议切到企业版或按量计费,并设置配额、告警、子账号最小权限。 免费额度只适合测试,不适合长期跑业务。 官方详细解决方案:https://cloud.tencent.com/product/tokenhub... 展开详请

AI哲学思考1:AI真的会全面智力超过人类嘛?

这事儿我想过,说实话,拼死记硬背和算数,人类肯定没戏。但要说“全面”碾压?我觉得悬,甚至有点杞人忧天。 现在的AI更像个拥有无限算力的工具人。它能写出满分作文,但它不知道失眠的痛苦;它能画出神图,但它没见过晚霞。真正的“全面”智慧,往往夹杂着偏见、直觉、甚至是一些无厘头的错误,这些才是人性的底色。 AI那是“极致的聪明”,不是“通透的智慧”。它没有“活着”的感觉。只要人类还在纠结中午吃啥、还在为失恋难受,机器哪怕再强,充其量也就是把更锋利的尺子,根本量不出人心的深浅。把它当个好用的手办供着就行了。 官方详细解决方案:https://cloud.tencent.com/product/workbuddy?Is=sdk-topnav... 展开详请

TMS推荐分能代替派车决策吗?

别天真,推荐分绝不可能完全顶替调度员的脑子。模型跑的是理想状态下的数学最优解,而现实派车全是突发状况:临时路政查处、车辆隐性故障、甚至数据录入时的一个手滑。一旦环境偏离预设,模型不仅没法兜底,反而会因为“过度自信”乱指挥。 产品交互千万别搞“黑盒打分”,只给个分数只会让调度员产生依赖错觉。要做成“透明卡片”,直接把计算逻辑亮出来——这辆车分高是因为便宜,还是因为顺路?还要标红显示置信度和风险提示。 从商业回报看,现阶段最好的策略是“人机共驾”。系统出3套方案供调度员选,人负责拍板,反馈回来的修正动作才是训练模型的燃料。等系统试错成本低到忽略不计,再考虑自动化。记住,系统是工具,背锅还得靠人。 官方详细解决方案:https://cloud.tencent.com/solution/cybersecurity-for-neo-culture-creativity... 展开详请

我创建了一个叫做象学思维智能模型,与腾讯公司有兴趣合作吗?兴趣

关于象学思维智能模型的合作,几点务实的建议:1. 合作形式先想清楚三种:API 接入(对方开放接口,你们做应用层)、联合研发(共同打磨模型/数据集)、渠道代理(你们负责行业落地推广)。不同形式对双方投入和收益分成的要求完全不同,建议先明确对方更倾向哪种;2. 技术侧先要拿到对方模型的白皮书或评测数据,重点看三项:基准测试分数(MMLU、C-Eval 等)、行业垂类效果、推理延迟和成本——合作落地前最好申请 API 试用账号,用你们自己的真实业务数据跑一轮效果对比;3. 商务侧关注三点:数据权属(联合训练产生的数据归谁)、知识产权(模型微调后的版本归属)、排他条款(对方能否同时与其他行业伙伴合作)——这三项建议在合作备忘录里写清楚;4. 如果对方是学术团队,注意科研成果转化节奏:论文-原型-产品之间的距离往往比想象的大,建议设定 3 个月左右的试点期,用真实用户反馈数据决定是否进入正式合作。... 展开详请

如何解决A丨模型安全性问题和幻觉问题?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
这是两类问题,别用一套办法硬治。 幻觉八成是检索和约束没做好。先给「不知道」留出口:召回分数低于阈值就走兜底话术;RAG 强制引用来源,并校验引用片段真在原文里;结构化输出走 JSON schema 校验,不通过就重试或降级成模板。业务系统里要求关键字段必须命中原文,这一条能压掉大半胡编。 安全分输入输出两侧。输入做提示词注入检测和权限裁剪,别让模型看到超出当前用户范围的数据;输出做敏感信息脱敏,工具调用走白名单,Agent 调接口必须服务端二次鉴权,模型说已授权不算数。 最后别追百分百,先定失败边界:哪些场景允许错、错了谁来兜。... 展开详请

重试延迟:1067ms 失败原因:500 "AI Gateway environment is incomplete?

紫风十五年服务端架构专家,用高可用承载亿级流量,用高性能支撑毫秒级响应。为业务增长提供坚实的技术底座。
500 来自网关层,大概率不是请求写错了,而是环境没配完整:模型接入的密钥、环境变量、服务绑定这几处最常见。先别急着加重试,直接看网关日志里的原始报错,Gateway 的 500 一般会把上游原因带出来,环境补齐后重试才有意义。重试要做指数退避加抖动,500ms 起步翻倍、上限封顶,别固定间隔硬打,容易把抖动放大成雪崩。1067ms 这种具体延迟说明已经退避过一轮了,如果连续多次 500,应该熔断并告警,而不是无限重试。另外注意重试只对幂等操作安全,生成类请求重试要带请求 ID 去重,避免重复扣费和重复产出。... 展开详请
领券