未闻花名

文章/答案/技术大牛

发布

LV6

发表了文章 3小时前2026-04-02 07:59:13

大模型应用：拆解大模型算力需求：算力是什么？怎么衡量？如何匹配？.64

对大模型而言，算力核心体现在“单位时间内完成矩阵乘法、注意力计算等核心操作的次数”。

未闻花名 3小时前2026-04-02 07:59:13

腾讯技术创作特训营S17#我与AI

发表了文章 1天前2026-04-01 07:59:32

大模型应用：大模型内存与显存深度解析：我们该如何组合匹配模型与显卡.63

在大模型本地化部署的学习路上，我们都会经历懵懵懂懂、茫然无措的阶段，不是被五花八门的模型给整迷糊了，就是被一系列硬件适配问题困住：模型参数与显存占用到底如何精准...

未闻花名 1天前2026-04-01 07:59:32

腾讯技术创作特训营S17#我与AI

发表了文章 2天前2026-03-31 07:59:53

大模型应用：联邦学习融合本地大模型：隐私合规推荐的核心流程与实践.62

在当下购物形式日益丰富、消费需求愈发多元的浪潮中，个性化推荐已成为连接用户与商品的核心纽带，直接影响用户体验与平台转化效率。然而，推荐系统的优化始终面临一对核心...

未闻花名 2天前2026-03-31 07:59:52

腾讯技术创作特训营S17#我与AI

发表了文章 3天前2026-03-30 07:53:20

大模型应用：电商智能推荐：基于本地大模型的冷启动智能推荐系统实例.61

推荐系统是连接用户与信息的桥梁，核心目标是在海量信息中为用户精准匹配其感兴趣的内容、商品或服务，广泛应用于电商行业、内容平台、生活服务等场景。其核心价值体现在：

未闻花名 3天前2026-03-30 07:53:20

腾讯技术创作特训营S17#我与AI

发表了文章 4天前2026-03-29 09:39:24

大模型应用：本地部署 vs 云端调用：成本、隐私、效率、方式的综合考量.60

随着大模型技术的普及，不管是企业开发者还是个人爱好者，都绕不开一个核心抉择：大模型到底该放在自己的设备上跑，还是直接调用云端服务商提供的接口？这个问题其实很好理...

未闻花名 4天前2026-03-29 09:39:24

玩转腾讯混元大模型

发表了文章 5天前2026-03-28 10:16:47

大模型应用：Mistral-7B-Instruct 中文超长文本处理实战全解析.59

今天的核心目的就是为了做一个超长上下文处理的实践，我们常用的模型LLaMA-2 默认上下文长度为 4096 tokens，原生不支持滑动窗口！强行设置 conf...

未闻花名 5天前2026-03-28 10:16:47

第四期热点征文-大模型技术

发表了文章 6天前2026-03-27 07:58:39

大模型应用：稀疏注意力 vs 滑动窗口：大模型扩窗技术完全解析.58

我们应该也遇到过这样的情况，在和模型应用沟通的过程中，聊着聊着它就忘了开头的要求；或者让模型工具分析一本几百页的电子书，它只记住了最后几页的内容？我们也反复讨论...

未闻花名 6天前2026-03-27 07:58:39

第四期热点征文-大模型技术

发表了文章 7天前2026-03-26 07:53:20

大模型应用：上下文理解极限：Context Window 与注意力跨度的数学边界.57

在大模型的世界里，理解其处理长文本的能力，不能只看一个数字。我们常听到“支持128K上下文”这样的宣传，但真正决定模型能否有效利用这些信息的，远不止窗口长度本身...

未闻花名 7天前2026-03-26 07:53:20

第四期热点征文-大模型技术

发表了文章 8天前2026-03-25 07:57:12

大模型应用：大模型瘦身：量化、蒸馏、剪枝的基础原理与应用场景深度解析.56

如今大模型越来越火，不管是企业做业务落地，还是我们作为个人开发者上手体验，都绕不开一个核心问题：大模型虽强，但太笨重，动辄几十上百GB显存占用，普通硬件跑不动，...

未闻花名 8天前2026-03-25 07:57:12

第四期热点征文-大模型技术

发表了文章 9天前2026-03-24 07:56:40

大模型应用：高精度量化感知训练(QAT)与低成本后训练量化(PTQ)方案优选.55

在我们反复探讨的大模型落地的过程中，高性能与低成本的矛盾始终存在。想用好一个高性能拥有千亿参数大模型，都面临着存储占用高、推理速度慢的问题。模型量化作为一种核心...

未闻花名 9天前2026-03-24 07:56:40

第四期热点征文-大模型技术

发表了文章 10天前2026-03-23 08:52:14

大模型应用：大模型量化：INT4与INT8核心差异、选型指南及代码实现.53

大模型的量化我们前期也探讨了基础概念和实践原理，针对CPU的量化流程做了通俗易懂的基础说明，但实际应用场景往往是需要GPU的落地实践，随着大模型参数规模突破千亿...

未闻花名 10天前2026-03-23 08:52:14

第四期热点征文-大模型技术

发表了文章 11天前2026-03-22 10:07:15

大模型应用：量化校准：全局/分组 Min-Max、GPTQ、AWQ 算法最优匹配.54

一直以来，我们都围绕大模型的本地部署由浅入深的仔细讨论，大模型的落地困境从来离不开“显存”与“速度”，以 LLaMA-7B 为例，FP32 精度下显存占用高达 ...

未闻花名 11天前2026-03-22 10:07:15

第四期热点征文-大模型技术

发表了文章 11天前2026-03-21 14:03:18

大模型应用：中小显存适配方案：大模型微调底座选型指标与应用实现.52

在大模型微调落地场景中，中小算力设备是多数开发者的主力工具。此类设备面临显存有限但需满足特定任务需求的核心矛盾，以中文电商文案生成为例，需兼顾文案流畅度，同时确...

未闻花名 11天前2026-03-21 14:03:18

第四期热点征文-大模型技术

发表了文章 13天前2026-03-20 07:58:44

大模型应用：大模型越大越好？模型参数量与效果的边际效益分析.51

我们接触大模型以来，经常听到什么模型有多少亿参数，通常1B/7B/13B/34B/70B/175B或者GPT有 1750 亿参等等这类说法，很容易让我们陷入模型...

未闻花名 13天前2026-03-20 07:58:44

第四期热点征文-大模型技术

发表了文章 14天前2026-03-19 07:58:07

大模型应用：混元大模型数据缓存复用方案：从API请求数据累积到智能融合.50

随着大模型在各行业的规模化应用，API 调用成本高、响应延迟大、重复请求浪费等问题逐渐成为落地的核心痛点。实际运用过程中，大量的请求为重复或相似问题，直接调用大...

未闻花名 14天前2026-03-19 07:58:07

腾讯混元大模型、玩转腾讯混元大模型

发表了文章 15天前2026-03-18 08:23:35

大模型应用：大模型权限管控设计：角色权限分配与违规 Prompt 拦截.49

在大模型本地化部署的企业场景中，权限混乱和敏感内容生成风险是两大核心痛点：可能滥用模型生成违规内容，不同部门对模型功能的需求差异无法区分，这些问题都制约了本地模...

未闻花名 15天前2026-03-18 08:23:35

大模型部署

发表了文章 16天前2026-03-17 08:03:37

大模型应用：大模型本地部署的磁盘空间优化：模型分片存储与按需加载.48

在大模型本地化应用的浪潮中，硬件门槛高始终是阻挡在我们面前的一道鸿沟，动辄数十 GB 的模型参数文件，足以让多数个人电脑的磁盘捉襟见肘，更遑论显存不足导致的加载...

未闻花名 16天前2026-03-17 08:03:37

大模型部署

发表了文章 17天前2026-03-16 07:57:34

大模型应用：大模型本地化部署与API调用：打包迁移到服务器的多种方式实践.47

在过往的系列分享中，无论是轻量型向量模型的实操应用，还是大语言模型的生成推理与落地调试，我们始终围绕模型本地化调用这一核心场景展开，从环境搭建、参数优化到功能适...

未闻花名 17天前2026-03-16 07:57:34

大模型部署

发表了文章 18天前2026-03-15 10:08:45

大模型应用：大模型的token频率偏见：高频词与低频词的嵌入表示差异分析.46

随着大模型技术深入渗透到日常对话、专业咨询、内容创作等多元场景，模型对高频词汇的理解精准度远超低频词汇，这种差异直接影响着输出结果的可靠性与实用性。从底层逻辑来...

未闻花名 18天前2026-03-15 10:08:45

大模型部署、第四期热点征文-大模型技术

发表了文章 19天前2026-03-14 08:27:01

大模型应用：本地大模型API调用鉴权可视化全解析：从基础实现到业务扩展.45

随着大模型本地化部署的普及，基于 FastAPI 封装大模型接口并实现鉴权、可视化交互，成为实现落地大模型应用的核心场景。前一篇博文我们讲解了大模型本地化部署以...

未闻花名 19天前2026-03-14 08:27:01

第四期热点征文-大模型技术

12 3 4 5 6 7 8 9 下一页

个人简介

AI不释手 | 大健康产业
深耕青少年心理和医疗大健康领域，融合AI大模型的本地化应用，对大模型有深度的应用经验和使用体验。
腾讯云AI编程达人秀
暂未填写学校和专业
暂未填写个人网址
浙江省 | 杭州市
加入社区时间：2025-10-23

个人成就

获得 326 次赞同
文章被阅读 99.3K 次
文章获得 143 次首页推荐

关注了：0关注者：67

未闻花名

大模型应用：拆解大模型算力需求：算力是什么？怎么衡量？如何匹配？.64

大模型应用：大模型内存与显存深度解析：我们该如何组合匹配模型与显卡.63

大模型应用：联邦学习融合本地大模型：隐私合规推荐的核心流程与实践.62

大模型应用：电商智能推荐：基于本地大模型的冷启动智能推荐系统实例.61

大模型应用：本地部署 vs 云端调用：成本、隐私、效率、方式的综合考量.60

大模型应用：Mistral-7B-Instruct 中文超长文本处理实战全解析.59

大模型应用：稀疏注意力 vs 滑动窗口：大模型扩窗技术完全解析.58

大模型应用：上下文理解极限：Context Window 与注意力跨度的数学边界.57

大模型应用：大模型瘦身：量化、蒸馏、剪枝的基础原理与应用场景深度解析.56

大模型应用：高精度量化感知训练(QAT)与低成本后训练量化(PTQ)方案优选.55

大模型应用：大模型量化：INT4与INT8核心差异、选型指南及代码实现.53

大模型应用：量化校准：全局/分组 Min-Max、GPTQ、AWQ 算法最优匹配.54

大模型应用：中小显存适配方案：大模型微调底座选型指标与应用实现.52

大模型应用：大模型越大越好？模型参数量与效果的边际效益分析.51

大模型应用：混元大模型数据缓存复用方案：从API请求数据累积到智能融合.50

大模型应用：大模型权限管控设计：角色权限分配与违规 Prompt 拦截.49

大模型应用：大模型本地部署的磁盘空间优化：模型分片存储与按需加载.48

大模型应用：大模型本地化部署与API调用：打包迁移到服务器的多种方式实践.47

大模型应用：大模型的token频率偏见：高频词与低频词的嵌入表示差异分析.46

大模型应用：本地大模型API调用鉴权可视化全解析：从基础实现到业务扩展.45

个人简介

个人成就

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐