大模型成长之路

代码在线跑，知识轻松学

Python精品学习库

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

博客搬家 | 分享价值百万资源包

往期视频·干货材料·成员作品 最新动态

技术创作特训营·精选知识专栏

新邀入驻腾讯云开发者社区，福利多多！

如何运用「云、端融合的数智化安全体系」高效护航数据安全

左手AI，右手安全 —— 一汽丰田数字化转型之路

⭐ 本篇文章主要介绍 LLaMA系列的论文，主要分析LLaMA V1 的模型架构以及LLaMA V2的训练方法。

【大模型学习 | LLaMA Serious】

DeepSeek-V3 的基本框架还是 Transformer。该模型仍然沿用了 V2 模型中的 Multi-head Latent Attention (MLA) 和 DeepSeekMoE,在这框架的基础上，提出了auxiliary-loss-free strategy 解决了MoE的负载平衡问题。另外，V3 模型是通过将预测多token作为训练目标。本文主要是对DeepSeek-V3的模型框架以及训练目标进行讨论。

【大模型学习 | DeepSeek-V3原理】

🎯 在学习完prompting工程【大模型学习 | Prompt工程基础学习】-腾讯云开发者社区-腾讯云，RAG技术【大模型学习 | RAG & DeepSeek 实战】-腾讯云开发者社区-腾讯云后，虽然模型已经可以输出用户想要的信息，但是依然可能存在着幻觉、有害内容、不遵循指令等情况。它能启发任务能力，但无法系统控制模型行为。这是由于目前答案的生成是通过预测网页文本数据的下一个token，作者认为这是语言建模目标的不一致，为此，作者提出采用reinforcement learning from human feedback (RLHF)来微调GPT3.

【大模型学习 | SFT & PPO原理&代码实现】

在【大模型学习 | RAG & DeepSeek 实战】-腾讯云开发者社区-腾讯云文章中，已经实现了基于RAG建立了本地知识库，通过检索相似度最高的知识来辅助大模型的问答系统。但是，在知识检索和向量存储方面，依然存在着许多不足。例如，在检索向量方面，原文只采用了向量召回的方式，无法满足对于关键词的检索；在存储方面，原文是没有采用任何存储策略的，这也意味着每次加载pdf知识库时都需要重新向量化。为此，基于以上问题，本章对问答系统实现进一步的优化。

【大模型学习 | RAG & DeepSeek 实战（二）】

🎯 编者常常有许多材料需要阅读查阅，但自己又比较懒，为此，想在大模型的学习过程中基于RAG技术将本地知识库与大模型结合起来，加快自身的效率。

【大模型学习 | RAG & DeepSeek 实战】

🧠  基础的prompting技术中，都是通过样例提示，激活模型本身的推理功能，但在现实的情况中，依然存在着仅仅依靠模型本身的知识是无法解决的，例如：① 数据库知识不足 ② 模型能力缺乏等。在这些情况下，往往需要外部的知识和能力来辅助模型，因此，本文将RAG技术和ReAct技术作为进阶的prompting技术进行介绍。

【大模型学习 | RAG & ReAct】

🧠 许多初学者，包括曾经的我，可能一开始都会有类似的误解——“Prompting 还需要专门学习吗？不就是像在百度里搜索问题一样吗？” 然而，真正深入接触大语言模型（LLM）后你会发现，Prompting 远不止是问问题那么简单。大模型本身拥有极强的推理能力、逻辑能力与知识覆盖面，但这些能力并不是在默认状态下自动调用的。相反，我们需要通过设计得当的 Prompt 来唤醒、引导并激活模型内部的潜在能力。这就像操作系统中的“指令调用”——你不发出正确的指令，它就不会启动相应的模块。本文将带你系统了解从 Zero-shot 到 Few-shot，再到 CoT、ReAct、Tool Use、Function Calling 等一系列提示设计策略和实践方法。

【大模型学习 | Prompt工程基础学习】

不同库版本间有一定的依赖性，条件允许的话可以直接用编者的这套环境，不用花太大时间在配置环境上。

【大模型学习 | BLIP2 跌倒检测项目实战（一）】

🟢 Q-Former包含了两个transformer子模块：（1）Image Transformer （特征提取） （2） Text transformer (作为文本编码器和解码器) ;

【大模型学习 | MINIGPT-4原理】

【大模型学习 | BLIP2原理】

Image-grounded text encoder: Transformer block中，在self-attention（SA）和Feed forward network（FFN）之间加入了Cross Attention（CA），融入图像特征信息，Encode为图文对的特征表示；

【大模型学习 | BLIP原理】

🔴 目前的图像数据存在着质量低、数据量不足的情况，例如 ① MS-COCO 虽然是高质量的标注数据，但也只有十万张图像，在目前的视觉系统来说属于小数据量； ② YFCC100M 有 一亿张图像，但是质量低，过滤后只有1500万张图像，与 ImageNet数据大小相同；现有视觉系统尚未能充分利用这些语言资源中的监督信息，限制了自然语言在视觉模型中的潜力发挥。

【大模型学习 | CLIP 原理&实现】

在更新过程中保留原有的参数不变为$W_0$,引入$\bigtriangledown W = BA$, 同时与输入$x$ 相乘得到：

【大模型学习 | LORA 原理&实现】

🔴 在量化过程中，发现无法采用export量化，但是 Eager Mode 成功了，  Eager Mode 只对线性层进行了量化，而没有对embedding层进行量化； EXPORT 量化仅支持对所有的层进行量化 （所以量化结果只剩下0.01M），无法支持指定层的量化；

【大模型学习 | BERT 量化实战（2） 】

👉 这种量化方式虽然简单，但存在一个明显的问题，这是方式是 HuggingFace 基于 bitsandbytes 库 实现的轻量量化方式，背后用的是：

【大模型学习 | BERT 量化实战（1）】

Item2Vec利用“物品序列”等行为产生历史行为序列（<u>包括购买、浏览等行为</u>），而Word2Vec是利用“词序”。

【推荐算法 | 词向量】

Embedding：表示输入层到隐藏层的权重矩阵，是从one-hot向量到Embedding向量的关键，7, 3表示训练完成的每一个embedding向量维度为3；

【大模型学习 | 词向量】

​【大模型学习 | 量化】pytorch量化基础知识（1）

文章

问答

视频

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋 

腾讯云代码助手

CODING DevOps

Cloud Studio

SDK中心

API中心

命令行工具

腾讯云开发者社区推出了大模型成长之路专栏，为你提供了大模型成长之路的相关文章，致力于帮助开发者快速成长与发展。

大模型成长之路

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐