【大模型学习 | CLIP 原理&实现】

🔴 目前的图像数据存在着质量低、数据量不足的情况，例如 ① MS-COCO 虽然是高质量的标注数据，但也只有十万张图像，在目前的视觉系统来说属于小数据量； ② ...

【大模型学习 | LORA 原理&实现】

在更新过程中保留原有的参数不变为$W_0$,引入$\bigtriangledown W = BA$, 同时与输入$x$ 相乘得到：

【大模型学习 | BERT 量化实战（2） 】

🔴 在量化过程中，发现无法采用export量化，但是 Eager Mode 成功了， Eager Mode 只对线性层进行了量化，而没有对embedding层...

【蓝桥杯算法 | 前缀树（Trie 树）】

【机器学习 | Adaboost原理&实现】

可以发现，指数损失函数在【正确\错误】分类的样本的值【小于\大于】1，正好符合Adaboost加法模型的实现思路，<u>在加入新的弱学习器中【提高\降低】分类【...

【机器学习 | ROC & AUC】

其中，TP表示正确分类的正样本，TN表示正确分类的负样本，FN表示错误分类的负样本，FN表示错误分类的负样本

【大模型学习 | BERT 量化实战（1）】

👉 这种量化方式虽然简单，但存在一个明显的问题，这是方式是 HuggingFace 基于 bitsandbytes 库 实现的轻量量化方式，背后用的是：

【推荐算法 | 词向量】

Item2Vec利用“物品序列”等行为产生历史行为序列（<u>包括购买、浏览等行为</u>），而Word2Vec是利用“词序”。

【大模型学习 | 词向量】

Embedding：表示输入层到隐藏层的权重矩阵，是从one-hot向量到Embedding向量的关键，7, 3表示训练完成的每一个embedding向量维度为...

【人脸伪造 | Face X-ray 代码复现】

可能遇到的环境问题（笔者遇到了）： AbstractConv2d Theano optimization failed

​【大模型学习 | 量化】pytorch量化基础知识（1）