腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
腾讯云架构师技术同盟
文章/答案/技术大牛
搜索
搜索
关闭
发布
首页
学习
活动
专区
工具
TVP
腾讯云架构师技术同盟
返回腾讯云官网
炼丹笔记
专栏成员
举报
255
文章
284861
阅读量
37
订阅数
订阅专栏
申请加入专栏
全部文章（255）
编程算法（68）
https（52）
神经网络（48）
网络安全（46）
深度学习（41）
推荐系统（41）
机器学习（31）
人工智能（19）
特征工程（14）
批量计算（13）
文件存储（13）
embedding（12）
NLP 服务（11）
css（10）
腾讯云测试服务（8）
linux（7）
jquery（6）
知识图谱（6）
电商（6）
开源（6）
学习方法（6）
label（6）
对象存储（5）
tensorflow（5）
git（5）
github（5）
监督学习（5）
数据分析（5）
数据结构（5）
vr（5）
node.js（4）
ide（4）
pytorch（4）
tcp/ip（4）
kaggle（4）
黑石物理服务器（3）
强化学习（3）
正则表达式（3）
sas（3）
data（3）
field（3）
gpu（3）
position（3）
size（3）
target（3）
token（3）
数据挖掘（2）
python（2）
bootstrap（2）
html（2）
apache（2）
短视频（2）
vr 视频解决方案（2）
http（2）
面向对象编程（2）
决策树（2）
kernel（2）
迁移学习（2）
大数据（2）
微信（2）
腾讯云开发者社区（2）
document（2）
epoch（2）
function（2）
matrix（2）
mean（2）
memory（2）
model（2）
network（2）
nlp（2）
ocr（2）
rank（2）
search（2）
task（2）
title（2）
torch（2）
youtube（2）
笔记（2）
论文（2）
模型（2）
排序（2）
费用中心（1）
内容分发网络 CDN（1）
人脸识别（1）
java（1）
erlang（1）
oracle（1）
sql（1）
搜索引擎（1）
访问管理（1）
NAT 网关（1）
SSL 证书（1）
图像处理（1）
金融（1）
企业（1）
express（1）
serverless（1）
缓存（1）
图像识别（1）
numpy（1）
keras（1）
scikit-learn（1）
无监督学习（1）
机器人（1）
nat（1）
信息流（1）
腾讯广告算法大赛（1）
es（1）
联邦学习（1）
ab测试（1）
adt（1）
analytics（1）
bi（1）
byte（1）
classification（1）
connection（1）
copy（1）
count（1）
csv（1）
cuda（1）
delay（1）
display（1）
dot（1）
dp（1）
duration（1）
error（1）
filtering（1）
fixed（1）
fold（1）
frames（1）
google（1）
gradient（1）
graph（1）
image（1）
implicit（1）
input（1）
int（1）
key（1）
layer（1）
live（1）
lm（1）
ls（1）
lstm（1）
map（1）
mask（1）
masking（1）
max（1）
min（1）
modeling（1）
normalization（1）
parquet（1）
pid（1）
point（1）
precision（1）
prediction（1）
product（1）
progress（1）
prompt（1）
publishing（1）
regression（1）
sample（1）
self（1）
sequence（1）
set（1）
shared（1）
shift（1）
shuffle（1）
spline（1）
ssl（1）
state（1）
statsmodels（1）
string（1）
sum（1）
svm（1）
tar（1）
tensor（1）
text（1）
time（1）
transfer（1）
view（1）
xgboost（1）
zip（1）
部署（1）
产品（1）
工作（1）
可视化（1）
框架（1）
量化（1）
内存（1）
视频（1）
系统（1）
重构（1）
搜索文章
搜索
搜索
关闭
突破双塔: 生成式交互向量化召回
工作
框架
量化
模型
重构
TLDR: 本文介绍了一种突破传统的双塔式（two-tower）模型的新方法，这种方法利用一个轻量级的生成模型提取一侧（例如文档侧）的特征，并模拟生成另一侧（例如查询侧）的特征。这种模型的优点在于，它实现在底层进行特征交叉，而不仅仅是在顶层进行内积。效果显著，同时Serving效率与纯双塔模型持平。此研究相当于进一步扩展了双塔式模型中引入交叉特征的可能性，并展望了在召回侧引入交叉特征的新做法。
炼丹笔记
2023-12-11
1.7K
0
领域大模型落地的一些思考
企业
部署
产品
模型
系统
自训练模型开始，就一直再跟Leader Battle这个问题，领域大模型需不需要有通用化能力。就好比华为盘古大模型“只做事不作诗”的slogan，是不是训练的领域大模型可以解决固定的几个任务就可以了。
炼丹笔记
2023-08-22
378
0
马斯克血洗推特！传机器学习裁员90%，团队直接解散
https
网络安全
据称已经有3700多名员工卷铺盖走人了。按照推特7500人左右的员工数量来看，看起来猜50%的人赌对了。
炼丹笔记
2023-01-30
578
0
Meta暴裁1.1万人：3年烧光2000多亿元，小扎承认犯了错，但仍会继续注资元宇宙
html
https
网络安全
两年前，疫情刚开始之际，包括 Zoom、谷歌、亚马逊、Facebook 在内的科技巨头们乘着疫情这股“东风”，营收达到了两位数增长。他们获得了丰厚的利润，于是开始招兵买马，迅速扩张。
炼丹笔记
2023-01-30
357
0
端上重排系统：提升推荐系统的实时性
短视频
特征工程
apache
推荐系统
获奖论文《Real-time Short Video Recommendation on Mobile Devices》针对短视频推荐场景，传统服务端部署的推荐系统在决策时机和实时特征利用方面的不足问题，通过在移动客户端部署推荐系统来实时响应用户反馈，提高推荐结果的精准度，从而提升用户体验。论文提出的方案 100% 流量部署到了快手短视频推荐生产环境，影响了日均超过 3.4 亿用户的体验，是端上智能在大规模推荐场景落地的创新实践。
炼丹笔记
2023-01-03
2K
0
冠军方案 | 天池心电异常事件预测
数据分析
https
神经网络
网络安全
心电图是医院心脏疾病常用辅助诊断指标。心电图由于其价格低、无创的特性被广泛用于心脏疾病的预筛查以及体检中，每天的检测量巨大。目前，多导联的心电图设备已经广泛用于临床当中，部分设备已经具有自动分析诊断功能，但自动分析对于多心电异常事件的判别还不够精确，需要医生做进一步修改。
炼丹笔记
2023-01-03
549
0
推荐系统多任务学习上分技巧
推荐系统
本文是一篇多任务学习的文章, 里面的设计思路非常值得借鉴，也较为符合我们的直观理解,实践中也确实带来了不错的效果。
炼丹笔记
2023-01-03
583
0
开箱即用实现多GPU推理：基于Tensorflow、Keras实现Stable Diffusion
https
网络安全
keras
最近一段时间，文本转图像模型 Stable Diffusion 可谓是爆红 AI 圈，其是由慕尼黑大学和 Runway 的研究者基于 CVPR 2022 的论文《High-Resolution Image Synthesis with Latent Diffusion Models》实现的，它可以在消费级 GPU 上运行。
炼丹笔记
2023-01-03
1.6K
0
微信大数据挑战赛：第1周周星星方案汇总
csv
embedding
ocr
string
title
多模态短视频分类是视频理解领域的基础技术之一，在安全审核、推荐运营、内容搜索等领域有着十分非常广泛的应用。一条短视频中通常包含有三种模态信息，即文本、音频、视频， 它们在不同语义层面的分类体系中发挥着相互促进和补充的重要作用。
炼丹笔记
2022-10-27
668
0
Prompt：Fine-tune之后的新范式
fixed
lm
nlp
prompt
token
全监督学习，即仅在目标任务的输入输出样本数据集上训练特定任务模型，长期以来在许多机器学习任务中发挥着核心作用，同样的，全监督学习在 NLP 领域也非常重要。但是全监督的数据集对于学习高质量的模型来说是不充足的，早期的 NLP 模型严重依赖特征工程。随着用于 NLP 任务的神经网络出现，使得特征学习与模型训练相结合，研究者将研究重点转向了架构工程，即通过设计一个网络架构能够学习数据特征。
炼丹笔记
2022-10-27
794
0
有趣的知识点：深度学习和互联网行业「黑话」指南
connection
field
image
map
state
↑↑↑关注后"星标"炼丹笔记 炼丹笔记 知识点 来源：Coggle数据科学 技术 黑话 hypothesis：我猜的，先做一个假设 intuition：我猜的，而且别人也认同 rebuttal：撕逼 Ablation study：控制变量法 baseline：(故意)选的方法，比我的差 benchmark：我会的数据集 End-to-end：拉通对齐，组合拳 interpretability：稍微画一下图 fine tune：再训练一下 feature map：中间计算结果 Ground t
炼丹笔记
2022-10-27
426
0
阿里天池算法大赛：中医药领域的问题生成冠军方案
ls
mask
sequence
size
target
UniLM也是一个多层Transformer网络，跟bert类似，但是UniLM能够同时完成三种预训练目标，如上述表格所示，几乎囊括了上述模型的几种预训练方式，而且新增了sequence-to-sequence训练方式，所以其在NLU和NLG任务上都有很好的表现。UniLM模型基于mask词的语境来完成对mask词的预测，也是完形填空任务。对于不同的训练目标，其语境是不同的。
炼丹笔记
2022-10-27
425
0
降低数据大小的四大绝招。
express
numpy
byte
kaggle
parquet
在非常多的问题中，例如商品推荐数据存储（大量的用户和商品，还有购买金额等信息），金融数据存储（大量的标的，价格等），我们不可避免的都会碰到数据过大的问题，如果对这类数据进行处理显得直观重要，本文我们介绍碰到大数据时，我们采用的四种策略。
炼丹笔记
2022-10-27
1.3K
0
优化PyTorch速度和内存效率的技巧汇总
pytorch
gpu
size
tensor
torch
深度学习模型的训练/推理过程涉及很多步骤。在有限的时间和资源条件下，每个迭代的速度越快，整个模型的预测性能就越快。我收集了几个PyTorch技巧，以最大化内存使用效率和最小化运行时间。为了更好地利用这些技巧，我们还需要理解它们如何以及为什么有效。
炼丹笔记
2022-10-27
2.5K
0
年龄不是上限！我只是按照自己的兴趣专注于机器学习
机器学习
kaggle
publishing
我只是按照自己的兴趣，尽可能多地专注于学习机器学习。年龄只是一个数字，何时开始以及可以实现多少没有上限。 Philip是Kaggle Competitions Grandmaster，他以17枚金牌名列第 47 位。
炼丹笔记
2022-10-27
313
0
ICLR 2022：软标签情况下如何设计主动学习策略？
oracle
神经网络
graph
ICLR (International Conference on Learning Representation) 国际表征学习大会是公认的深度学习领域国际顶级会议之一，关注有关深度学习各个方面的前沿研究，在人工智能、统计和数据科学领域以及机器视觉、语音识别、文本理解等重要应用领域中发布了众多极其有影响力的论文。
炼丹笔记
2022-10-27
598
0
重新审视半监督学习的伪标签
ssl
Curriculum Labeling (CL)，在每个自训练周期之前重新启动模型参数，优于伪标签 (PL)。
炼丹笔记
2022-10-27
401
0
暴力特征工程汇总
count
max
mean
min
sum
特征工程的问题往往需要具体问题具体分析，当然也有一些暴力的策略，可以在竞赛初赛前期可以带来较大提升，而很多竞赛往往依赖这些信息就可以拿到非常好的效果，剩余的则需要结合业务逻辑以及很多其他的技巧，此处我们将平时用得最多的聚合操作罗列在下方。
炼丹笔记
2022-10-27
950
0
XGBoost如何用2GB内存训练100GB的数据！
pytorch
gpu
xgboost
笔记
内存
在大规模数据集进行读取进行训练的过程中，迭代读取数据集是一个非常合适的选择，在Pytorch中支持迭代读取的方式。接下来我们将介绍XGBoost的迭代读取的方式。
炼丹笔记
2022-10-27
1.3K
0
ACL 2022：融合标签语义的双塔BERT模型
dot
label
product
token
transfer
这是一篇来自于 ACL 2022 的文章，总体思想就是在 meta-learning 的基础上，采用双塔 BERT 模型分别来对文本字符和对应的label进行编码，并且将二者进行 Dot Product（点乘）得到的输出做一个分类的事情。文章总体也不复杂，涉及到的公式也很少，比较容易理解作者的思路。对于采用序列标注的方式做 NER 是个不错的思路。
炼丹笔记
2022-10-27
873
0
点击加载更多
社区活动
Python精品学习库
代码在线跑，知识轻松学
立即查看
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客，速成社区影响力并领取好礼
立即体验
技术创作特训营·精选知识专栏
往期视频·干货材料·成员作品 最新动态
立即查看
领券
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档
