腾讯云
开发者社区
文档
建议反馈
控制台
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
首页
学习
活动
专区
工具
TVP
最新优惠活动
返回腾讯云官网
数据派THU
专栏成员
举报
2149
文章
2149911
阅读量
191
订阅数
订阅专栏
申请加入专栏
全部文章（999+）
神经网络（473）
机器学习（455）
深度学习（452）
人工智能（371）
数据（352）
编程算法（327）
模型（287）
大数据（283）
https（258）
网络安全（249）
python（154）
NLP 服务（126）
数据分析（121）
算法（83）
其他（78）
开源（75）
论文（68）
安全（65）
函数（65）
强化学习（63）
数据库（62）
数据处理（62）
github（61）
工作（58）
系统（58）
图像处理（53）
网络（53）
监督学习（48）
腾讯云测试服务（47）
机器人（46）
企业（45）
设计（44）
优化（42）
sql（41）
git（39）
变量（37）
pytorch（36）
基础（34）
开发（34）
http（33）
框架（33）
统计（31）
数据安全（30）
数据结构（30）
翻译（30）
tensorflow（29）
数据可视化（29）
学习方法（29）
存储（28）
chatgpt（28）
软件（28）
卷积神经网络（27）
工具（27）
数据科学（26）
性能（26）
数据挖掘（24）
线性回归（24）
tcp/ip（24）
测试（24）
网站（23）
自动化（22）
实践（22）
游戏（21）
腾讯云开发者社区（21）
架构（21）
视频（21）
连接（20）
决策树（19）
可视化（19）
知识图谱（18）
图像识别（18）
服务（18）
区块链（17）
html（17）
搜索（17）
api（16）
linux（16）
医疗（16）
推荐系统（16）
物联网（16）
自动驾驶（15）
numpy（15）
特征工程（15）
行业（15）
云计算（14）
对象（14）
管理（14）
无人驾驶（13）
opencv（13）
gpt（13）
计算机（13）
数学（13）
原理（13）
css（12）
分布式（12）
keras（12）
迁移学习（12）
事件（12）
人脸识别（11）
机器翻译（11）
编码（11）
代理（11）
c++（10）
硬件开发（10）
matlab（10）
apache（10）
微信（10）
5g（10）
产品（10）
解决方案（10）
ide（9）
批量计算（9）
编程（9）
程序（9）
集合（9）
教程（9）
科技（9）
量化（9）
java（8）
javascript（8）
go（8）
r 语言（8）
文件存储（8）
缓存（8）
微服务（8）
汽车（8）
内存（8）
渲染（7）
爬虫（7）
scikit-learn（7）
聚类算法（7）
pandas（7）
研发（7）
异常（7）
.net（6）
SSL 证书（6）
容器（6）
无监督学习（6）
data（6）
创业（6）
互联网（6）
技巧（6）
计算机视觉（6）
数据类型（6）
图表（6）
信息安全（6）
LLM（6）
ios（5）
bash（5）
android（5）
金融（5）
工业物联（5）
spark（5）
hadoop（5）
正则表达式（5）
架构设计（5）
教育（5）
计算机科学（5）
脚本（5）
开发者（5）
索引（5）
通信（5）
效率（5）
压缩（5）
语音识别（4）
数字货币（4）
php（4）
nosql（4）
访问管理（4）
运维（4）
黑客（4）
markdown（4）
nat（4）
jupyter notebook（4）
分类算法（4）
迁移（4）
com（4）
model（4）
表格（4）
部署（4）
程序员（4）
工程师（4）
内核（4）
语法（4）
原型（4）
c 语言（3）
node.js（3）
ajax（3）
typescript（3）
搜索引擎（3）
日志服务（3）
erp（3）
单元测试（3）
kernel（3）
模式识别（3）
uml（3）
小程序（3）
windows（3）
系统架构（3）
信息流（3）
安全治理（3）
联邦学习（3）
隐私计算（3）
app（3）
atomic（3）
function（3）
gpu（3）
graph（3）
nlp（3）
patch（3）
png（3）
precision（3）
prompt（3）
token（3）
编程语言（3）
编译（3）
插件（3）
递归（3）
二维码（3）
工作流（3）
监控（3）
排序（3）
配置（3）
日志（3）
硬件（3）
字符串（3）
最佳实践（3）
对象存储（2）
iphone（2）
bootstrap（2）
xml（2）
unix（2）
bash 指令（2）
mapreduce（2）
TDSQL MySQL 版（2）
文字识别（2）
DevOps 解决方案（2）
电商（2）
hive（2）
面向对象编程（2）
unity（2）
asp（2）
自动化测试（2）
anaconda（2）
kafka（2）
虚拟化（2）
性能测试（2）
数据库管理（2）
智能网联（2）
abstract（2）
apply（2）
entity（2）
google（2）
max（2）
point（2）
predict（2）
scale（2）
series（2）
target（2）
time（2）
torch（2）
vi（2）
百度（2）
布局（2）
低代码（2）
地图（2）
动态规划（2）
公众号（2）
规范化（2）
接口（2）
量子计算（2）
入门（2）
手机（2）
数据仓库（2）
数组（2）
芯片（2）
音频（2）
隐私（2）
语音（2）
云平台（2）
数据流（2）
ICP备案（1）
费用中心（1）
云镜（主机安全）（1）
官方文档（1）
比特币（1）
scala（1）
jquery（1）
opengl（1）
qt（1）
单片机（1）
arm（1）
嵌入式（1）
composer（1）
云数据库 SQL Server（1）
oracle（1）
django（1）
打包（1）
全文检索（1）
windows server（1）
容器镜像服务（1）
spring（1）
短视频（1）
消息队列 CMQ 版（1）
检测工具（1）
人脸支付（1）
高性能计算（1）
政务云专区（1）
智能交通（1）
出行（1）
智能硬件（1）
yarn（1）
云联网（1）
serverless（1）
devops（1）
shell（1）
jdbc（1）
二叉树（1）
flash（1）
scrapy（1）
敏捷开发（1）
canvas（1）
processing（1）
云数据库 postgresql（1）
云数据仓库套件 sparkling（1）
flutter（1）
app安全（1）
腾讯会议（1）
sdk（1）
rust（1）
模型测试（1）
验证码（1）
数据集成（1）
图像搜索（1）
图像分析（1）
数据湖（1）
智慧交通（1）
智能制造（1）
小程序·云开发（1）
大模型视频创作引擎（1）
项目管理（1）
腾讯云（1）
acm（1）
add（1）
agent（1）
aigc（1）
alpha（1）
auto（1）
aws（1）
bit（1）
block（1）
byte（1）
chatbot（1）
chrome（1）
convolution（1）
cto（1）
cut（1）
cv2（1）
database（1）
dbpedia（1）
debug（1）
device（1）
dt（1）
epoch（1）
etl（1）
eval（1）
facebook（1）
file（1）
im（1）
image（1）
implicit（1）
jupyter（1）
kaggle（1）
lag（1）
layer（1）
lift（1）
lstm（1）
matplotlib（1）
min（1）
mips（1）
mnist（1）
models（1）
mysql（1）
network（1）
nodes（1）
nvidia（1）
oceanbase（1）
ode（1）
partial（1）
pdf（1）
persistence（1）
pipeline（1）
probability（1）
pycharm（1）
range（1）
report（1）
reset（1）
scaling（1）
seaborn（1）
self（1）
sequence（1）
show（1）
simulation（1）
size（1）
state（1）
statistics（1）
structure（1）
summary（1）
task（1）
text（1）
twitter（1）
wav（1）
word（1）
worker（1）
wsdl（1）
yaml（1）
yolo（1）
youtube（1）
zero（1）
百度地图（1）
版本控制（1）
备份（1）
闭包（1）
笔记（1）
编译器（1）
登录（1）
动画（1）
队列（1）
二进制（1）
反射（1）
服务器（1）
高性能（1）
工程化（1）
后端（1）
后台（1）
集群（1）
计算机图形学（1）
架构师（1）
加密（1）
金融科技（1）
镜像（1）
客户端（1）
跨域（1）
蓝牙（1）
链表（1）
浏览器（1）
流量（1）
漏洞（1）
密码学（1）
敏捷（1）
苹果（1）
前端（1）
全栈（1）
软件工程（1）
设计模式（1）
摄像头（1）
事务（1）
数据管理（1）
数据中心（1）
图数据库（1）
推送（1）
微信公众号（1）
系统设计（1）
线程（1）
小游戏（1）
性能分析（1）
音视频（1）
域名（1）
源码（1）
元宇宙（1）
云原生（1）
指针（1）
重构（1）
装饰器（1）
作用域（1）
城市交通（1）
自然语言处理（1）
数据清洗（1）
搜索文章
搜索
搜索
关闭
超越所有微调方法，参数量大幅减少，康奈尔大学等提出视觉prompt新方法
存储
日志服务
来源：机器之心本文约2000字，建议阅读5分钟一种优化 Transformer 的有效方案，在只添加少量参数的情况下，对下游任务有极大的提升效果。 来自康奈尔大学、Meta AI 和哥本哈根大学的研究者提出一种优化 Transformer 的有效方案，在只添加少量参数的情况下，对下游任务有极大的提升效果。 识别问题往往是通过预训练大型基础模型处理大量精选或原始数据的方式解决的。这似乎是一种可行的模式：只需利用最新最好的基础模型，就可以在多个识别问题上取得极大的进展。 然而，在实践中，将这些大型模型用于下游任
数据派THU
2022-05-19
271
0
PyTorch Lightning 全攻略！
批量计算
https
网络安全
日志服务
编程算法
来源：极市平台本文约9600字，建议阅读10+分钟本文作者与你分享使用Pytorch-Lightning心得。 写在前面 Pytorch-Lightning这个库我“发现”过两次。第一次发现时，感觉它很重很难学，而且似乎自己也用不上。但是后面随着做的项目开始出现了一些稍微高阶的要求，我发现我总是不断地在相似工程代码上花费大量时间，Debug也是这些代码花的时间最多，而且渐渐产生了一个矛盾之处：如果想要更多更好的功能，如TensorBoard支持，Early Stop，LR Scheduler，分布式训练，
数据派THU
2022-03-24
2.2K
0
独家 | 基于知识蒸馏的BERT模型压缩
NLP 服务
日志服务
在过去一年里，语言模型的研究有了许多突破性的进展， 比如GPT用来生成的句子足够以假乱真[1]；BERT, XLNet, RoBERTa [2,3,4]等等作为特征提取器更是横扫各大NLP榜单。但是，这些模型的参数量也相当惊人，比如BERT-base有一亿零九百万参数，BERT-large的参数量则高达三亿三千万，从而导致模型的运行速度过慢。为了提高模型的运行时间，本文率先提出了一种新的知识蒸馏 (Knowledge Distillation) [5] 方法来对模型进行压缩，从而在不损失太多精度的情况下，节省运行时间和内存。文章发表在EMNLP 2019。
数据派THU
2019-10-14
965
0
没有更多了
社区活动
【纪录片】中国数据库前世今生
穿越半个世纪，探寻中国数据库50年的发展历程
立即查看
Python精品学习库
代码在线跑，知识轻松学
立即查看
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客，速成社区影响力并领取好礼
立即体验
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
立即查看
领券
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档
