腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
返回腾讯云官网
机器之心
专栏作者
举报
8963
文章
6318826
阅读量
278
订阅数
订阅专栏
申请加入专栏
全部文章（999+）
人工智能（999+）
深度学习（999+）
模型（999+）
神经网络（999+）
机器学习（999+）
https（999+）
数据（999+）
其他（999+）
网络安全（999+）
编程算法（963）
论文（669）
开源（602）
NLP 服务（538）
机器人（405）
性能（379）
系统（334）
强化学习（320）
图像处理（306）
视频（296）
工作（283）
python（279）
算法（278）
github（258）
自动驾驶（225）
游戏（219）
测试（215）
设计（214）
网络（206）
安全（197）
gpt（197）
框架（195）
科技（189）
硬件开发（187）
优化（185）
chatgpt（179）
pytorch（176）
tensorflow（174）
架构（173）
监督学习（149）
产品（143）
git（140）
工具（137）
图像识别（133）
函数（130）
卷积神经网络（128）
基础（128）
开发（125）
开发者（121）
腾讯云测试服务（120）
芯片（117）
企业（116）
无人驾驶（116）
行业（116）
语音识别（110）
api（110）
openai（109）
数学（109）
汽车（106）
搜索（101）
分布式（95）
数据库（92）
数据分析（87）
服务（86）
linux（84）
http（84）
大数据（82）
内存（81）
渲染（79）
ide（78）
tcp/ip（78）
声纹识别（76）
网站（75）
存储（71）
云计算（70）
自动化（68）
学习方法（68）
效率（68）
html（66）
sql（64）
keras（64）
编码（64）
研发（64）
人脸识别（63）
数据结构（63）
迁移学习（60）
计算机（58）
隐私计算（56）
语音（55）
苹果（54）
腾讯（53）
机器翻译（52）
缓存（51）
手机（51）
计算机科学（50）
无监督学习（49）
meta（49）
文件存储（48）
nat（47）
gpu（46）
编程（46）
推荐系统（45）
对象（45）
华为（45）
LLM（44）
token（43）
音频（43）
知识图谱（42）
工程师（42）
css（41）
解决方案（41）
搜索引擎（40）
部署（40）
软件（40）
java（37）
连接（37）
打包（36）
windows（36）
百度（36）
javascript（35）
医疗（35）
公众号（35）
数据挖掘（34）
微信（34）
压缩（34）
c++（33）
腾讯云开发者社区（33）
计算机视觉（33）
ios（32）
硬件（32）
黑客（31）
迁移（31）
创业（31）
量化（31）
arm（30）
翻译（30）
批量计算（29）
联邦学习（29）
iphone（28）
numpy（28）
go（27）
云直播（27）
变量（26）
决策树（24）
数据处理（24）
实践（24）
事件（24）
区块链（22）
短视频（22）
教育（22）
nlp（22）
程序（22）
动画（22）
物联网（21）
fpga（21）
com（21）
统计（21）
原理（21）
apache（19）
编程语言（19）
语音合成（18）
kernel（18）
5g（18）
prompt（18）
隐私（18）
aigc（17）
插件（17）
程序员（17）
服务器（17）
互联网（17）
文字识别（16）
markdown（16）
接口（16）
可视化（16）
摄像头（16）
mac os（15）
金融（15）
gan（15）
管理（15）
量子计算（15）
图表（15）
android（14）
嵌入式（14）
opencv（14）
数据可视化（14）
cpu（14）
内核（14）
表格（13）
集合（13）
漏洞（13）
排序（13）
重构（13）
.net（12）
高性能计算（12）
电商（12）
数据安全（12）
爬虫（12）
架构设计（12）
编译（12）
地图（12）
通信（12）
bash（11）
matlab（11）
访问管理（11）
gui（11）
acl（11）
app（11）
facebook（11）
博客（11）
原型（11）
r 语言（10）
node.js（10）
ajax（10）
容器（10）
运维（10）
面向对象编程（10）
线性回归（10）
code（10）
脚本（10）
教程（10）
面试（10）
数据科学（10）
数据中心（10）
单片机（9）
容器镜像服务（9）
模式识别（9）
系统架构（9）
agent（9）
video（9）
操作系统（9）
阿里巴巴（9）
高性能（9）
技巧（9）
配置（9）
索引（9）
协议（9）
异常（9）
元宇宙（9）
php（8）
spring（8）
正则表达式（8）
flash（8）
小程序（8）
acm（8）
bug（8）
代理（8）
反射（8）
工作流（8）
浏览器（8）
模块化（8）
入门（8）
软件工程（8）
树莓派（8）
特效（8）
erp（7）
scikit-learn（7）
processing（7）
虚拟化（7）
jupyter notebook（7）
智能创作（7）
腾讯云（7）
adobe（7）
image（7）
lstm（7）
ocr（7）
vr（7）
编译器（7）
布局（7）
供应链（7）
开源框架（7）
同步（7）
Midjourney（7）
swift（6）
c 语言（6）
json（6）
bash 指令（6）
单元测试（6）
智能客服机器人（6）
bit（6）
graph（6）
patch（6）
pdf（6）
scaling（6）
集群（6）
客户端（6）
密码学（6）
终端（6）
LoRa（6）
oracle（5）
中文分词（5）
SSL 证书（5）
人脸核身（5）
内容理解（5）
视频处理（5）
express（5）
serverless（5）
devops（5）
spark（5）
ssh（5）
unity（5）
安全漏洞（5）
视频分析（5）
智能制造（5）
google（5）
max（5）
models（5）
office（5）
ps（5）
text（5）
递归（5）
后端（5）
计算机图形学（5）
进程（5）
路由（5）
逆向工程（5）
日志（5）
软件开发（5）
图形学（5）
移动端（5）
语法（5）
字符串（5）
脑机接口（5）
比特币（4）
xcode（4）
scala（4）
ubuntu（4）
全站加速网络（4）
DevOps 解决方案（4）
智慧物流（4）
二叉树（4）
rpc（4）
特征工程（4）
sdk（4）
rust（4）
模型测试（4）
智慧交通（4）
cto（4）
cuda（4）
debug（4）
macbook（4）
self（4）
youtube（4）
笔记（4）
二维码（4）
加密（4）
兼容性（4）
拖拽（4）
音视频（4）
解释器（4）
费用中心（3）
数据万象（3）
数字货币（3）
ruby（3）
access（3）
unix（3）
nginx（3）
apt-get（3）
mapreduce（3）
日志服务（3）
TDSQL MySQL 版（3）
NAT 网关（3）
腾讯云小微（3）
kubernetes（3）
shell（3）
dns（3）
asp（3）
cdn（3）
微服务（3）
canvas（3）
机器学习平台（3）
性能测试（3）
腾讯广告算法大赛（3）
云游戏（3）
流计算 Oceanus（3）
视频理解（3）
alpha（3）
amd（3）
cs（3）
detection（3）
epoch（3）
instance（3）
intel（3）
interpreter（3）
jupyter（3）
keynote（3）
map（3）
mask（3）
nvidia（3）
object（3）
overflow（3）
pipeline（3）
reddit（3）
robotics（3）
uber（3）
登录（3）
二进制（3）
跨域（3）
流量（3）
敏捷（3）
排序算法（3）
前端（3）
全栈（3）
调试（3）
异步（3）
云服务（3）
智慧城市（3）
云服务器（2）
对象存储（2）
perl（2）
c#（2）
lua（2）
react（2）
jquery ui（2）
xml（2）
jquery（2）
qt（2）
云数据库 Redis（2）
django（2）
windows server（2）
黑石物理服务器（2）
命令行工具（2）
检测工具（2）
短信（2）
双螺旋（2）
生物基因（2）
智能交通（2）
出行（2）
智能硬件（2）
工业物联（2）
svg（2）
互联网金融（2）
html5（2）
hadoop（2）
jvm（2）
yum（2）
selenium（2）
聚类算法（2）
angel（2）
腾讯会议（2）
dart（2）
raft（2）
内容识别（2）
智能推荐平台（2）
手势识别（2）
智能音乐（2）
adapter（2）
bi（2）
block（2）
class（2）
dataset（2）
dsl（2）
e2e（2）
el（2）
embedding（2）
excel（2）
gaussian（2）
gif（2）
ipa（2）
it（2）
kaggle（2）
key（2）
knn（2）
latex（2）
layer（2）
local（2）
mesh（2）
midi（2）
min（2）
mobile（2）
module（2）
na（2）
nas（2）
network（2）
next（2）
null（2）
pascal（2）
point（2）
powerpoint（2）
ram（2）
rpa（2）
salesforce（2）
set（2）
similarity（2）
size（2）
ssm（2）
stack（2）
state（2）
system（2）
vi（2）
wifi（2）
word2vec（2）
yolo（2）
zero（2）
百度飞桨（2）
编辑器（2）
边缘计算（2）
并发（2）
产品经理（2）
动态规划（2）
公有云（2）
黑客马拉松（2）
后台（2）
继承（2）
开源软件（2）
命令行（2）
设计模式（2）
视频编码（2）
数组（2）
图数据库（2）
推荐算法（2）
虚拟机（2）
虚拟现实（2）
用户体验（2）
游戏开发（2）
游戏引擎（2）
远程办公（2）
增强现实（2）
最佳实践（2）
自然语言处理（2）
深度学习框架（2）
向量数据库（2）
云+校园（1）
云点播（1）
云镜（主机安全）（1）
官方文档（1）
认证考试（1）
objective-c（1）
cocoa（1）
actionscript（1）
bootstrap（1）
regex（1）
vue.js（1）
typescript（1）
ecmascript（1）
opengl（1）
汇编语言（1）
composer（1）
云数据库 SQL Server（1）
postgresql（1）
flask（1）
vba（1）
jar（1）
maven（1）
全文检索（1）
云数据迁移（1）
实时音视频（1）
音视频点播加速（1）
智能鉴黄（1）
es 2（1）
专有云（1）
金融风控（1）
智慧零售（1）
electron（1）
云联网（1）
babel.js（1）
压力测试（1）
wordpress（1）
hive（1）
sql server（1）
spring boot（1）
npm（1）
seo（1）
kotlin（1）
敏捷开发（1）
socket编程（1）
uml（1）
lamp（1）
ntp（1）
anaconda（1）
sas（1）
haskell（1）
nest（1）
智能外呼机器人（1）
信息流（1）
mqtt（1）
flutter（1）
对话机器人（1）
ddos 攻击（1）
内容安全（1）
云开发（1）
分类算法（1）
接口测试（1）
测试策略（1）
etcd（1）
flink（1）
ghost（1）
媒体处理（1）
智能编辑（1）
数据脱敏（1）
验证码（1）
视频内容安全（1）
应用安全开发（1）
Elasticsearch Service（1）
数据集成（1）
图像标签（1）
图像分析（1）
测试服务（1）
数据湖（1）
自由视角（1）
设计云（1）
腾讯天籁 inside（1）
智慧停车（1）
基础教育（1）
智能家居（1）
小程序·云开发（1）
代码托管（1）
action（1）
ada（1）
alexa（1）
amp（1）
animation（1）
apollo（1）
apple（1）
assertion（1）
atomic（1）
automation（1）
aws（1）
backbone（1）
background（1）
bat（1）
cad（1）
cell（1）
chat（1）
classification（1）
composition（1）
config（1）
connect（1）
container（1）
controller（1）
cookies（1）
copy（1）
cut（1）
data（1）
database（1）
db（1）
diff（1）
difference（1）
distance（1）
distribution（1）
drawing（1）
element（1）
email（1）
embed（1）
encoding（1）
entity（1）
equation（1）
error（1）
eval（1）
extract（1）
feed（1）
figure（1）
final（1）
focus（1）
formula（1）
frame（1）
free（1）
fs（1）
gin（1）
glm（1）
global（1）
gps（1）
gradient（1）
gzip（1）
hierarchy（1）
history（1）
hugo（1）
identifier（1）
ipad（1）
jpeg（1）
julia（1）
label（1）
lambda（1）
list（1）
lm（1）
logic（1）
ls（1）
mac（1）
match（1）
matching（1）
math（1）
matplotlib（1）
matrix（1）
mean（1）
media（1）
medium（1）
memory（1）
microsoft（1）
mips（1）
mnist（1）
modeling（1）
mvp（1）
nft（1）
nio（1）
oceanbase（1）
ode（1）
offline（1）
offset（1）
optimization（1）
output（1）
owl（1）
photo（1）
photoshop（1）
physics（1）
pixel（1）
position（1）
prediction（1）
presto（1）
publish（1）
pyramid（1）
random（1）
reduce（1）
reference（1）
relation（1）
rest（1）
rgb（1）
rss（1）
scale（1）
sensors（1）
sh（1）
shift（1）
signature（1）
sketch（1）
slice（1）
slide（1）
smoothing（1）
space（1）
src（1）
ssl（1）
store（1）
sum（1）
summary（1）
svm（1）
t4（1）
target（1）
time（1）
tm（1）
tree（1）
twitter（1）
ui（1）
var（1）
verification（1）
vim（1）
web（1）
web3（1）
webp（1）
wix（1）
word（1）
worker（1）
workspace（1）
z3（1）
zip（1）
备份（1）
遍历（1）
表单（1）
播客（1）
产品设计（1）
队列（1）
多线程（1）
工具类（1）
规范化（1）
混合云（1）
架构师（1）
监控（1）
交换机（1）
局域网（1）
开发工具（1）
开发环境（1）
快捷键（1）
路由器（1）
乱码（1）
求职（1）
权限（1）
上传图片（1）
生命周期（1）
数据采集（1）
数据存储（1）
数据管理（1）
系统设计（1）
线程（1）
小游戏（1）
性能优化（1）
远程工作（1）
云平台（1）
指针（1）
主机（1）
城市交通（1）
时序预测（1）
梯度下降算法（1）
量子算法（1）
混合现实（1）
深度强化学习（1）
图像分割（1）
3D建模（1）
腾讯混元大模型（1）
幻兽帕鲁（1）
搜索文章
搜索
搜索
关闭
首个在ImageNet上精度超过80%的二值神经网络BNext问世，-1与+1的五年辛路历程
深度学习
神经网络
批量计算
两年前，当 MeliusNet 问世时，机器之心曾发表过一篇技术文章《第一次胜过 MobileNet 的二值神经网络，-1 与 + 1 的三年艰苦跋涉》，回顾了 BNN 的发展历程。彼时，依靠早期 BNN 工作 XNOR-Net 起家的 XNOR.AI 被苹果公司收购，大家曾畅想过这种低功耗、高效能的二值神经网络技术会不会即将开启广阔的应用前景。
机器之心
2022-12-16
530
0
仅需1% Embedding参数，硬件成本降低十倍，开源方案单GPU训练超大推荐模型
批量计算
深度学习
pytorch
缓存
深度推荐模型（DLRMs）已经成为深度学习在互联网公司应用的最重要技术场景，如视频推荐、购物搜索、广告推送等流量变现业务，极大改善了用户体验和业务商业价值。但海量的用户和业务数据，频繁地迭代更新需求，以及高昂的训练成本，都对 DLRM 训练提出了严峻挑战。
机器之心
2022-12-15
572
0
一番实验后，有关Batch Size的玄学被打破了
腾讯云测试服务
批量计算
神经网络
作者：Sebastian Raschka 机器之心编译 编辑：泽南 有关 batch size 的设置范围，其实不必那么拘谨。 我们知道，batch size 决定了深度学习训练过程中，完成每个 epoch 所需的时间和每次迭代（iteration）之间梯度的平滑程度。batch size 越大，训练速度则越快，内存占用更大，但收敛变慢。 又有一些理论说，GPU 对 2 的幂次的 batch 可以发挥更好性能，因此设置成 16、32、64、128 … 时，往往要比设置为其他倍数时表现更优。 后者是否是一种玄
机器之心
2022-07-12
355
0
大模型训练之难，难于上青天？预训练易用、效率超群的「李白」模型库来了！
分布式
https
网络安全
批量计算
机器之心发布 机器之心编辑部 LiBai（李白）模型库覆盖了 Hugging Face、Megatron-LM、DeepSpeed、FairSeq 这些所有主流 Transformer 库的优点，让大模型训练飞入寻常百姓家。 大模型多了去了，告诉我怎么加速？自 2018 年 BERT 诞生，到 GPT-3、ViT 等拥有数以亿计的参数规模的模型不断涌现，AI 模型参数量的爆发式增长已不足为奇，让炼丹师无暇顾及甚至感到麻木。 与此同时，大模型对计算和内存资源提出了巨大的挑战。训练成本急剧上升，比如用一块非
机器之心
2022-07-07
1.1K
0
CVPR 2022 | 这个自蒸馏新框架新SOTA，降低了训练成本，无需修改网络
批量计算
深度学习
机器之心专栏 机器之心编辑部 OPPO 研究院联合上海交通大学提出的新的自蒸馏框架DLB，无需额外的网络架构修改，对标签噪声具有鲁棒性，并可大幅节约训练的空间复杂度，在三个基准数据集的实验中达到了 SOTA 性能。 深度学习促进人工智能（AI）领域不断发展，实现了许多技术突破。与此同时，如何在有限硬件资源下挖掘模型潜能、提升部署模型的准确率成为了学界和业界的研究热点。其中，知识蒸馏作为一种模型压缩和增强的方法， 将泛化能力更强的「大网络模型」蕴含的知识「蒸馏」到「小网络模型」上，来提高小模型精度，广泛地应
机器之心
2022-04-08
952
0
用图像混合学习更细粒度的特征表示，CMU邢波团队新论文入选AAAI 2022
https
监督学习
网络安全
批量计算
腾讯云测试服务
文章核心思想非常直观易懂：希望去探究在自监督学习常用的双子结构网络中，通过在输入空间做图像融合来学习更加细粒度的特征表示。核心内容讨论了如何来设计数据采样和构建对应的损失函数，从而去匹配图像融合之后新的输入空间。
机器之心
2022-02-18
407
0
新入坑的SageMaker Studio Lab和Colab、Kaggle相比，性能如何？
批量计算
开源
https
网络安全
一周前，亚马逊启动了 SageMaker Studio 的免费简化版 SageMaker Studio Lab，提供了一个时限为12小时的 CPU 实例和一个时限为 4 小时的 GPU 实例。SageMaker Studio Lab 成为继 Google Colab、Kaggle 和 Paperspace 之后的又一个免费深度学习计算空间。
机器之心
2021-12-16
2.3K
0
NeurIPS2021 | 华南理工提出SS-Conv：兼顾加速与SE(3)等变性，3D空间姿态估计突出
图像处理
卷积神经网络
批量计算
数据库
sql
近年来，SE(3) 等变网络在 3D 语义分析任务中发挥着重要的作用，尤以 3D 姿态可控卷积神经网络为代表。3D 姿态可控卷积神经网络利用姿态可控卷积（ST-Conv）逐层学习姿态等变的特征，从而保留 3D 输入的姿态信息。直观地说，对于一个 ST-Conv，关于 3D 输入的任意 SE(3) 变换(r,t)，都将诱导输出特征的同步姿态变换，其中r ∈SO(3)表示旋转，
机器之心
2021-12-08
312
0
速度高达百万帧/秒，颜水成团队开源RL环境并行模拟器，大幅节省CPU资源
c++
api
批量计算
python
在强化学习（RL）智能体模拟训练中，环境高速并行执行引擎至关重要。最近，新加坡 Sea AI Lab 颜水成团队提出一个全新的环境模拟并行部件 EnvPool，该部件在不同的硬件评测上都达到了优异的性能。
机器之心
2021-11-18
637
0
如何让Transformer在GPU上跑得更快？快手：需要GPU底层优化
NLP 服务
批量计算
apache
深度学习
从 Google 在 2017 年发表著名的「Attention is all you need」文章开始，Transformer 架构就开始攻占 AI 的多个领域：不仅成为自然语言处理（NLP）和语音等很多 AI 应用的默认核心架构，同时也成功跨界到计算机视觉方向，在超分辨率、图像识别和物体检测中取得 state-of-the-art 的性能。
机器之心
2021-02-23
1.4K
0
让PyTorch训练速度更快，你需要掌握这17种方法
pytorch
https
网络安全
深度学习
批量计算
近日，Reddit 上一个帖子热度爆表。主题内容是关于怎样加速 PyTorch 训练。原文作者是来自苏黎世联邦理工学院的计算机科学硕士生 LORENZ KUHN，文章向我们介绍了在使用 PyTorch 训练深度模型时最省力、最有效的 17 种方法。
机器之心
2021-01-20
513
0
三辩三驳：这篇论文告诉你传统优化分析与现代DL有哪些不匹配
深度学习
批量计算
从事机器学习方面相关研究的人都了解，网络模型的最终性能少不了优化。其中损失函数扮演了非常重要的角色，而随机梯度下降算法（SGD）由于其良好的收敛性，常常被用来进行梯度更新。为了加快收敛速度，缩短训练时间，同时为了提高求解精度，采用随机梯度下降算法应该注意学习率（Learning Rate, LR）等参数的调整。那么 LR 的大小对现代深度学习与传统优化分析的是怎样的呢？下面通过一篇论文进行解答。
机器之心
2020-11-13
684
0
CPU推理性能提高数十倍，旷视天元计算图、MatMul优化深度解读
缓存
kernel
深度学习
批量计算
在深度学习大规模落地边缘端场景的今天，如何最大程度降本增效，是企业与开发者共同关注的话题。其中，模型的训练与推理是两个关键环节。
机器之心
2020-08-10
426
0
工程之道：旷视天元框架亚线性显存优化技术解析
批量计算
深度学习
机器学习
人工智能
神经网络
深度神经网络训练是一件复杂的事情，它体现为模型的时间复杂度和空间复杂度，分别对应着计算和内存；而训练时内存占用问题是漂浮在深度学习社区上空的一块乌云，如何拨云见日，最大降低神经网络训练的内存占用，是一个绕不开的课题。
机器之心
2020-05-19
599
0
Kaggle竞赛硬件如何选择？不差钱、追求速度，那就上TPU吧
机器学习
神经网络
人工智能
批量计算
图 1：在 Kaggle Notebook 中可以免费使用 CPU、GPU 和 TPU。
机器之心
2020-03-11
1.7K
0
应聘机器学习工程师？这是你需要知道的12个基础面试问题
神经网络
机器学习
人工智能
深度学习
批量计算
这些问题是我在面试 AI 工程师岗位时常问到的问题。事实上，并非所有面试都需要用到所有这些问题，因为这取决于面试者的经验以及之前做过的项目。经过很多面试（尤其是与学生的面试）之后，我收集了 12 个深度学习领域的面试问题。我将在本文中将其分享给你。
机器之心
2020-02-12
368
0
哈希革新Transformer：这篇ICLR高分论文让一块GPU处理64K长度序列
编程算法
批量计算
大型的 Transformer 往往可以在许多任务上实现 sota，但训练这些模型的成本很高，尤其是在序列较长的时候。在 ICLR 的入选论文中，我们发现了一篇由谷歌和伯克利研究者发表的优质论文。文章介绍了两种提高 Transformer 效率的技术，最终的 Reformer 模型和 Transformer 模型在性能上表现相似，并且在长序列中拥有更高的存储效率和更快的速度。论文最终获得了「8，8，6」的高分。
机器之心
2019-12-30
519
0
何恺明一作，刷新7项检测分割任务，无监督预训练完胜有监督
批量计算
监督学习
无监督学习
论文链接：https://arxiv.org/pdf/1911.05722.pdf
机器之心
2019-11-15
653
0
OpenAI智能体上演捉迷藏攻防大战，自创套路与反套路
游戏
批量计算
https
网络安全
为了进行这个捉迷藏游戏，OpenAI 首先构建了一个包含墙、盒子和斜坡的 3D 环境。在这个环境中，智能体以团队为单位进行捉迷藏游戏。
机器之心
2019-09-24
734
0
有钱任性：英伟达训练80亿参数量GPT-2，1475块V100 53分钟训练BERT
NLP 服务
tensorflow
kernel
批量计算
2）将 BERT 的推理时间缩短到了 2.2 毫秒（10 毫秒已经是业界公认的高水平）；
机器之心
2019-08-20
1.6K
0
点击加载更多
社区活动
腾讯技术创作狂欢月
“码”上创作 21 天，分 10000 元奖品池！
立即发文
Python精品学习库
代码在线跑，知识轻松学
立即查看
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客，速成社区影响力并领取好礼
立即体验
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
立即查看
领券
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档