硕士研究生

算法码上来

代码在线跑，知识轻松学

Python精品学习库

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

博客搬家 | 分享价值百万资源包

往期视频·干货材料·成员作品 最新动态

技术创作特训营·精选知识专栏

新邀入驻腾讯云开发者社区，福利多多！

如何运用「云、端融合的数智化安全体系」高效护航数据安全

左手AI，右手安全 —— 一汽丰田数字化转型之路

上周突然发现公众号后台很多人私信我，我感到很奇怪。打开一看，把我震惊到了，一篇3年前写的文章，当时才200多阅读量吧，现在竟然6.8万了。。。而我的粉丝也才一万啊。

三年前写的文章，阅读量暴涨了6.8万。。。

之前写过一个教程，教大家如何自己训练出一个文本生成的模型，然后用LightSeq来加速推理：
用了这个技术，我让模型训练和推理快了好几倍

只需三分钟，让大家都能体验到AI写文章的乐趣！

Transformer系列模型都在用吧？
Hugging Face都在用吧？
Fairseq都在用吧？

用了这个技术，我让模型训练和推理快了好几倍

就在昨天，超算领域的国际顶会SC22放榜了，我们组的论文也被接收了，得分44332（4分制）：

历时一年，论文终于被国际顶会接收了

昨天推导了一下交叉熵的反向传播梯度，今天再来推导一下层归一化（LayerNorm），这是一种常见的归一化方法。

手推公式之“层归一化”梯度

这两天将我所有微信好友的头像弄出来了，一共5000多张。然后想着可以用它们来做些啥，最后用它们拼图玩。

拼图还能这么玩？

封城第13天了，小区终于发放了第3次物资。这次的物资是三次以来最丰富的一次，还算不错。但是由于天降暴雨，大米都进水了，蔬菜也都泡水了。再加上昨天刚团购到货，所以我基本不怎么需要这些物资。所以最后我只拿了三根火腿肠、土豆、抽纸，其他都分给了比较缺货的室友。

封城第13日，大数据分析团购群的各种行为

之前经常在网上看到那种由一个个字符构成的视频，非常炫酷。一直不懂是怎么做的，这两天研究了一下，发现并不难。

我用字符画出了一个谷爱凌！

但开心的同时也别忘了把模型训起来哦，通常一训就要好几天，不如花个几分钟先运行起来，周末结束不就能直接收菜了嘛！

如何优雅的抢占别人的显卡？

这两天王力宏的瓜可谓是闹的沸沸扬扬，不怎么吃瓜的我也听了不少传闻。网上观点主要分为两派，一种无脑直接喷的，一种是说人品和艺术无关的。而我也想看看大家对他都什么看法，因此写了个爬虫爬了一下b站视频的弹幕。

写了个爬虫，收集了b站所有的弹幕

我下意识就想到了微积分，这不就建立坐标系，求出交点，计算积分就行了嘛。转念一想，小学生哪里会积分，这道题一定有简单的解法。

这道小学六年级的数学题，恕我直言没几个人会做

模型量化是模型加速方向一个很重要的方法，主要思想就是用int8数据格式来存储和进行计算。这样做有两点好处：

【白话模型量化系列一】矩阵乘法量化

你需要有目标。短的也好，长的也好。认真定下的也好，别人那里捡的也好。就跟随机梯度下降需要有个目标函数一样。

李沐：用随机梯度下降来优化人生

学妹昨晚参加了B站的2022届秋招算法笔试，做完给我发来了一道题，想考考我，说挺难的。

昨晚学妹参加了B站秋招笔试，还想考考我？

矩阵乘法是神经网络中最基础、最重要的一个运算。在用CUDA实现矩阵乘法时，不需要我们手动写，cuBLAS库提供了现成的矩阵乘法算子，例如cublasGemmEx和cublasLtMatmul。其中后者是轻量级版本，API调用更灵活。例如对于整数乘法，cublasLtMatmul支持int8的输入输出，而cublasGemmEx只支持int8输入，int32输出。

cuBLAS矩阵乘法性能分析（附代码示例）

先来看看我的回答：https://www.zhihu.com/question/365763395/answer/2070162652

如何花式计算20的阶乘？

前几个月一直有不少小伙伴问我要「LightSeq的BERT推理加速代码」，当时内部已经使用了，但是一直没空整理开源。

让大家久等了，BERT推理加速终于开源了

我写了一个代码，从QQ音乐上收集了吴亦凡所有的歌词信息，自动汇总整理成一个txt文件，代码在下面：https://github.com/godweiyang/lyric-crawler

分析完吴亦凡的所有歌曲，我震惊了

相信很多人都知道Hugging Face，也都用过它的Transformers预训练语言模型，但你们有没有觉得它训练的有点太慢了呢？

训练BERT，我只花了一半的时间

你是否曾遇到这样的场景：在陌⽣的国家旅游因为听不懂当地⼈说话只能咿咿呀呀、⼿语⽐划、连蒙带猜？

Transformer全靠数据堆？那没有数据怎么办？LUT告诉你「冇问题」｜AAAI 2021

文章

问答

视频

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋 

腾讯云代码助手

CODING DevOps

Cloud Studio

SDK中心

API中心

命令行工具

腾讯云开发者社区推出了算法码上来专栏，为你提供了算法码上来的相关文章，致力于帮助开发者快速成长与发展。

算法码上来

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐