学习
实践
活动
工具
TVP
写文章

felixzhao

LV1
举报
发表了文章

空间金字塔池化Spatial Pyramid Pooling

通常在卷积神经网络CNN中主要是由卷积层(包括Convolution和Pooling两部分组成)和全连接层组成,对于任意一张大小的图片,通常需要通过裁剪或者拉伸...

felixzhao
机器学习神经网络深度学习AI 人工智能
发表了文章

卷积神经网络NIN

在传统的CNN网络中,使用卷积(Convolution)操作来提取感受野中的特征,卷积操作是由一个线性变换与非线性激活函数组成,为了能增强CNN网络的局部辨识能...

felixzhao
机器学习神经网络深度学习AI 人工智能
发表了文章

卷积神经网络Inception Net

2014年,Google提出了包含Inception模块的网络结构,并命名为GoogLeNet[1],其中LeNet为致敬LeNet网络,GoogLeNet在当...

felixzhao
批量计算卷积神经网络神经网络
发表了文章

BERT知识蒸馏TinyBERT

诸如BERT等预训练模型的提出显著的提升了自然语言处理任务的效果,但是随着模型的越来越复杂,同样带来了很多的问题,如参数过多,模型过大,推理事件过长,计算资源需...

felixzhao
深度学习
发表了文章

BERT知识蒸馏Distilled BiLSTM

随着BERT模型的提出,在NLP上的效果在不断被刷新,伴随着计算能力的不断提高,模型的深度和复杂度也在不断上升,BERT模型在经过下游任务Fine-tuning...

felixzhao
机器学习神经网络深度学习AI 人工智能
发表了文章

知识蒸馏基本原理

蒸馏是一个化学上的词汇,百科上对于蒸馏的解释为:“蒸馏是一种热力学的分离工艺,它利用混合液体或液-固体系中各组分沸点不同,使低沸点组分蒸发,再冷凝以分离整个组分...

felixzhao
文件存储
发表了文章

BERT模型解析

Bidirectional Encoder Representation from Transformers(BERT)[1],即双向Transformer的E...

felixzhao
自然语言处理
发表了文章

Transformer的基本原理

Seq2Seq[1]框架最初是在神经机器翻译(Neural Machine Translation,NMT)领域中提出,用于将一种语言(sequence)翻译成...

felixzhao
机器学习神经网络深度学习AI 人工智能
发表了文章

Pix2Pix

很多的图像处理问题可以转换成图像到图像(Image-to-Image)的转换,即将一个输入图像翻译成另外一个对应的图像。通常直接学习这种转换,需要事先定义好损失...

felixzhao
机器学习神经网络深度学习AI 人工智能编程算法
发表了文章

Facebook搜索的向量搜索

不管是搜索系统还是推荐系统中,向量召回都是一个不可或缺的一个部分,担负着重要的作用。为应对大规模数据问题,通常采用多阶段的架构,分为召回,粗排,精排,重排等多个...

felixzhao
特征工程
发表了文章

GPT:Generative Pre-Training

随着深度学习在NLP领域的发展,产生很多深度网络模型用于求解各类的NLP问题,从word2vec词向量工具的提出后,预训练的词向量成了众多NLP深度模型中的重要...

felixzhao
自然语言处理CSS
发表了文章

深度兴趣网络DIN

用户兴趣是推荐系统中非常重要的trigger,在召回阶段,通过召回与用户兴趣相匹配的item,在排序阶段,用户兴趣作为很重要的一个特征维度,与用户兴趣越相似的i...

felixzhao
推荐系统
发表了文章

文本生成seq2seq框架

Seq2Seq是Sequence to Sequence的缩写,作用是将一个序列(sequence)映射成另一个序列(sequence)。文献[1]和文献[2]...

felixzhao
机器学习神经网络深度学习AI 人工智能编程算法
发表了文章

Multi-gate Mixture-of-Experts(MMoE)

在工业界经常会面对多个学习目标的场景,如在推荐系统中,除了要给用户推荐刚兴趣的物品之外,一些细化的指标,包括点击率,转化率,浏览时长等等,都会作为评判推荐系统效...

felixzhao
发表了文章

Embeddings from Language Models(ELMo)

随着深度学习在NLP领域的发展,产生很多深度网络模型用于求解各类的NLP问题,在这众多的网络模型中,无疑都会使用到词向量的概念,这就不得不提及word2vec[...

felixzhao
机器学习神经网络深度学习AI 人工智能
发表了文章

Neural Factorization Machines(NFM)

Neural Factorization Machines(NFM)[1]是在2017年提出的用于求解CTR问题的算法模型,在Wide & Deep模型被提出后...

felixzhao
发表了文章

Deep Learning Recommendation Model(DLRM)

DLRM(Deep Learning Recommendation Model)[1]是Facebook在2019年提出的用于处理CTR问题的算法模型,与传统的...

felixzhao
编程算法深度学习
发表了文章

DeepFM

特征交叉对于CTR问题的求解有着重要作用,纵观CTR模型的发展可以看出,每一次效果的提升,都伴随着对特征的挖掘,尤其是交叉特征。FM[1]算法在线性模型LR的基...

felixzhao
特征工程编程算法
发表了文章

Deep&Cross Network(DCN)

Deep&Cross Network(DCN)[1]是由Google于2017年提出的用于计算CTR问题的方法,是对Wide&Deep[2]模型的进一步改进。线...

felixzhao
特征工程神经网络
发表了文章

人脸识别系统FaceNet原理

近年来,随着深度学习在CV领域的广泛应用,人脸识别领域也得到了巨大的发展。在深度学习中,通过多层网络的连接,能够学习到图像的特征表示,那么两张人脸的图像,是不是...

felixzhao
人脸识别编程算法深度学习批量计算

个人简介

个人成就

扫码关注腾讯云开发者

领取腾讯云代金券