风雨中的小七

LV0
发表了文章

中文NER的那些事儿2. 多任务,对抗迁移学习详解&代码实现

第一章我们简单了解了NER任务和基线模型Bert-Bilstm-CRF基线模型详解&代码实现,这一章按解决问题的方法来划分,我们聊聊多任务学习,和对抗迁移学习是...

风雨中的小七
发表了文章

中文NER的那些事儿1. Bert-Bilstm-CRF基线模型详解&代码实现

这个系列我们来聊聊序列标注中的中文实体识别问题,第一章让我们从当前比较通用的基准模型Bert+Bilstm+CRF说起,看看这个模型已经解决了哪些问题还有哪些问...

风雨中的小七
自然语言处理NLP
发表了文章

无所不能的Embedding7 - 探索通用文本表达[FastSent/InferSent/GenSen/USE]

在4/5章我们讨论过用skip-thought,quick-thought任务来进行通用文本向量提取,当时就有一个疑问为什么用Bookcorpus这种连续文本,...

风雨中的小七
自然语言处理NLP
发表了文章

无所不能的Embedding6 - 跨入Transformer时代~模型详解&代码实现

上一章我们聊了聊quick-thought通过干掉decoder加快训练, CNN—LSTM用CNN作为Encoder并行计算来提速等方法,这一章看看抛开CNN...

风雨中的小七
自然语言处理NLP
发表了文章

AB实验的高端玩法系列1 - AB实验人群定向/HTE/Uplift 论文github收藏

这类问题之所以难以解决是因为ground truth在现实中是观测不到的,一个已经服了药的患者血压降低但我们无从知道在同一时刻如果他没有服药血压是不是也会降低。

风雨中的小七
发表了文章

无所不能的Embedding5 - skip-thought的兄弟们[Trim/CNN-LSTM/quick-thought]

这一章我们来聊聊skip-thought的三兄弟,它们在解决skip-thought遗留问题上做出了不同的尝试【Ref1~4】, 以下paper可能没有给出最优...

风雨中的小七
自然语言处理NLPTensorFlow深度学习
发表了文章

无所不能的Embedding4 - Doc2vec第二弹[skip-thought & tf-Seq2Seq源码解析]

前一章Doc2Vec里提到,其实Doc2Vec只是通过加入Doc_id捕捉了文本的主题信息,并没有真正考虑语序以及上下文语义,n-gram只能在局部解决这一问题...

风雨中的小七
深度学习自然语言处理NLPTensorFlow
发表了文章

无所不能的Embedding3 - word2vec->Doc2vec[PV-DM/PV-DBOW]

这一节我们来聊聊不定长的文本向量,这里我们暂不考虑有监督模型,也就是任务相关的句子表征,只看通用文本向量,根据文本长短有叫sentence2vec, parag...

风雨中的小七
自然语言处理NLP
发表了文章

无所不能的Embedding 2. FastText词向量&文本分类

Fasttext是FaceBook开源的文本分类和词向量训练库。最初看其他教程看的我十分迷惑,咋的一会ngram是字符一会ngram又变成了单词,最后发现其实是...

风雨中的小七
自然语言处理NLPTensorFlow
发表了文章

无所不能的Embedding 1 - Word2vec模型详解&代码实现

word2vec是google 2013年提出的,从大规模语料中训练词向量的模型,在许多场景中都有应用,信息提取相似度计算等等。也是从word2vec开始,em...

风雨中的小七
自然语言处理NLP
发表了文章

XAI/MLI 可解释机器学习系列1- 开源&paper汇总

18年被H2O Driverless AI 提供的可解释机器学习引擎(下图)种草后,就对这个领域产生了兴趣。不过用的越多,XAI暴露的问题就越多,比如特征的微调...

风雨中的小七
深度学习数据可视化
发表了文章

CTR学习笔记&代码实现6-深度ctr模型 后浪 xDeepFM/FiBiNET

xDeepFM用改良的DCN替代了DeepFM的FM部分来学习组合特征信息,而FiBiNET则是应用SENET加入了特征权重比NFM,AFM更进了一步。在看两个...

风雨中的小七
推荐系统深度学习TensorFlow
发表了文章

CTR学习笔记&代码实现5-深度ctr模型 DeepCrossing -> DCN

之前总结了PNN,NFM,AFM这类两两向量乘积的方式,这一节我们换新的思路来看特征交互。DeepCrossing是最早在CTR模型中使用ResNet的前辈,D...

风雨中的小七
神经网络机器学习深度学习推荐系统
发表了文章

CTR学习笔记&代码实现4-深度ctr模型 NFM/AFM

这一节我们总结FM另外两个远亲NFM,AFM。NFM和AFM都是针对Wide&Deep 中Deep部分的改造。上一章PNN用到了向量内积外积来提取特征交互信息,...

风雨中的小七
机器学习推荐系统深度学习
发表了文章

CTR学习笔记&代码实现3-深度ctr模型 FNN->PNN->DeepFM

这一节我们总结FM三兄弟FNN/PNN/DeepFM,由远及近,从最初把FM得到的隐向量和权重作为神经网络输入的FNN,到把向量内/外积从预训练直接迁移到神经网...

风雨中的小七
推荐系统机器学习深度学习
发表了文章

CTR学习笔记&代码实现2-深度ctr模型 MLP->Wide&Deep

这一篇我们从基础的深度ctr模型谈起。我很喜欢Wide&Deep的框架感觉之后很多改进都可以纳入这个框架中。Wide负责样本中出现的频繁项挖掘,Deep负责样本...

风雨中的小七
机器学习推荐系统深度学习
发表了文章

AB实验的高端玩法系列4- 实验渗透低?用户未被触达?CACE/LATE

CACE全称Compiler Average Casual Effect或者Local Average Treatment Effect。在观测数据中的应用需要...

风雨中的小七
数据挖掘
发表了文章

AB实验人群定向HTE模型5 - Meta Learner

Meta Learner和之前介绍的Causal Tree直接估计模型不同,属于间接估计模型的一种。它并不直接对treatment effect进行建模,而是通...

风雨中的小七
机器学习
发表了文章

tensorflow feature_column踩坑合集

feature_column输入可以是原始特征的列名,或者是feature_column。初上手感觉feature_column设计的有点奇怪,不过熟悉了逻辑后...

风雨中的小七
TensorFlow机器学习
发表了文章

CTR学习笔记&代码实现1-深度学习的前奏LR->FFM

CTR学习笔记系列的第一篇,总结在深度模型称王之前经典LR,FM, FFM模型,这些经典模型后续也作为组件用于各个深度模型。模型分别用自定义Keras Laye...

风雨中的小七
机器学习推荐系统

个人简介

个人成就

扫码关注云+社区

领取腾讯云代金券