专栏首页Soul Joy Hub深度推荐模型——DCN [KDD 17][Google]

深度推荐模型——DCN [KDD 17][Google]

视频讲解:https://www.yuque.com/chudi/tzqav9/ny150b#aalY8

import tensorflow as tf
from tensorflow import keras
from utils import *

EPOCH = 10
BATCH_SIZE = 32
VEC_DIM = 10
DNN_LAYERS = [64, 128, 64]
CROSS_LAYER_NUM = 4
DROPOUT_RATE = 0.5

base, test = loadData()
# 所有的特征各个类别值个数之和
FEAT_CATE_NUM = base.shape[1] - 1
K = tf.keras.backend


class CrossLayer(keras.layers.Layer):
    def __init__(self, x0, dim, **kwargs):
        self.x0 = x0
        self.dim = dim
        super(CrossLayer, self).__init__(**kwargs)

    def build(self, input_shape):
        self.w = self.add_weight(name='w', shape=(self.dim, 1), initializer='uniform', trainable=True)
        self.b = self.add_weight(name='b', shape=(1, self.dim), initializer='uniform', trainable=True)
        super(CrossLayer, self).build(input_shape)

    def call(self, xl, **kwargs):
        xl_w = K.dot(xl, self.w)
        x0_xl_w = tf.multiply(self.x0, xl_w)
        return x0_xl_w + self.b + xl


def run():
    # 将所有的特征的各个类别值统一id化。x中每行为各特征的类别值的id
    val_x, val_y = getAllData(test)
    train_x, train_y = getAllData(base)
    cate_num = val_x[0].shape[0]

    inputs = keras.Input((cate_num,))
    emb = keras.layers.Embedding(FEAT_CATE_NUM, VEC_DIM, input_length=cate_num)(inputs)
    x0 = keras.layers.Flatten()(emb)
    cross = x0
    # Deep 部分
    deep = keras.layers.Dropout(DROPOUT_RATE)(x0)
    for units in DNN_LAYERS:
        deep = keras.layers.Dense(units, activation='relu')(deep)
        deep = keras.layers.Dropout(DROPOUT_RATE)(deep)

    # Cross 部分
    for layer_num in range(CROSS_LAYER_NUM):
        cross = CrossLayer(x0=x0, dim=VEC_DIM * cate_num)(cross)
    cross = keras.layers.Dropout(DROPOUT_RATE)(cross)

    dcn = keras.layers.concatenate([deep] + [cross])

    dcn = keras.layers.Dropout(DROPOUT_RATE)(dcn)
    outputs = keras.layers.Dense(1, activation='sigmoid', kernel_regularizer=keras.regularizers.l2(0.001))(dcn)
    model = keras.Model(inputs=inputs, outputs=outputs)
    model.compile(loss='binary_crossentropy', optimizer=tf.train.AdamOptimizer(0.001), metrics=[keras.metrics.AUC()])
    tbCallBack = keras.callbacks.TensorBoard(log_dir='./logs',
                                             histogram_freq=0,
                                             write_graph=True,
                                             write_grads=True,
                                             write_images=True,
                                             embeddings_freq=0,
                                             embeddings_layer_names=None,
                                             embeddings_metadata=None)

    model.fit(train_x, train_y, batch_size=BATCH_SIZE, epochs=EPOCH, verbose=2, validation_data=(val_x, val_y),
              callbacks=[tbCallBack])


run()

本文参与腾讯云自媒体分享计划,欢迎正在阅读的你也加入,一起分享。

我来说两句

0 条评论
登录 后参与评论

相关文章

  • 20篇最值得一读的深度推荐系统与CTR预估论文

    微博上近日流传一个段子,“2020年曾是各大科幻片中遥远的未来,但是现在离这个遥远的未来也只有6个月时间了”。只是借此感慨一下2019年转瞬之间半年的时间已经过...

    AI科技大本营
  • XDeepFM高阶特征交互,特征交互:一种极深因子分解机模型

    对于预测性的系统来说,特征工程起到了至关重要的作用。特征工程中,挖掘交叉特征是至关重要的。交叉特征指的是两个或多个原始特征之间的交叉组合。例如,在新闻推荐场景中...

    机器学习AI算法工程
  • 最近三年四大顶会深度推荐系统上的18篇论文

    今年RecSys 2019上出现的一篇极具批判性的论文《Are We Really Making Much Progress? A Worrying Analy...

    石晓文
  • 三年、四大顶会,深度推荐系统18篇论文只有7个可以复现

    今年RecSys 2019上出现的一篇极具批判性的论文《Are We Really Making Much Progress? A Worrying Analy...

    AI科技大本营
  • 谷歌、阿里们的杀手锏:三大领域,十大深度学习CTR模型演化图谱

    今天我们一起回顾一下近3年来的所有主流深度学习CTR模型,也是我工作之余的知识总结,希望能帮大家梳理推荐系统、计算广告领域在深度学习方面的前沿进展。

    AI科技大本营
  • 谷歌、阿里们的杀手锏:3大领域,10大深度学习CTR模型演化图谱(附论文)

    今天我们一起回顾一下近3年来的所有主流深度学习CTR模型,也是我工作之余的知识总结,希望能帮大家梳理推荐系统、计算广告领域在深度学习方面的前沿进展。

    数据派THU
  • 深度推荐模型——PNN [TOIS 16][交大]

    视频讲解:https://www.yuque.com/chudi/tzqav9/ny150b#aalY8

    用户1621453
  • 深度推荐模型——FNN [ECIR 16]

    视频讲解:https://www.yuque.com/chudi/tzqav9/ny150b#aalY8

    用户1621453
  • 深度推荐模型——FFM

    视频讲解:https://www.yuque.com/chudi/tzqav9/ny150b#aalY8

    用户1621453

扫码关注云+社区

领取腾讯云代金券