EmoryHuang's Blog

代码在线跑，知识轻松学

Python精品学习库

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

博客搬家 | 分享价值百万资源包

往期视频·干货材料·成员作品 最新动态

技术创作特训营·精选知识专栏

新邀入驻腾讯云开发者社区，福利多多！

如何运用「云、端融合的数智化安全体系」高效护航数据安全

左手AI，右手安全 —— 一汽丰田数字化转型之路

authors:: Zhilun Zhou, Yu Liu, Jingtao Ding, Depeng Jin, Yong Li
 container:: Proceedings of the ACM web conference 2023
 year:: 2023
 DOI:: 10.1145/3543507.3583239
 rating:: ⭐⭐⭐⭐
 share:: true
 comment:: 基于LBSN构建知识图谱，分别学习全局知识和领域分层知识

【论文阅读】Hierarchical knowledge graph learning enabled socioeconomic indicator prediction in location-b

authors:: Yongquan He, Peng Zhang, Luchen Liu, Qi Liang, Wenyuan Zhang, Chuang Zhang
 container:: Proceedings of the thirtieth international joint conference on artificial intelligence, IJCAI-21
 year:: 2021
 DOI:: 10.24963/ijcai.2021/264
 rating:: ⭐
 share:: false
 comment:: 时间知识图谱TKG，时间片上采用CompGCN，顺序关系上同时考虑时间片的顺序关系和实体对的顺序关系，并以三个得分函数为辅助进行推理。

【论文阅读】HIP network:Historical information passing network for extrapolation reasoning on temporal kno

authors:: Zixuan Li, Xiaolong Jin, Wei Li, Saiping Guan, Jiafeng Guo, Huawei Shen, Yuanzhuo Wang, Xueqi Cheng
 container:: Proceedings of the 44th international ACM SIGIR conference on research and development in information retrieval
 year:: 2020
 DOI:: 10.1145/3404835.3462963
 rating:: ⭐⭐⭐
 share:: true
 comment:: 时间知识图谱TKG推理，时间片上采用GCN，顺序关系上采用GRU，并融合静态信息，同时预测实体和关系。

【论文阅读】Temporal knowledge graph reasoning based on evolutional representation learning

2023 年，WSDM 的一篇论文：DisenPOI: Disentangling sequential and geographical influence for point-of-interest recommendation

【论文阅读】DisenPOI Disentangling sequential and geographical influence for point-of-interest recommendat

最近几个月一直在忙着跑实验，写论文，博客确实也是好久没有更新了，乘着最近论文搞得差不多了，碰巧也是在排版，来记录一下使用 LaTeX 进行论文写作的一些东西。

使用 LaTeX 进行论文写作

最近一直在想创新点，搭模型，想尝试一下图神经网络，想着自己实现一个，但是之前也没有尝试过写 GNN 模型，对其中的实现细节也没有实际尝试过，最后找到了 PyG ，尝试一下之后发现还是挺简单的，也比较好拿到现有模型里面，于是开始挖坑。

使用 PyG 进行图神经网络训练

authors:: Yingtao Luo, Qiang Liu, Zhaocheng Liu
 container:: Proceedings of the Web Conference 2021
 year:: 2021
 DOI:: 10.1145/3442381.3449998
 rating:: ⭐⭐⭐
 share:: false
 comment:: 通过双层Attention的方式，对Attention公式进行修改，聚合时间以及距离信息。通过线性插值代替 GPS 网格进行空间/时间离散化。

【论文阅读】STAN:Spatio-Temporal Attention Network for Next Location Recommendation

Time2Vec 从其名字就可以看出其功能，将时间进行 Embedding，并且能够应用于不同的模型。

Time2Vec 的理解与简单实现

authors:: Defu Lian, Yongji Wu, Yong Ge, Xing Xie, Enhong Chen
 container:: Proceedings of the 26th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining
 year:: 2020
 DOI:: 10.1145/3394486.3403252
 rating:: ⭐⭐⭐
 share:: true
 comment:: 创新主要在于地理位置信息编码，将 GPS 信息转化为网格，再对 quadkey 进行编码，损失函数部分加上负样本概率对负样本进行加强。

【论文阅读】Geography-Aware Sequential Location Recommendation

authors:: Junbeom Kim, Sihyun Jeong, Goeon Park, Kihoon Cha, Ilhyun Suh, Byungkook Oh
 container:: 2021 International Conference on Data Mining Workshops (ICDMW)
 year:: 2021
 DOI:: 10.1109/ICDMW53433.2021.00012
 rating:: ⭐⭐
 share:: true
 comment:: 模型完全采用GNN进行Embedding，同时待预测POI的访问时间也作为参数进行输入，与传统的POI预测问题有些出入。

【论文阅读】DynaPosGNN:Dynamic-Positional GNN for Next POI Recommendation

损失函数，具体来说就是计算神经网络每次迭代的前向计算结果与真实值的差距，从而指导下一步的训练向正确的方向进行。下面主要介绍一些常见的损失函数：均方差损失函数和交叉熵损失函数。

聊一聊损失函数

authors:: Song Yang, Jiamou Liu, Kaiqi Zhao
 container:: Proceedings of the 45th International ACM SIGIR Conference on Research and Development in Information Retrieval
 year:: 2022
 DOI:: 10.1145/3477495.3531983
 rating:: ⭐⭐️⭐️
 share:: false
 comment:: 论文的主干网络仍然是 Transformer，通过构建 POI 之间的转移权重图（trajectory flow map）并通过 GCN 进行 POI Embedding；最后，又同时预测 POI、时间、类别，加强了损失函数。

【论文阅读】GETNext:Trajectory Flow Map Enhanced Transformer for Next POI Recommendation

图神经网络（Graph Neural Networks，GNN）最早由The Graph Neural Network Model(Gori et al., 2005)提出。近年来，深度学习领域关于图神经网络的研究热情日益高涨，图神经网络已经成为各大深度学习顶会的研究热点。

简单理解图神经网络 GNN

authors:: Daizong Ding, Mi Zhang, Xudong Pan, Min Yang, Xiangnan He
 container:: Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining
 year:: 2019
 DOI:: 10.1145/3292500.3330896
 rating:: ⭐⭐⭐️
 share:: true
 comment:: 以GRU为基础，主要针对损失函数进行了修改，强调极端值的模型预测中的作用。

【论文阅读】Modeling Extreme Events in Time Series Prediction

authors:: Zhenzhong Lan, Mingda Chen, Sebastian Goodman, Kevin Gimpel, Piyush Sharma, Radu Soricut
 container:: International conference on learning representations
 year:: 2019
 DOI::
 rating:: ⭐⭐⭐⭐
 share:: false
 comment:: 针对BERT模型进行简化之后的ALBERT

【论文阅读】ALBERT:A lite BERT for self-supervised learning of language representations

authors:: Jacob Devlin, Ming-Wei Chang, Kenton Lee, Kristina Toutanova
 container:: Proceedings of the 2019 conference of the north American chapter of the association for computational linguistics: Human language technologies, volume 1 (long and short papers)
 year:: 2019
 DOI:: 10.18653/v1/N19-1423
 rating:: ⭐⭐⭐⭐⭐
 share:: false
 comment:: 经典bert的模型

【论文阅读】BERT:Pre-training of deep bidirectional transformers for language understanding

Word Embedding 是将自然语言中的「单词」转换为「向量」或「矩阵」，使计算机更容易理解它们，你常常可以在自然语言处理的工作中见到这种方法。而 Word2Vec 正是 Word Embedding 的一种。

从 Embedding 到 Word2Vec

Caddy 是一个 Go 编写的 Web 服务器，类似于 Nginx。相较于 Nginx 来说，Caddy 的配置简单了很多，而且默认启用了 https，更加的安全。

使用 Caddy 替代 Nginx

REmote DIctionary Server(Redis) 是一个使用 ANSI C 编写的开源、支持网络、基于内存、分布式、可选持久性的键值对存储数据库。

Redis 时间序列

authors:: Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N Gomez, Łukasz Kaiser, Illia Polosukhin
 container:: Advances in neural information processing systems
 year:: 2017
 DOI::
 rating:: ⭐⭐⭐⭐⭐
 share:: false
 comment:: 经典不解释

【论文阅读】Attention is all you need

文章

问答

视频

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋 

腾讯云代码助手

CODING DevOps

Cloud Studio

SDK中心

API中心

命令行工具

腾讯云开发者社区推出了EmoryHuang's Blog专栏，为你提供了EmoryHuang's Blog的相关文章，致力于帮助开发者快速成长与发展。

EmoryHuang's Blog

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐