首页
学习
活动
专区
工具
TVP
发布
精选内容/技术社群/优惠产品,尽在小程序
立即前往
您找到你想要的搜索结果了吗?
是的
没有找到

Google BERT 中文应用之春节对对联

在网上看到有人用 seq2seq 训练一个对对联的机器人,很好奇能不能用Google的BERT预训练模型微调,训练出一个不仅可以对传统对子,也可以对新词新句的泛化能力更好的对对联高手。今天大年初一,这样的例子刚好应景。在Google公开的BERT源代码中,附带两个微调的例子,一个是阅读理解,run_squad.py, 另一个是双句或单句分类, run_classifier.py ,并没有命名实体识别或者是 seq2seq 的例子。这次实验我会深度修改 Google BERT 在预训练数据上的微调模型,使得输出是与输入等长的序列。即上联中的每个字都会对应下联中相同位置的一个字,此任务比seq2seq简单,不需要将上联映射到潜在空间的一个向量后使用解码器产生非等长序列。既然 BERT 对输入的每一个 token 都产生了一个潜在空间的 768 维的向量,我们只需要再加一层,将每个token的768维向量变换成字典空间的 N (N=21128)维向量即可。

02

Google BERT 中文应用之春节对对联

在网上看到有人用 seq2seq 训练一个对对联的机器人,很好奇能不能用Google的BERT预训练模型微调,训练出一个不仅可以对传统对子,也可以对新词新句的泛化能力更好的对对联高手。今天大年初一,这样的例子刚好应景。在Google公开的BERT源代码中,附带两个微调的例子,一个是阅读理解,run_squad.py, 另一个是双句或单句分类, run_classifier.py ,并没有命名实体识别或者是 seq2seq 的例子。这次实验我会深度修改 Google BERT 在预训练数据上的微调模型,使得输出是与输入等长的序列。即上联中的每个字都会对应下联中相同位置的一个字,此任务比seq2seq简单,不需要将上联映射到潜在空间的一个向量后使用解码器产生非等长序列。既然 BERT 对输入的每一个 token 都产生了一个潜在空间的 768 维的向量,我们只需要再加一层,将每个token的768维向量变换成字典空间的 N (N=21128)维向量即可。

02

功率分流式(PS)混动构型

有段时间没更混动相关的话题了,之前楼主的几篇主要介绍了混动的分类、构型和48V相关的。但混动这么多,从技术的可靠性、成熟度及最重要的成本和节油效果来说,混动只有两种:一种是丰田混动,另一种是其他混动。这句话足以体现日本车企在混动方面的造诣,除了丰田,本田在这块也玩的蛮溜的,例如本田的i-MMD和i-DCD混动方案。在楼主《浅谈混合动力构型》那篇中,主要介绍了P0~P4构型的混动系统,基本没涉及PS(功率分流式)的,因为PS跟我们常说的P0~P4构型还是有很大差异的,而在PS这块,日本车企有着绝对的技术优势,如丰田的THS和本田的i-MMD都可归类于PS式,因此,这篇楼主想对THS和i-MMD这两种功率分流式的混动方案做些简单介绍。

01

百度NLP | 自动写诗 PK 古代诗人:百度「为你写诗」技术深度揭秘

百度NLP专栏 作者:百度NLP 「百度NLP」专栏是机器之心联合百度推出的专栏文章,探讨百度在自然语言处理领域的研究成果、实践经验与心得。该系列专栏以机器之心专访百度副总裁王海峰开篇(参阅:独家对话百度副总裁王海峰:NLP 的路还很长)。这篇文章为「百度NLP」专栏的第二篇,解读了百度在自动作诗方面的研究。 引子 「两个黄鹂鸣翠柳,一行白鹭上青天。」像这样优美的古诗,几乎每个人都在语文课堂上学习甚至背诵过。好的诗歌千古流传,深受广大人民的喜爱,然而诗歌创作却有很高的门槛。对于普通人来说,最多写几首打油诗

010

程序员修炼之道 -- 阅读笔记

终于要离开学校了,终于有时间可以静下来看看之前导师推荐的书籍。之前有看到说《程序员修炼之道》是对程序员影响最为深刻的书, 就从它开始吧。用这个还算可以的音响听着音乐,看书很惬意啊。 顺便吐槽下京东,我买了本地有货的三本书,三天了我还没见到。这效率实在是fuck。 第一本书的第一章是电子版上看的,还好我有kindle。这里基本上说的是沟通方面的。我发现我的沟通确实有点问题,不太主动,表达含糊。之前只和ultramanhu交流比较多,可能是多年的默契吧,表达清楚意思不怎么费劲。现在的一起合租的xboy(和qboy很像啊),和他交流经常文不对题,开始我总以为他习惯岔开话题,但是后来发现在其他有些人身上也出现过这种问题。看来我的表达力确实有问题,一直说ben大神的表达力低下,其实他只是我这种更恶化一些罢了。不管怎么说,之前看到过个视频,我觉得很有道理,对世界的理解应该是 “知其然 — 知其所以然 – 知其知其所以然 – 知其知其所以然所以然”。别人也是属于世界的一部分,了解别人看待事物和自己不一样、了解别人看待事物的角度、了解别人为什么和自己看待事物的和自己不一样,都是自身对这个世界的理解。同样,自己要表述的意思让各种各种各样的人有理解并且有兴趣听也是自身表达能力的一种体现。Maybe,这就是我大学生活孑然一身(不完整啊)的原因吧。T_T “注重实效的哲学”,其中最重要的部分当属那个WISDOM离合诗了吧。

02

文旅之声 | 文旅融合大时代,文化与旅游关系的几个说法

即将过去的2018年,“文旅融合”无是个热词。文化与旅游的关系成为人们热议的题目,各种说法蜂起,有的虽然生动但有待推敲。现拣其要者略加评析。 “诗和远方”。在文化和旅游部挂牌当天,一位记者写了一篇《诗和远方》的短评,“诗”比喻文化,“远方”比喻旅游。意思是文化与旅游的结合,文化可以更好地走向“远方”,旅游就更有“诗”意。比喻的用意无疑是积极的。文化无疑是旅游最好的传播方式之一,但并非是唯一的方式。从古到今,文化有千千万万种传播载体,尤其是进入数字化时代,传播文化的工具日新月异、层出不穷,旅游是其一

01

扫码

添加站长 进交流群

领取专属 10元无门槛券

手把手带您无忧上云

扫码加入开发者社群

相关资讯

热门标签

活动推荐

    运营活动

    活动名称
    广告关闭
    领券