腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
返回腾讯云官网
ml
专栏作者
举报
664
文章
633286
阅读量
64
订阅数
订阅专栏
申请加入专栏
全部文章(664)
编程算法(281)
数据结构(126)
java(108)
其他(97)
c++(38)
linux(21)
python(12)
游戏(12)
机器学习(11)
c 语言(11)
深度学习(10)
数据库(8)
人工智能(8)
数据处理(8)
html(6)
云数据库 SQL Server(6)
神经网络(6)
input(6)
jsp(5)
spring(5)
tensorflow(4)
mvc(4)
图像处理(4)
数据挖掘(3)
ios(3)
xml(3)
qt(3)
windows(3)
limit(3)
line(3)
servlet(2)
云数据库 Redis(2)
sql(2)
git(2)
api(2)
tomcat(2)
ubuntu(2)
容器镜像服务(2)
容器(2)
存储(2)
分布式(2)
html5(2)
mybatis(2)
numpy(2)
决策树(2)
二叉树(2)
nat(2)
case(2)
code(2)
function(2)
microsoft(2)
output(2)
sample(2)
模型(2)
php(1)
javascript(1)
bash(1)
.net(1)
css(1)
json(1)
eclipse(1)
github(1)
struts(1)
windows server(1)
centos(1)
bash 指令(1)
http(1)
网络安全(1)
jdk(1)
hadoop(1)
opencv(1)
jdbc(1)
监督学习(1)
推荐系统(1)
socket编程(1)
大数据(1)
https(1)
hbase(1)
nest(1)
kafka(1)
apply(1)
chess(1)
colors(1)
configuration(1)
dp(1)
eof(1)
error(1)
file(1)
height(1)
hidden(1)
integer(1)
join(1)
key(1)
map(1)
member(1)
model(1)
nullable(1)
numbers(1)
paint(1)
prediction(1)
return(1)
scope(1)
set(1)
stack(1)
sum(1)
this(1)
wifi(1)
word2vec(1)
yaml(1)
笔记(1)
编程(1)
部署(1)
对象(1)
数据(1)
数组(1)
线程(1)
压缩(1)
字符串(1)
搜索文章
搜索
搜索
关闭
Hierarchical softmax(分层softmax)简单描述.
分布式
最近在做分布式模型实现时,使用到了这个函数. 可以说非常体验非常的好. 速度非常快,效果和softmax差不多. 我们知道softmax在求解的时候,它的时间复杂度和我们的词表总量V一样O(V),是性线性的,从它的函数方程式中,我们也可以很容易得出: softmax: f(x) = e^x / sum( e^x_i ) ; 它的需要对所有的词 e^x 求和; 所以当V非常大的时候,哪怕时间复杂度是O(V),这个求解的过程耗时也比较“严重”; 设想一下,当我们在训练模型时, 我们知道目标词x,但是我们却需要去求解所有的词,并求和。 当然,有很多去研究如何优化这一过程,提出过各种各样的设想,其中 Hierarchical softmax 就是其中璀璨的一种。
Gxjun
2019-01-24
5.8K
0
flume介绍与原理(一)
分布式
1 .背景 flume是由cloudera软件公司产出的可分布式日志收集系统,后与2009年被捐赠了apache软件基金会,为hadoop相关组件之一。尤其近几年随着flume的不断被完善以及升级
Gxjun
2018-03-27
2.3K
0
没有更多了
社区活动
腾讯技术创作狂欢月
“码”上创作 21 天,分 10000 元奖品池!
立即发文
Python精品学习库
代码在线跑,知识轻松学
立即查看
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
立即体验
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
立即查看
领券
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档