腾讯云开发者社区-腾讯云

开发者社区

文档建议反馈控制台

最新优惠活动

文章/答案/技术大牛

发布

AI科技时讯

专栏作者

252

文章

223267

阅读量

28

订阅数

Swish和H-Swish激活函数：提升模型训练效率

效率性能神经网络函数模型

在深度学习领域，激活函数是神经网络中的关键组成部分，它决定了网络的输出和性能。近年来，研究人员提出了许多新的激活函数，其中Swish激活函数因其独特的性能优势而备受关注。这种函数在2017年被重新发现，并被认为是Swish函数的一个变体。Swish函数不仅性能卓越，还能有效缓解梯度消失问题，因此在神经网络中得到了广泛应用。

2024-04-30

900

神经网络压缩

网络性能压缩神经网络模型

为什么需要进行神经网络压缩，因为有些服务需要部署，设备内存和计算能力有限，需要进行模型压缩，在设备上运行的好处是低延迟，隐私性。

2024-03-25

880

数据不平衡问题

https 网络安全机器学习神经网络深度学习

对于一些二分类问题或者多分类问题，部分类别数据相较于其它类别数据而言是要小得多的，这种现象就是数据不平衡问题。数据不平衡问题会导致什么情况呢？假如是基于一些特征判断病人是否患有该疾病，且该疾病是一个小概率获得的疾病，假设概率为0.0001，那么表明有10000个来看病的人中只有一个人患有该疾病，其余9999个人都是正常病人。如果用这样的一批数据进行训练模型算法，即使该模型什么都不学，都判定为正常人，其准确率高达0.9999，完全满足上线要求。但我们知道，这个模型是不科学的，是无用的模型。这种数据分布严重不平衡的情况下，模型将具有严重的倾向性，倾向于数据样本的多的类别，因为模型每次猜样本多对应的类别的对的次数多。因此，如果直接将严重数据不平衡的数据拿来直接训练算法模型，将会遇到上述问题。一般在10倍以上可以判定为数据不平衡问题。

2023-02-14

6330

当前人工智能特别是深度学习最前沿的研究方向是什么？

强化学习迁移学习深度学习神经网络机器学习

当前深度学习技术主要是data driven的，即对一个特定任务来说，只要增加训练数据的规模，深度学习模型的表现就可以得到提高。但是发展到今天，这种思路面临很多挑战。主要面临下面几个问题：

2020-11-19

2.2K0

NFM:Neural Factorization Machines for Sparse Predictive Analytic

FM能够有效的发现二阶组合特征，但存在的问题在于，FM捕获的二阶组合特征是线性组合的（其表达式就是线性组合），无法捕获非线性组合特征。现在深度神经网络可以发现非线性的组合特征，例如谷歌的Wide&Deep，微软的DeepCross，但对于这些深度网络，存在的缺点是很难训练。本文提出NFM模型，其能将FM模型捕获的二阶线性组合特征以及神经网络捕获的高阶非线性组合特征组合起来。NFM比FM更具表现力，因为FM可以被看作是NFM不含隐藏层的特例。

2020-09-30

6090

FM：Factorization Machines

神经网络深度学习人工智能

我们先从Logistic Regression出发，回顾一下LR的Score Function

2020-09-29

7040

PNN：Product-based Neural Networks for User Response Prediction

神经网络推荐系统 jquery

现在推荐系统，网络搜索和在线广告的数据大多是分类的，并包含多个字段，有一个典型的方法将他们转化成高维稀疏二进制特征表示就是通过one-hot编码。对于这些高维稀疏的特征，传统模型可能会限制它们从数据中挖掘浅层模式的能力，即低阶组合特征，另一方面，像深度神经网络这样的深度模型由于巨大的特征空间而不能直接应用于高维输入。所以本文提出了PNN这个模型，其中的embedding层学习种类特征的分布式表示，product层捕获种类特征之间的交互特征（学习filed之间的交互特征），全连接层捕获高阶交互特征。

2020-09-29

1.1K0

FNN： Deep Learning over Multi-field Categorical Data

特征工程神经网络深度学习编程算法

原论文：Deep learning over multi-field categorical data

2020-09-29

9400

GBDT+LR：Practical Lessons from Predicting Clicks on Ads

特征工程神经网络 jquery

本文主要介绍Facebook提出的CTR预估模型LR(Logistic Regression)+GBDT。当时深度学习还没有应用到计算广告领域，Facebook提出利用GBDT的叶节点编号作为非线性特征的表示，或者说是组合特征的一种方式。

2020-09-29

1.2K0

WWW2020 | 基于GNN和哈希学习的高效推荐系统

编程算法数据结构神经网络推荐系统

最近看了篇利用哈希技术来提高基于图神经网络的推荐系统检索速度的文章。该文的亮点本人认为主要有以下两点：（1）模型同时学习用户/物品的实值表示和离散表示，用于协调模型的效率和性能，（2）该文提出了一个端到端的训练框架，解决了哈希模型在反向传播中遇到的优化困境：即模型中包含非光滑函数sign(.)。因此把这篇文章推荐给大家。

2020-09-10

1.1K0

如何使用python处理稀疏矩阵

numpy 文件存储机器学习神经网络深度学习

大多数机器学习从业者习惯于在将数据输入机器学习算法之前采用其数据集的矩阵表示形式。矩阵是一种理想的形式，通常用行表示数据集实例，用列表示要素。

2020-05-20

3.4K0

吴恩达深度学习课程笔记-Classes 4

卷积神经网络神经网络图像处理编程算法图像识别

边缘检测算子中的数字用于进行边缘检测计算机视觉不一定要去使用那些研究者们所选择的这九个数字，而是将这 9 个数字当成学习参数

2020-04-14

5410

计算机视觉经典网络回归--AlexNet

神经网络腾讯云测试服务 https 网络安全

AlexNet模型来源于论文-ImageNet Classification with Deep Convolutional Neural Networks，作者Alex Krizhevsky，Ilya Sutskever，Geoffrey E.Hinton.

2020-04-01

1K0

图像检索：基于内容的图像检索技术（二）

机器学习神经网络深度学习人工智能

相同物体图像检索是指对查询图像中的某一物体，从图像库中找出包含有该物体的图像。这里用户感兴趣的是图像中包含的特定物体或目标，并且检索到的图片应该是包含有该物体的那些图片。如1.3图所示，给定一幅”蒙娜丽莎”的画像，相同物体检索的目标就是要从图像库中检索出那些包含有”蒙娜丽莎”人物的图片，在经过相似性度量排序后这些包含有”蒙娜丽莎”人物的图片尽可能的排在检索结果的前面。相似物体检索在英文文献中一般称为物体检索(Object Retrieval)，近似样本搜索或检测(Duplicate Search or Detection)也可以归类于相同物体的检索，并且相同物体检索方法可以直接应用到近似样本搜索或检测上。相同物体检索不论是在研究还是在商业图像搜索产业中都具有重大的价值，比如购物应用中搜索衣服鞋子、人脸检索等。

2020-03-04

1.3K0

南京大学吴建鑫教授「卷积神经网络CNN」笔记，35页pdf初学者学习指南理解CNN数学原理

卷积神经网络 https 网络安全机器学习神经网络

【导读】卷积神经网络是深度学习中的基础模型。南京大学吴建鑫教授的「卷积神经网络CNN」笔记，35页pdf初学者学习指南理解CNN数学原理。

2020-03-04

1.4K0

YOLO 目标检测从 V1 到 V3 结构详解

https 网络安全图像识别神经网络深度学习

在目标检测中，IoU 为预测框 (Prediction) 和真实框 (Ground truth) 的交并比。如下图所示，在关于小猫的目标检测中，紫线边框为预测框 (Prediction)，红线边框为真实框 (Ground truth)。

2019-12-06

5640

深度学习用于图片的分类和检测总结

机器学习神经网络深度学习人工智能

1. CNN用于分类：具体的过程大家都知道，无非是卷积，下采样，激活函数，全连接等。CNN用于分类要求它的输入图片的大小是固定的（其实不单单是CNN，很多其它的方法也是这样的），这是它的一个不足之处之一。目前的大部分CNN都是用来做分类比较多。

2019-08-16

9410

深度学习任务面临非平衡数据问题？试试这个简单方法

数据库机器学习神经网络深度学习人工智能

对于数据科学或机器学习研究者而言，当解决任何机器学习问题时，可能面临的最大问题之一就是训练数据不平衡的问题。本文将尝试使用图像分类问题来揭示训练数据中不平衡类别的奥秘。

2019-08-16

7200

机器学习在实时性欺诈检测中的应用案例

机器学习神经网络深度学习人工智能数据库

“机器学习”是一门计算机科学，指的是机器对数据进行学习，并执行一些通常来说需要人类智力来完成的任务。现在，该技术正在快速发展的阶段：据Gartner称，到2022年，超过一半的数据和分析服务将由机器代替人来完成，将会比现在增长10％。

2019-08-16

1.2K0

仅用四行代码实现RNN文本生成模型

机器学习神经网络深度学习人工智能 git

文本生成（generating text）对机器学习和NLP初学者来说似乎很有趣的项目之一，但也是一个非常困难的项目。值得庆幸的是，网络上有各种各样的优秀资源，可以用于了解RNN如何用于文本生成，从理论到深入具体的技术，都有一些非常好的资源。所有的这些资源都会特别分享一件事情：在文本生成过程中的某个时候，你必须建立RNN模型并调参来完成这项工作。虽然文本生成是一项有价值的工作，特别是在学习的该过程中，但如果任务抽象程度高，应该怎么办呢？如果你是一个数据科学家，需要一个RNN文本生成器形式的模块来填充项目呢？或者作为一个新人，你只是想试试或者提升下自己。对于这两种情况，都可以来看看textgenrnn项目，它用几行代码就能够轻松地在任何文本数据集上训练任意大小和复杂的文本生成神经网络。 textgenrnn项目由数据科学家Max Woolf开发而成。 textgenrnn是建立在Keras和TensorFlow之上的，可用于生成字符和文字级文本。网络体系结构使用注意力加权来加速训练过程并提高质量，并允许调整大量超参数，如RNN模型大小、RNN层和双向RNN。读者可以在Github上或类似的介绍博客文章中阅读有关textgenrnn及其功能和体系结构的更多信息。

2019-08-16

6470

点击加载更多

社区活动

RAG七天入门训练营

鹅厂大牛手把手带你上手实战

Python精品学习库

代码在线跑，知识轻松学

博客搬家 | 分享价值百万资源包

自行/邀约他人一键搬运博客，速成社区影响力并领取好礼

技术创作特训营·精选知识专栏

往期视频·千货材料·成员作品最新动态