腾讯云
开发者社区
文档
建议反馈
控制台
首页
学习
活动
专区
工具
TVP
最新优惠活动
文章/答案/技术大牛
搜索
搜索
关闭
发布
登录/注册
首页
学习
活动
专区
工具
TVP
最新优惠活动
返回腾讯云官网
深度学习自然语言处理
专栏作者
举报
1010
文章
1176633
阅读量
161
订阅数
订阅专栏
申请加入专栏
全部文章（999+）
NLP 服务（293）
深度学习（232）
神经网络（221）
机器学习（206）
编程算法（181）
模型（166）
人工智能（134）
https（122）
数据（113）
网络安全（96）
性能（75）
论文（74）
其他（60）
python（43）
开源（41）
linux（36）
LLM（36）
github（34）
机器翻译（32）
测试（32）
腾讯云开发者社区（31）
知识图谱（29）
监督学习（28）
批量计算（26）
git（24）
框架（24）
强化学习（23）
数据结构（23）
pytorch（20）
http（19）
卷积神经网络（19）
tcp/ip（19）
css（18）
系统（18）
决策树（17）
优化（17）
图像处理（15）
数据分析（15）
ide（14）
迁移学习（14）
工作（14）
大数据（13）
nlp（13）
设计（13）
微信（11）
chatgpt（11）
token（11）
基础（11）
html（10）
图像识别（10）
学习方法（10）
gpt（10）
腾讯云测试服务（9）
内存（9）
LoRa（9）
云直播（8）
游戏（8）
编码（8）
代理（8）
函数（8）
数学（8）
tensorflow（7）
数据库（7）
网站（7）
推荐系统（7）
无监督学习（7）
机器人（7）
工具（7）
架构（7）
算法（7）
网络（7）
sql（6）
正则表达式（6）
教育（6）
agent（6）
量化（6）
视频（6）
搜索（6）
效率（6）
语音识别（5）
数据挖掘（5）
go（5）
node.js（5）
apache（5）
文件存储（5）
缓存（5）
processing（5）
meta（5）
word（5）
区块链（4）
bash（4）
unix（4）
医疗（4）
nat（4）
nest（4）
data（4）
embedding（4）
function（4）
openai（4）
self（4）
部署（4）
排序（4）
压缩（4）
自然语言处理（4）
java（3）
.net（3）
硬件开发（3）
api（3）
搜索引擎（3）
bash 指令（3）
电商（3）
存储（3）
分布式（3）
shell（3）
spark（3）
gui（3）
线性回归（3）
keras（3）
grep（3）
安全（3）
数据处理（3）
windows（3）
架构设计（3）
迁移（3）
联邦学习（3）
ls（3）
memory（3）
model（3）
prompt（3）
翻译（3）
华为（3）
解决方案（3）
苹果（3）
索引（3）
语法（3）
人脸识别（2）
官方文档（2）
数字货币（2）
自动驾驶（2）
javascript（2）
jquery ui（2）
android（2）
NAT 网关（2）
大数据处理套件 TBDS（2）
企业（2）
自动化（2）
爬虫（2）
无人驾驶（2）
numpy（2）
信息流（2）
云计算（2）
对话机器人（2）
特征工程（2）
聚类算法（2）
隐私计算（2）
智能客服机器人（2）
error（2）
label（2）
lstm（2）
mean（2）
network（2）
object（2）
sample（2）
sequence（2）
target（2）
tree（2）
变量（2）
程序（2）
服务（2）
集合（2）
技巧（2）
路由（2）
实践（2）
统计（2）
音频（2）
费用中心（1）
云点播（1）
对象存储（1）
负载均衡（1）
腾讯云学堂（1）
c 语言（1）
c++（1）
perl（1）
lua（1）
scala（1）
r 语言（1）
react（1）
json（1）
ajax（1）
oracle（1）
打包（1）
matlab（1）
中文分词（1）
apt-get（1）
mapreduce（1）
黑石物理服务器（1）
短视频（1）
访问管理（1）
SSL 证书（1）
数据加密服务（1）
文字识别（1）
内容理解（1）
金融（1）
kubernetes（1）
ssh（1）
面向对象编程（1）
opencv（1）
unity（1）
自动化测试（1）
二叉树（1）
单元测试（1）
kernel（1）
scikit-learn（1）
模式识别（1）
物联网（1）
微服务（1）
raft（1）
云课堂（1）
智能音乐（1）
基础教育（1）
alarm（1）
analysis（1）
apple（1）
bat（1）
behavior（1）
bit（1）
blender（1）
branch（1）
cat（1）
chat（1）
com（1）
decode（1）
distance（1）
dst（1）
encoding（1）
entity（1）
eval（1）
fixed（1）
google（1）
graph（1）
hidden（1）
history（1）
input（1）
it（1）
jupyter（1）
kaggle（1）
layer（1）
lift（1）
lisp（1）
lm（1）
marker（1）
microsoft（1）
modeling（1）
models（1）
next（1）
pdf（1）
perfect（1）
pivot（1）
plot（1）
position（1）
prediction（1）
ps（1）
random（1）
state（1）
table（1）
tabular（1）
text（1）
title（1）
torch（1）
translation（1）
twitter（1）
video（1）
vr（1）
youtube（1）
编程（1）
表格（1）
并发（1）
程序设计（1）
创业（1）
动画（1）
二维码（1）
工程师（1）
公众号（1）
工作流（1）
行业（1）
集群（1）
兼容性（1）
接口（1）
开发（1）
开发者（1）
科技（1）
可视化（1）
连接（1）
漏洞（1）
面试（1）
配置（1）
入门（1）
事件（1）
数据存储（1）
数据科学（1）
思维导图（1）
通信（1）
图表（1）
协议（1）
研发（1）
异常（1）
语音（1）
重构（1）
城市交通（1）
搜索文章
搜索
搜索
关闭
Long-Context下LLM模型架构全面介绍
缓存
架构
模型
内存
LLM
随着ChatGPT的快速发展，基于Transformer的大型语言模型(LLM)为人工通用智能(AGI)铺平了一条革命性的道路，并已应用于知识库、人机界面和动态代理等不同领域。然而，存在一个普遍的限制:当前许多LLM受资源限制，主要是在较短的文本上进行预训练，使它们对现实世界中常见的较长的上下文提示不太有效。本文对基于Transformer的LLM模型架构的进展进行了全面的介绍。
zenRRan
2023-11-29
1.1K
0
剪枝乱炖 | 模型加速与压缩
缓存
每天给你送来NLP技术干货！ ---- 作者：Colorjam https://zhuanlan.zhihu.com/p/97198052 剪枝是模型压缩的一个子领域，依据剪枝粒度可以分为非结构化/结构化剪枝，依据实现方法可以大致分为基于度量标准/基于重建误差/基于稀疏训练的剪枝，并且逐渐有向AutoML发展的趋势。由于实现方法在剪枝粒度上是有通用性的，本文主要从实现方法进行展开，康康近年来关于剪枝的有的没的，从个人角度对近几年经典的剪枝方法以及其拓展进行一下梳理。 基于度量标准的剪枝 这类方法通常是提出一
zenRRan
2022-03-04
969
0
NAACL 2019 | 注意力模仿：通过关注上下文来更好地嵌入单词
缓存
在稀疏上下文信息的情况下，很难得到较高质量的低频单词嵌入，“模仿”被认为是一种可行的解决方案：通过给定标准算法的词嵌入，首先训练模型出现频次高的单词的嵌入，然后再计算低频单词的词嵌入。在本文中，我们引入了注意模仿模型，该模型不仅仅能够可以体现单词的表面形式，同样还可以访问所有可用的上下文，并学会使用最有用和最可靠的上下文来计算词嵌入。在对四项任务评估中，我们发现对于低频和中频单词，注意力模仿比以前的工作更出色。因此，注意力模仿可以改进词汇中大部分包括中频词的嵌入。
zenRRan
2019-11-22
549
0
整理一些计算机基础知识！
缓存
编程算法
tcp/ip
为了使不同计算机厂家生产的计算机能够相互通信，以便在更大的范围内建立计算机网络，国际标准化组织（ISO）在1978年提出了“开放系统互联参考模型”，即著名的OSI/RM模型（Open System Interconnection/Reference Model）。它将计算机网络体系结构的通信协议划分为七层，自下而上依次为：物理层（Physics Layer）、数据链路层（Data Link Layer）、网络层（Network Layer）、传输层（Transport Layer）、会话层（Session Layer）、表示层（Presentation Layer）、应用层（Application Layer）。其中第四层完成数据传送服务，上面三层面向用户。
zenRRan
2019-11-20
447
0
【干货】PyTorch Tricks 集锦
https
网络安全
pytorch
缓存
编程算法
设置当前使用的GPU设备仅为0号设备，设备名称为 /gpu:0： os.environ["CUDA_VISIBLE_DEVICES"] = "0"
zenRRan
2019-10-11
889
0
没有更多了
社区活动
腾讯技术创作狂欢月
“码”上创作 21 天，分 10000 元奖品池！
立即发文
Python精品学习库
代码在线跑，知识轻松学
立即查看
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客，速成社区影响力并领取好礼
立即体验
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
立即查看
领券
问题归档
专栏文章
快讯文章归档
关键词归档
开发者手册归档
开发者手册 Section 归档