首页
学习
活动
专区
工具
TVP
发布

大数据文摘

专栏成员
5574
文章
4221524
阅读量
255
订阅数
LLM Accelerator:使用参考文本无损加速大语言模型推理
大数据文摘转载自微软亚洲研究院 随着人工智能技术的快速发展,ChatGPT、New Bing、GPT-4 等新产品和新技术陆续发布,基础大模型在诸多应用中将发挥日益重要的作用。目前的大语言模型大多是自回归模型。自回归是指模型在输出时往往采用逐词输出的方式,即在输出每个词时,模型需要将之前输出的词作为输入。而这种自回归模式通常在输出时制约着并行加速器的充分利用。 在许多应用场景中,大模型的输出常常与一些参考文本有很大的相似性,例如在以下三个常见的场景中: 1. 检索增强的生成。New Bing 等检索应用在响
大数据文摘
2023-05-22
5050
肿瘤分析从一周变7小时,至强平台如何助力转化医学「与时间赛跑」?
大数据文摘出品 2019年底的新冠疫情,给全世界按下了暂停键。 但一场未被人注意到的比赛,才刚拉开序幕。 2020年1月,新冠病毒人传人的事实得到确认,2月,德克萨斯州麦克莱伦的研究小组的实验证明,新冠病毒的强度被证明至少是SARS的10倍…… 引起疫情的原因是什么?重症患者后期缘何会出现低氧血症?病毒感染的靶细胞是什么?要从日渐攀升的确诊数中拯救更多人,通过病毒基因测序来了解这种疾病显得刻不容缓。为了探索这些问题的答案,中国的医学专家们在新冠肺炎疾病病因学方面展开了深入探索。 2020年大年初三,面对全然
大数据文摘
2022-08-26
2350
全球第一个实验室新冠病毒泄露事故!台湾中研院一助理做实验染新冠,被罚15万台币
1月20日的新闻发布会上,台湾卫生部部长、台湾中央疫情指挥中心(CECC)的负责人陈世忠宣布,将对中央研究院处以15万台币的罚款,因为在2021年底,该机构基因组研究中心的一名研究助理在2021年底在实验中感染了新冠。
大数据文摘
2022-02-25
2650
大毒枭还是技术公司?加密手机公司被“一窝端”,技术产品被犯罪分子使用究竟谁的锅
在美国,很多犯罪分子通过加密手机进行联络,这些手机都是定制的,有的可以绕过监管,有的还可以远程清除数据。
大数据文摘
2021-12-01
4270
如何用存储黑科技解决推荐系统的“信息过载”?
这些数字来自某移动互联网企业在一次技术交流活动上对自家数据处理能力的介绍。先不说EB,就说说1PB是什么概念吧?大约是2亿张照片或2亿首MP3音乐,如果一个人不停地听这些音乐,能听上1900年。
大数据文摘
2021-07-06
5030
这就是理想的AI芯片吗?
工程师们认为最重要的部分是在芯片本身上拥有大量存储空间。这是因为即使与AI计算本身相比,数据传输(从主内存到处理器芯片)通常消耗最多的能量且产生大部分系统延迟。
大数据文摘
2021-02-08
4600
苹果发布M1芯片,英特尔坐不住了:推出自己的“白牌”笔记本电脑
看着多年的合作伙伴苹果抛弃自己、研发出了M1芯片,英特尔也坐不住了。Come on,我的芯片才是占了PC市场的绝大部分好吗~
大数据文摘
2020-11-24
6140
Deepnote测评:数据科学家的新IDE
Deepnote是一个免费的在线数据科学集成开发环境(onlinedata science notebook),主要关注多人协作(实时的、像谷歌文档一样的协作类型)以及工作中所有概念的抽象——环境和基础配置。
大数据文摘
2020-11-09
1.1K0
90亿美元!韩国SK海力士拟收购英特尔NAND存储器芯片业务
今日,据路透社报道,英特尔已同意以90亿美元的全现金交易方式将其NAND存储器芯片业务出售给韩国SK海力士(SK Hynix),这一交易将推动这家韩国芯片制造商在全球排名中升至第二位。
大数据文摘
2020-10-30
5170
PyTorch提速四倍!提高DALI利用率,创建基于CPU的Pipeline
在过去的几年里,深度学习硬件方面取得了巨大的进步,Nvidia的最新产品Tesla V100和Geforce RTX系列包含专用的张量核,用于加速神经网络中常用的操作。
大数据文摘
2020-02-21
1.2K0
代码跑得慢甩锅Python?手把手教你如何给代码提速30%
Python已经得到了全球程序员的喜爱,但是还是遭到一些人的诟病,原因之一就是认为它运行缓慢。
大数据文摘
2020-01-16
4250
协助侦破“金州杀人案”的DNA数据库,为何被美国联邦法规限制?
不久前,尘封40年的“金州杀人案”的罪犯Joseph DeAngelo终于绳之以法!真是大快人心。这次,多亏有DNA数据库帮忙。
大数据文摘
2019-10-15
6050
快播CEO认罪,成人网站对技术的要求有多高?
声明:本文从技术角度讨论成人网站,内容完全健康,其中所涉及的网站名称、网址均作了替换。原文标题“在整个互联网中,成人网站有多大?”文章由伯乐在线 - 黄利民 翻译自 extremetech。摘自程序员的那些事(微信号:iProgrammer)http://blog.jobbole.com/12479 快播涉传播淫秽物品案昨日在海淀法院开庭审理。快播公司、王欣、张克东、牛文举均表示认罪悔罪。吴铭表示快播公司犯罪成立。 庭前法院委托鉴定机关,对涉案的四台缓存服务器的硬盘数据是否受到改写污染问题进行了鉴定。鉴定结
大数据文摘
2018-05-24
4.2K0
两个案例:展现高效的压缩的重要性
在开发智能实时应用时,你可能经常会通过数据平台来分析和解密大数据中的模式和洞察。这些应用所依赖的后端架构常常会是分布式、可容错和可横向扩展的大数据处理技术。但也有一些情况下,压缩表现形式也是有用的,甚至是必须的。移动设备和(物联网里的)传感器的兴起带来了把计算从云顶移向边缘的软件和设备。另外内存计算也趋向于更快,造成很多流行的(分布式)系统也把数据缓存起来进行运算操作。 为了能更好地说明这一观点,让我来介绍两个最近的案例。通过它们来展现高效的压缩表现形式的重要性。一个案例是移动计算领域的,另外一个则是来自于
大数据文摘
2018-05-24
5280
没有更多了
社区活动
【纪录片】中国数据库前世今生
穿越半个世纪,探寻中国数据库50年的发展历程
Python精品学习库
代码在线跑,知识轻松学
博客搬家 | 分享价值百万资源包
自行/邀约他人一键搬运博客,速成社区影响力并领取好礼
技术创作特训营·精选知识专栏
往期视频·千货材料·成员作品 最新动态
领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档