英伟达在近期举办的NVIDIA GTC 2025大会上,震撼发布了其DeepSeek-R1模型在推理性能上的全新世界纪录。这款满载6710亿参数的模型,在配备八个NVIDIA Blackwell GPU的单个DGX系统上,展现了惊人的处理能力。
据英伟达官方介绍,DeepSeek-R1在每位用户的每秒处理令牌数上,成功突破了250个的大关。更令人瞩目的是,该系统的最大吞吐量达到了每秒超过30000个令牌,这一数字无疑在AI推理领域树立了新的标杆。
DeepSeek-R1的出色表现,无疑得益于NVIDIA Blackwell GPU的强大算力支持。这款GPU以其卓越的并行处理能力和高效能设计,为DeepSeek-R1提供了坚实的硬件基础。同时,NVIDIA DGX系统的优化架构,也进一步提升了模型的运行效率。
此次DeepSeek-R1所创造的推理性能世界纪录,不仅彰显了英伟达在AI技术领域的领先地位,也为未来的AI应用提供了更加广阔的可能性。随着AI技术的不断发展,我们有理由相信,将会有更多创新性的应用涌现出来,为人类社会带来更加智能、便捷的生活方式。
领取专属 10元无门槛券
私享最新 技术干货