英伟达李曦鹏：黄仁勋认为未来AI模型对推理性能的要求是关注的重点
7月5日，WAIC大会上，英伟达开发与技术部门亚太区总监李曦鹏表示，黄仁勋每周都会关心推理性能的提升，他认为未来AI模型对推理性能的要求是关注的重点。目前英伟达 TensorRT-LLM是最快的推理解决方案，但是团队也发现了更多推理优化的方式，随着一月一次的迭代，相信很快推理成本会再一次降低。（硬AI）
- 发表于:
- 原文链接：https://page.om.qq.com/page/OrOEvpfbUUi8cywh46o1tqmg0
- 腾讯「腾讯云开发者社区」是腾讯内容开放平台帐号（企鹅号）传播渠道之一，根据《腾讯内容开放平台服务协议》转载发布内容。
- 如有侵权，请联系 cloudcommunity@tencent.com 删除。
相关快讯
扫码
添加站长 进交流群
领取专属 10元无门槛券
私享最新 技术干货
腾讯云开发者
