11月22日讯 在2024年金摇杆奖颁奖仪式上，众多游戏获得了大奖，其中《黑神话：悟空》获得“年度终极游戏”与“最佳视觉设计”两项大奖，让无数玩家为之...
打不过就加入！英伟达宣布使用DeepSeek 公开表示其推理能力“最先进”
电竞赛事
2025年02月01日 10:30 56
admin
2月1日讯DeepSeek的R1模型推出后，引起了广泛关注，更是一度让美股大跌，英伟达一日蒸发6000亿美元。
而近日英伟达宣布已在其网站上发布了采用DeepSeek R1 671b的“英伟达NIM微服务”预览版，公开表示DeepSeek-R1推理能力“最先进”
英伟达表示 DeepSeek-R1 模型是最先进、高效的大型语言模型，在推理、数学和编码方面表现出色。NIM 微服务在单个 HGX H200 系统上，每秒能处理多达 3872 个 tokens，这既得益于 H200 的 HBM3e 高带宽内存等硬件，也离不开采用 DeepSeek R1 671b 后在软件层面的优化，如动态批处理、量化、TensorRT 加速等。
一方面，英伟达此举是为了完善 NIM 生态，吸引更多开发者依赖它的全栈解决方案，巩固自己在 AI 基础设施领域的地位;另一方面，也是在和 AWSBedrock、Azure Al Model Catalog 这些云服务巨头竞争，靠灵活的本地化部署选项，争夺企业 AI 市场份额。
发表评论