Oossa

改装者解锁英伟达 RTX 20 至 40 系显卡的 AI 性能限制

一项固件漏洞可解除 AI 半速限制,让 RTX 4090 的峰值张量吞吐量翻倍,RTX 3090 Ti 的矩阵运算速度最高提升 80%。

简讯作者: Oossa 发布日期: 1 分钟阅读

据 VideoCardz 报道,改装者发布了一项固件漏洞利用程序,可解除英伟达 RTX 20、30 和 40 系显卡内置的 AI 限速。解锁后,RTX 4090 的峰值张量吞吐量可达到官方标称值的两倍,RTX 3090 Ti 的矩阵运算速度则最高可提升 80%。英伟达的规格设定将这些消费级 GPU 的 FP32 累加运算限制在 FP16 速率的一半,而专业版 Turing 和 Ampere 显卡没有这一限制。实际任务中的提升幅度较小;由于受内存带宽限制,聊天机器人的 token 生成速度基本不变。

这项改动是用户可以自行应用的固件补丁;英伟达尚未作出官方回应。

为什么重要

支持该漏洞的显卡用户无需购买新硬件,也能明显加快 AI 推理速度。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。