据 VideoCardz 报道,改装者发布了一项固件漏洞利用程序,可解除英伟达 RTX 20、30 和 40 系显卡内置的 AI 限速。解锁后,RTX 4090 的峰值张量吞吐量可达到官方标称值的两倍,RTX 3090 Ti 的矩阵运算速度则最高可提升 80%。英伟达的规格设定将这些消费级 GPU 的 FP32 累加运算限制在 FP16 速率的一半,而专业版 Turing 和 Ampere 显卡没有这一限制。实际任务中的提升幅度较小;由于受内存带宽限制,聊天机器人的 token 生成速度基本不变。
这项改动是用户可以自行应用的固件补丁;英伟达尚未作出官方回应。
为什么重要
支持该漏洞的显卡用户无需购买新硬件,也能明显加快 AI 推理速度。