Oossa

Unsloth新增Glass主题,模型生成速度提升

Unsloth v0.1.914-beta新增五种Glass风格、聊天界面自定义和CPU训练;公司称,在一项测试中,模型生成速度提升至原来的3.9倍。

简讯作者: Oossa 发布日期: 1 分钟阅读

Unsloth发布v0.1.914-beta,新增五种Glass主题,包括Mac原生玻璃效果,以及聊天背景、问候语和代码字体的设置选项。此次更新还加入聊天导航、从右向左显示消息的功能,并允许用户从Train页面使用CPU训练文本模型。

在模型生成方面,Unsloth表示,在Linux或WSL环境下使用NVIDIA GPU时,其Transformers后端可让受支持的Llama和Qwen3模型运行得更快。在A100测试中,4-bit Qwen3-8B的生成速度达到每秒99.1个tokens,高于此前的25.7个;但发布说明未提供独立测试结果。

为什么重要

Unsloth用户可以自定义聊天界面;即使没有GPU,也能用CPU训练文本模型。不过,此次发布未说明CPU训练的速度。

这篇文章有帮助吗?
分享

继续阅读

Oossa · 新闻简报

一周 AI,讲明白

每周一,用通俗的语言讲清值得知道的新闻。免费,无垃圾邮件。