指南
如何在自己的电脑上运行 AI
开放权重模型可以借助 Ollama 或 LM Studio 等免费工具在笔记本电脑上运行,你的文字不会离开电脑。
要点
Oossa 检查清单:内存决定能运行什么;小模型约需 8 GB 内存,中等模型需要 32 GB 或更多。量化版本(Q4、GGUF、MLX)占用内存更少,但质量略有下降。只从官方发布者下载模型,商用前请检查许可证。
Oossa · Oossa 发布日期:
模型 →
今天
模型
Amazon将Kindle Unlimited更名为Kindle+,并加入AI有声书
Amazon表示,Kindle+维持Kindle Unlimited每月$12的价格和借阅模式,同时将扩充有声书库,纳入由AI朗读的书籍。
模型
Gartner调查:仅少数企业从AI获得重大回报
受访技术负责人中,只有13%表示AI带来了重大或变革性回报;许多人预计运营成本会上升。
模型
Uber将ChatGPT Work推广至全体3万名员工
Uber表示,继此前对1,000名员工进行试点后,公司全球员工都将使用ChatGPT Work。公司尚未公布此次推广的成本。
模型
Google DeepMind发布全球森林类型精细地图
全新 Forest Typology 2020 地图将全球土地划分为天然林、人工林或农林用地等类型,分辨率为10米,并展示2017至2025年的年度变化。
模型
llama.cpp 新版支持 GQA 和更多分词器功能
开源库 llama.cpp 现已支持非标准 GQA 模型和 BPE 分词器,并扩展了平台构建支持。
模型
AI21称调整运行方式后,GitLab代码审查成本降低97.7%
AI21在50个公开拉取请求上测试GitLab Duo Code Review。使用DeepSeek V4 Flash并压缩提示词后,测得成本下降,基准测试F1分数仍接近基线。