本地ai推理
科技人工智能
Jev在25行Python代码中的实现演示
作者Duarte O.Carmo发布了一篇技术文章，展示了如何仅用25行Python代码实现Jev邮件分类系统。该演示使用llama-cpp-python库加载Qwen/Qwen3-0.6B-GGUF模型，能够将邮件分为三类：合法邮件、垃圾邮件和钓鱼邮件，并输出相应的概率数值。在演示中，系统对一封邮件的分类结果为合法…
科技人工智能
PrismML发布Bonsai 2 27B模型：9倍压缩率下保留98%性能
PrismML推出了Ternary Bonsai 2 27B模型，该模型基于阿里巴巴的开源Qwen 27B模型，采用三值量化技术实现显著的模型压缩。经过压缩后，模型大小仅为5.9GB，相比全精度版本缩小9至10倍，使高性能推理能够在个人电脑和智能手机等本地设备上运行。
科技人工智能
Nvidia推出免费工具将家庭闲置电脑连接成个人AI数据中心
Nvidia推出了一款名为Personal AI Router（PAIR）的免费开源工具，旨在将家庭网络中的多台计算机连接起来执行本地AI推理任务。该工具可自动发现网络上的兼容PC并将其连接起来。