Cactus团队发布了Needle 3自动化模型,这是一款参数量在25至121百万之间、经2-bit量化后仅8-29MB的超小型语言模型。该模型采用了Monarch Hadamard MLP等创新架构设计,支持工具调用和结构化JSON输出功能。在Mobile Actions基准测试中,20层模型达到86.0分的性能表…
有作者分享了使用gpt-5.6-luna等小型人工智能模型的实际体验,指出这类模型在速度、能力和成本方面取得了显著进步,使得消费级与企业级AI应用的落地变得切实可行 。文章分析认为,过去由于推理成本居高不下,消费级AI公司十分稀缺,而如今市场对“快速、廉价且足够好”的小型模型需求即将迎来爆发,这将深刻改变企业处理日常…
Cactus团队通过后训练技术对Gemma 4模型进行改进,使其能够识别自身的错误并输出0至1之间的置信度分数 。