消费级gpu

开源项目Petals让用户在家以BitTorrent方式运行大型语言模型

Petals是一个开源项目，使用户能够在家中以类似BitTorrent的分布式方式运行大型语言模型 。该平台通过连接网络中其他用户共享模型部分来完成推理任务 。