Ai推理引擎
科技人工智能
"榨"出硅的极限：AI企业如何提升GPU利用率
在芯片短缺的背景下，AI行业正将焦点转向充分挖掘现有GPU的潜力。卡内基梅隆大学研究发现，GPU整体上有近20%的执行时间和约11%的能耗被浪费在等待上，推理场景问题更为突出——Azure Code负载有65%能耗消耗在空转上，OpenAI Chat类请求达52%。一台NVIDIA GB200 NVL72机柜采购成本…
科技创业公司
贾扬清离职英伟达创立Intent Lab，推出性能提升6.3倍的AI推理系统
贾扬清正式宣布离职英伟达并创立新公司Intent Lab 。该公司推出的首批AI基础设施产品包括Fleet系统、数据库引擎和分布式文件系统AgentFS 。