AI推理云寻找下一个Cerebras：算力市场从芯片竞赛转向服务竞赛

文章概览

新型推理云用专用芯片和更快代理通信切入市场，竞争核心开始转向每项任务的端到端成本。 新型推理云用专用芯片和更快代理通信切入市场，竞争核心开始转向每项任务的端到端成本。 TechCrunch报道，General Compute等新推理云采用SambaNova等专用芯片，希望为代理之间的高速调用提供更高吞吐。