DeepSeek开源DeepInfer推理框架 极悦在线

10月20日， DeepSeek 宣布开源内部大规模云服务推理框架DeepInfer，旨在提高模型推理效率、降低部署成本。该框架兼容英伟达GPU和 华为 昇腾950芯片。Anthropic推出个人AI助手Claude Duet。DeepSeek披露，该框架已用于DeepSeek V4.1 Flash模型的线上服务，单集群日均处理155万亿Token，按谷时电价计算，每GPU小时收入约38美元。