跳到正文
雷峰网·· 5 天前AI 评分47

算力调度与算电协同:任务迁向廉价电力仍受成本与市场制约

哪里电便宜,算力就往哪里跑?没那么简单

AI 导读

共绩科技以跨集群调度探索算电协同,让AI推理任务随地区电价和电力供给变化迁移,但平台目前仍主要依据算力实例成本分配任务。该公司通过镜像预热、模型分发、缓存及异构硬件适配降低迁移成本,相关实测曾调度28万余次请求,单位Token用电成本下降约31%。

来源:雷峰网 · leiphone.com