异构推理加速 关键字列表
推理计算给AI芯片初创企业带来新的突围机会

推理计算给AI芯片初创企业带来新的突围机会

随着AI应用重心从模型训练转向推理部署,芯片初创企业迎来新的市场机会。推理工作负载多样化,使不同架构各有用武之地。英伟达收购Groq、AWS推出混合计算平台、英特尔发布参考设计,均采用不同芯片分别处理预填充与解码任务。光学推理芯片初创公司Lumai也披露了其混合光电架构方案,目标是以极低功耗实现超高AI性能。与此同时,Tenstorrent则坚持通用架构路线,对碎片化推理方案持保留态度。