法国初创公司Kog：用软件优化榨出GPU更多推理性能

法国初创公司Kog正押注于通过软件优化释放传统GPU的潜力，而非依赖专用芯片。该公司推出的Kog推理引擎（KIE）已在AMD MI300X和NVIDIA H200上实现每秒3000个token的高速解码。CEO Gael...