无问芯穹开源三大推理技术,AI PC端侧性能迎重大突破
2025-04-29
无问芯穹在GTC 2025期间开源三项推理系统技术:SpecEE加速端侧AI PC推理速度达2.43倍,Semi-PD架构提升云侧推理吞吐量1.55-1.72倍,FlashOverlap降低通信开销实现1.65倍性能提升。这些技术突破解决了端侧算力资源限制、云侧资源分配效率及大规模计算通信瓶颈问题,为AI PC本地部署和云服务优化提供了底层技术支持。


本页面内容由AI提炼生成,无法确保完全真实准确,不代表
官方立场,不构成投资建议。如需阅读详细说明,请点击此处
