Krisp 发布 CPU 优化突破:开启 FP16 执行模式使并发语音代理处理量翻倍
Krisp 宣布通过启用 FP16(半精度浮点数)执行模式,在不改变模型架构的前提下,显著提升了语音隔离算法的服务器并发处理能力。在 AWS Graviton3 和 Intel Sapphire Rapids 等支持 FP16 的 CPU 上,单台 16 核服务器处理的实时通话数量从 76 路提升至 137 路,增幅达 2 倍。该优化通过减少内存带宽占用和提升指令级吞吐量实现,为大规模部署的 AI 语音代理提供了极具价值的性能提升方案。