AWS Machine Learning Blog· Yadan Wei·· 2 天前AI 评分50
在 SageMaker AI 上使用 vLLM-Omni 构建实时语音应用（第一部分）
Build real-time voice applications with vLLM-Omni on SageMaker AI – Part 1
AI 导读
AWS 推出在 Amazon SageMaker AI 上基于 vLLM-Omni 深度学习容器（DLC）部署 Qwen3-TTS 的实时语音生成方案。该方案利用 SageMaker 双向流式传输（HTTP/2 WebSocket），通过单个持久连接流式输入文本并实时返回 24 kHz PCM 音频块。
来源：AWS Machine Learning Blog · aws.amazon.com