过去9天里,我以“10 Days of AI Voice Agents — VoiceForBharat Edition”挑战者的身份,持续构建并改进一个实时AI语音代理。这段经历让我意识到,一个真正可用的语音代理,远非简单连接语音转文本(STT)和文本转语音(TTS)就能完成。

它还需要记忆、工具调用、安全护栏、人工接管、通话分析与可靠的实时通信。在语音合成方面,我使用了Murf Falcon——Murf推出的快速TTS API。

这个语音代理最终实现的能力包括:进行实时语音对话、记住用户的有用信息、遵循对话护栏、调用外部工具、发起外呼、请求人工协助、记录通话分析结果,并支持人工/专家转接流程。

从架构上看,用户的声音经过语音输入进入Deepgram STT识别,再交给AI代理。AI代理内部包含记忆、工具和护栏三个核心模块,统一由LLM调度;生成结果经过Murf Falcon合成语音,最后通过LiveKit实时通信返回给用户。

在逐日迭代中,我从基础对话代理起步,逐步加入角色与行为护栏、前端对话状态、用户记忆、外部工具调用、外呼与电话集成、人工转接以及通话分析功能。整个过程印证了:优秀的AI语音代理不只依赖模型,更需要工程化的系统设计。