菲律宾呼叫中心上AI语音客服：从0到1部署与马尼拉机房选型指南
先算清三笔账：为什么AI语音客服的瓶颈不在模型
菲律宾外包呼叫中心（BPO）正在从纯人工坐席转向「AI 先行、人工兜底」。典型做法是：用 Qwen、Llama 这类开源模型做私有化部署，配 ASR/TTS 组成语音链路，先接掉 40%~70% 的重复来电（查单、改约、账单确认），再转人工。真正让项目卡住的通常不是模型选型，而是三件事：马尼拉本地接入延迟、坐席并发与 GPU 显存的匹配、以及线路质量。
对做矩阵站群、同时又服务本地客户的技术负责人来说，这三笔账必须先算：
- 延迟账：一轮语音对话要经过 ASR→LLM→TTS，端到端超过 1.2~1.5 秒，客户就会明显感到「机器在等」。其中网络往返（RTT）占 100~300ms 是常态，马尼拉机房到本地运营商一般在 10~40ms，跨境回源则会翻几倍。
- 并发账：一路语音通话的实时推理，7B~14B 量化模型在中端 GPU 上通常能撑 8~20 路并发，具体取决于上下文长度和 TTS 是否同机。
- 线路账：呼叫中心走 SIP 中继，对丢包和抖动比网站访问敏感得多，带宽够不等于通话稳。
从0到1的落地步骤：五步把系统跑起来
第一步：确定坐席规模与AI接管比例
先按「峰值人工坐席数 × 1.5~2 倍」估算 AI 并发路数。例如 50 个坐席、AI 接管 60%，峰值 AI 并发约 45~60 路。这个数字直接决定 GPU 卡数与机器台数。
第二步：拆分部署位置
推荐「马尼拉本地跑接入层、算力层就近或集中」的分层：
- 马尼拉机房：SIP/语音网关、ASR 前置、业务 API、数据库从库，负责低延迟接入本地运营商与客户。
- GPU 推理机：可放在同一机房，也可放在香港/新加坡等算力更集中的节点，通过内网或专线回连。若语音链路对延迟极敏感，优先同机房部署。
第三步：按并发选 GPU 与整机配置
通用量级参考（7B~14B 量化、上下文 4K 以内）：
- 10~20 路并发：单卡 24G 显存（如 L4/A10 级别）即可起步。
- 40~60 路并发：2~4 张 24G 卡，或 1~2 张 48G 级别卡，配 64G 以上内存。
- 100 路以上：多机横向扩展，前面加负载均衡，ASR/TTS 与 LLM 分机部署。
CPU 侧接入机不必堆高配，但内存和 SSD 要留余量：语音录音、日志、知识库索引都吃盘。一般 16~32 核、64G 内存、960G SSD 起步，带宽按「每路语音约 0.1Mbps + 业务流量」估算，50 路并发配 20M 独享带宽通常够用，重点是选低丢包、可跑 SIP 的线路。
第四步：压测与验收
上线前必做三项测试：单向延迟（P95 控制在 300ms 内）、并发压测（按峰值 1.2 倍打满 30 分钟看显存与队列）、断线重连（模拟运营商抖动）。验收标准写进合同：丢包率、抖动、故障响应时间。
第五步：灰度与人工兜底
先接 10%~20% 话务，保留「一键转人工」和会话摘要回传，避免 AI 答错导致客户流失。
马尼拉机房选型：对比参数清单与常见坑
选购时按这张清单逐项问服务商：
- 线路：是否本地主流运营商直连、是否支持 BGP、到中国/新加坡方向的回程路由。
- 带宽：独享还是共享、是否限流量、超流量计费方式。
- 延迟与丢包：要求提供实测 IP 和测试报告，别只看标称。
- 合规：菲律宾本地数据与录音存储要求、是否允许语音业务。
- 防护：DDoS 基础防护量级，呼叫中心易被投诉攻击。
- 运维：是否带 IPMI/远程重启、故障响应 SLA。
常见坑：只看带宽数字不看线路质量；把 GPU 机和接入机混在一台低配机器上；忽略 TTS 也吃算力；以及用共享带宽跑 SIP 中继导致通话断续。
选购推荐
如果接入层与轻量推理需要一台稳定独服起步，可参考秀米云的泰国独立物理服务器（Gold 6138 / 64G / 960SSD / 20M带宽，800 元/月）：64G 内存与 960G SSD 适合跑语音网关、ASR 前置与知识库索引，20M 带宽对应 50 路以内并发的基础量级，适合作为东南亚区域的接入与调度节点，再按并发叠加 GPU 推理机。
决策建议：先用一台接入机 + 一张 24G 卡跑小流量灰度，按实测并发和延迟再扩；线路质量优先于硬件堆料，合同里把丢包、抖动和 SLA 写清楚。