DoorDash 如何打造了一款不完全依赖大型语言模型(LLM)的 AI 购物助手
摘要
DoorDash 开发了一款 AI 购物助手,通过混合架构(RAG、知识图谱、规则引擎)减少对大型语言模型的依赖,在降低成本的同时提升响应速度。
核心要点
- 该助手采用混合架构,将意图识别、实体提取和规则引擎用于处理 80% 的常见请求,仅 20% 的复杂场景调用 LLM。
- 相比纯 LLM 方案,推理成本降低 60%,响应时间减少 40%。
- 系统利用知识图谱存储商品和用户偏好信息,实现精准推荐。
- 在 A/B 测试中,用户满意度提升 15%,订单转化率提高 10%。
- DoorDash 计划未来引入多模态能力,支持图片和语音输入。
AI 洞察
DoorDash 的实践表明,在 AI 应用中,过度依赖大型模型并非最优解。混合架构通过结合传统 NLP 技术和轻量级模型,能在实际业务中实现更高效的部署。这预示着未来 AI 产品将更注重工程化落地,而非单纯追求模型规模。