超越RAG：面向企业AI的任务感知知识压缩
摘要
本文介绍了任务感知知识压缩（TAKC），一种预压缩知识库为任务特定表示的技术，可在AWS上部署，解决RAG在跨文档分析中的不足。
核心要点
- TAKC通过LLM为每个文档生成任务聚焦的压缩摘要，不同任务对应不同压缩版本。
- 压缩比从8x到64x分四档：轻（8x保留约87.5%减少）、中（16x减少93.8%）、高（32x减少96.9%）、超（64x减少98.4%）。
- 系统包含查询复杂度分析器，自动将问题路由到合适压缩层级，透明给用户。
- 离线压缩每个文档每个任务类型一次，查询时检索预压缩表示，而非原始文档。
- 部署在AWS上，使用Lambda、API Gateway、ElastiCache Serverless等无服务器组件。
原文佐证
- Similarity search surfaces relevant fragments but often misses cross-document connections.
- TAKC compresses documents through the lens of a specific task, keeping what matters and discarding the rest.
- The compression reduces token count by 8x to 64x while targeting task-relevant information for retention.
AI 洞察
TAKC代表了一种从'检索-生成'向'压缩-生成'的范式转变，将知识编码成本前移，有望显著降低查询时延和成本。未来企业知识管理可能更依赖任务特定的压缩管道，而非通用的向量索引。