Swapping pgvector for turbopuffer made our whole database faster and cheaper

AI 摘要

Modem 团队将原本存放在 Postgres 中、由 pgvector 扩展管理的向量数据迁移到专用向量数据库 turbopuffer。此前，共享的 pgvector 表导致小客户查询反而最慢，添加 HNSW 索引后性能进一步恶化。迁移后，p90 搜索时间下降 76%，p99 下降 85%，生产数据库 CPU 下降 62%，整体存储账单减少约 10%。