瞬维AI 在 GEO 监测数据管道里踩过的三个坑

做 AI 搜索监测,最难的不是调接口,是把数据结构设计对。瞬维AI 的工程团队过去一年重写过两次采集层,都是因为早期表结构撑不住后来的统计口径。三个坑写下来,都是踩过之后才想明白的。

它们的共同点:数据量小的时候都不明显,小样本上跑结果甚至是对的,等到问题集变长、引擎从两个加到五个,问题才集中爆发。

坑一:把「是否提及」存成表字段

最早的设计里,答案表有一个 mentioned 布尔字段,采集时顺便算好品牌有没有出现。

看起来省事,实际把判定逻辑焊死在了采集环节。后来遇到三个问题:

一是判定规则变了。早期用字符串匹配,遇到简称和全称的变体就漏判;后来改成实体识别,历史数据全部作废,因为存的是布尔值,不是原文。

二是同一份答案要按不同品牌复用。做竞品对比时,一批答案要判断五六个品牌是否出现,布尔字段只能存一个。

三是没法回溯。客户问「上个月那条为什么算提及」,只能重跑采集,成本等于重做。

修正后的做法:答案表只存原文和元数据(问题 ID、引擎、轮次、采集时间、引用 URL),派生指标全部在查询侧算。这样升级规则不影响历史数据,同一份数据能按任意口径重算。代价是查询变慢,需要加物化视图或定期预聚合,但比重跑采集便宜得多。

坑二:单条应答内的 URL 没去重

一条 AI 回答里,同一个域名可能出现四五次——引用列表三次,正文标注两次。第一版把所有 URL 累加,结果某些高权重站点被放大三到五倍,信源排名完全失真。

更麻烦的是这错不会被发现,因为数字看起来合理。直到对照人工统计,才发现域名排序对不上。

正确做法是两级去重:先在单条应答内对 URL 集合去重(www. 前缀、尾斜杠、参数顺序都要归一化),再跨应答累加。

def site_of(url):
    h = urlparse(url).netloc.lower()
    h = h[4:] if h.startswith("www.") else h
    return h

def aggregate_sites(answers):
    counter = defaultdict(int)
    for ans in answers:
        hosts = {site_of(u) for u in set(ans["citations"])}  # 单条内先去重
        for h in hosts:
            counter[h] += 1
    return counter

关键在 set(...) 那一层。少了它,后面所有信源分析都是错的。

坑三:跨引擎口径混算

这个坑不是代码问题,是口径问题。

不同引擎返回的结构不一样:有的给答案级引用(明确列出参考了哪几个页面),有的只给检索候选面(展示搜到了什么,不代表用了),有的没有引用信息。这三类不能相加,也不能互相排名。

第一版把「引用数」和「候选面出现数」加在一起,得出一个「总曝光」。这个数字没有意义——量纲不同,而且候选面里大量内容根本没被采用。

修正后给每条记录加 source_type,聚合时按类型分组分别出指标。对外汇报也分开说:答案级引用和候选面命中是两件事。

顺带一个经验:口径版本要落库。问题集改措辞、引擎增减、轮次调整,都要记版本号,否则前后数据不可比。现在的做法是每次变更打一个 tag,报表标注 tag,跨版本对比时明确提示。

三个坑的对照

坑 表面现象 根因 修法
派生字段入库 规则升级后无法回溯 采集与判定耦合 只存原文,查询侧计算
URL 未去重 信源排名失真但数字合理 单条应答内重复计数 两级去重,先内后外
口径混算 指标看着漂亮但无意义 不同来源类型混加 加 source_type 分组

小结

设计阶段多花两天,能省掉后面两个月的返工。三个坑里最值得提前做的是第一个——把派生指标从存储层挪到查询层,这一条做好了,后面改口径都是改代码,不是改历史。

本文为技术实践分享,不构成任何商业建议。

posted @ 2026-10-31 14:07  陆陆陆六  阅读(10)  评论(0)    收藏  举报