Firecrawl推出/monitor监控功能,解决AI智能体追踪网页更新时消耗大量LLM token的问题。用户输入URL并用自然语言描述跟踪目标,功能即可按设定频率监测页面。一旦有实质变化,便通过webhook通知智能体,并仅推送变化部分的diff(清晰列出新增、删除和修改),最多可节省90%的LLM token,避免广告等噪声干扰。该功能支持通过API、CLI、MCP或dashboard初始化,调度频率可自定义。
我最近在搭一个AI agent,专门盯一些生物类的最新论文和研究竞品,全球趋势等。
以前的做法是每隔几小时就全量抓一次页面,然后把整页内容喂给LLM。
token像流水一样花出去,agent还经常被广告、时间戳这些噪声干扰,效率低得让人头疼。
看到今天Firecrawl直接把这个痛点解决了。
他们刚上线了/monitor功能。
你只用输入一个URL,再用自然语言描述想跟踪的目标,比如"当有ADHD最新课题论文新增xxx时提醒我"。
它就会按照你设定的频率去监测,页面一旦有实质变化,就通过webhook推送给你的agent。
只摄取真正变动的部分,最多省下90%的LLM token。
diff里清晰列出新增、删除和修改的内容,还带permalink,方便直接分享给团队或者继续交给agent处理。
支持API、CLI、MCP或者dashboard初始化,调度可以是5分钟一次、每小时、每天或者自定义。
以前我们总觉得agent要保持实时,就得自己扛起监控的重担。
现在Firecrawl把"聪明地感知web变化"做成了现成的基础设施,让agent真正把精力放在决策和执行上。