当 AI Agent 开始替人读网页、做研究、跑自动化流程时,行业真正的瓶颈已经从“模型能力本身”,变成了“它能不能在正确的时间拿到正确、干净、足量的信息”。
众所周知,Deep Research、浏览器 Agent、各类自动化工作流,本质上都在做同一件事——替人去读网页。可今天的网页是为人眼设计的:导航、广告、弹窗、脚本、动态渲染……人一眼就能略过,模型却要为每一个无效 Token 买单。更棘手的是时效——模型的记忆停在过去,而 Agent 要回答的是此刻。
所以对于 Agent 来说:一是要筛出干净内容,二是要找到最新信息。
于是,一个新的基础设施层正在成形:面向 AI 的 Web 接口。
Dataify 这次发布的 AI Web API 1.0,切入的正是这一层。
接下来进入实测环节。
我们对 AI Web API 的三项能力进行了实测
先展示大家最关心的指标,然后再测:
P50 < 1.5s
P90 < 3s
成功率 > 99.9%
三个接口实测下来,我最直观的感受是:搜索结果带着标题、摘要和来源,正文能按需转成 Markdown,站点页面也能先整理成清单。对使用者来说,拿到结果后继续筛选、阅读和处理,路径比较清楚。
功能1 Search API
Search 通过 unique_id=search_web 指定工具,用 query 传入关键词,source 指定搜索类型(示例为 web),再由 max_results、country、language 控制返回数量与地区语言。
输入 · Python
print(response.text)响应示例 · JSON
]直接返回经去重、排序的数组,每条包含 title、url、snippet,部分结果还会带 date。
把 extract_content 设为 true 时,还可以在搜索结果中一并取回正文,使用者不必再分别拼接“搜索 API+网页采集+正文解析”三套流程。搜索不再只是返回一串 URL,而可以直接成为内容处理的起点。
图 1|Search 控制台返回结果(JSON 视图)
功能2 Extract API
找到页面之后,下一个问题是:网页到底该怎么读?
如果把完整 HTML 直接塞给模型,导航栏、按钮、脚本和页脚也会一起进入上下文。信息不少,真正有用的内容却可能只有一部分。
Extract 的思路很直接:传入 URL,按任务选择需要的内容形式。
目前支持提取 Markdown、原始 HTML、清洗后的 HTML 和页面链接;开启 only_main_content 后,可以进一步聚焦正文区域。
以抓取dataify.com为例:
输入 · Python
print(response.text)响应示例 · Markdown(节选)
…(后略:完整返回还包含该页面的其他正文与链接)
图 2|Extract 控制台返回结果(Markdown 视图)
从返回看,页面内容已经转成 Markdown,省去了自行解析 HTML 的步骤。示例中仍保留了“正在请求…”等界面文字,使用时可以继续按任务筛选。
这些内容可以交给模型总结,或在应用侧继续切片、向量化和入库;返回的页面链接也能作为后续采集入口。
功能3 Map API
Extract 提取单页内容,Map 则帮助发现站点中的页面。
输入一个起始 URL,Map 可以发现站点内的页面地址、标题和描述。通过 domain_filter、limit 和 sitemap 等参数,还能控制发现范围、数量及站点地图的使用方式。
它适合处理另一类问题:“这个文档站里到底有哪些页面”。
比如搭建产品文档知识库时,可以先用 Map 找到页面入口,再逐页调用 Extract 提取正文;做竞品研究时,也可以先盘点官网内容,再选择需要深入分析的页面。
以抓取dataify.com为例:
输入 · Python
print(response.text)响应示例 · Links 视图
https://www.dataify.com/products/dataset/store/dataset-vimeo_user_result控制台的 Links 视图把结果按行展示;API 原始响应为 JSON 数组 [{"url": "..."}],返回上限由 limit 控制。
图 3|Map 控制台返回结果(Links 视图)
到这里,三项能力的分工就清楚了:
Search 检索相关网页,Extract 提取页面内容,Map 发现站点页面。
这两类使用者能用 AI Web API 做什么?
大模型厂商
RL 强化学习阶段
在需要联网检索的强化学习任务中,用 Search 查找相关网页,再按需提取正文,为模型训练信息检索、证据使用与复杂任务求解能力提供数据支持。
AI Agent 厂商
RAG 预检索增强阶段
按需提取干净正文,为 Agent 补充更新、更集中的参考内容,提升信息质量与时效性。
具体到运行过程,使用者提出问题后,Agent 先判断是否需要补充实时信息;需要时调用 Search 检索相关网页,并按需调用 Extract 提取正文,将经去重、重排与清洗后的数据用于Agent 后续推理与回答。
Dataify AI Web API 1.0 的真正价值是什么?
Dataify AI Web API 为 AI Agent 和 AI 应用提供实时、结构化、可接入的公开网页数据能力,并通过 MCP/Skills 与多模态数据服务,帮助团队更快把外部数据转化为可用数据资产。
当然,1.0 只是这条路的起点。期待后续版本在结构化输出、批量调度和更多数据源上继续演进,把“让 AI 看见此刻世界”这件事做深做透——AI 迟早都需要这样一条实时数据链路,祝 Dataify 把它做扎实、走得更远。
如果你正在做 Agent、行业研究工具或 RAG 知识库,你会如何利用 AI Web API?
如果你正在为大模型训练或 AI Agent 应用寻找干净、实时的网页数据,想进一步沟通测试需求与接入方案,可以联系 Dataify 团队:
Dataify 客户发展总监:Senlina
热门跟贴