# ============================================================================== # MandarinClips Production Robots Policy (Optimized for Crawl Budget & SEO) # ============================================================================== User-agent: * # 1. 🛡️ 阻断 Cloudflare CDN 内部探针与推测规则路径 (消灭边缘探针) Disallow: /cdn-cgi/ # 2. 🛡️ 阻断纯 JSON API 接口端点 (防止产生“其他文件类型”) Disallow: /api/ Disallow: /*/api/ # 3. 🛡️ 彻底封堵站内搜索与无意义动态参数黑洞 # (说明:保留 /expressions?page=2 等大盘分页抓取,仅拦截搜索与无序过滤参数) Disallow: /search Disallow: /*/search Disallow: /*?*q=* Disallow: /*?*scene=* Disallow: /*?*duration=* Disallow: /*?*has_expr=* Disallow: /*?*has_grammar=* Disallow: /*?*sort=* Disallow: /*?*limit=* Disallow: /*?*ref=* Disallow: /*?*_rsc=* # 4. 🛡️ 阻断用户私有工作区与认证授权路径 Disallow: /auth/ Disallow: /*/auth Disallow: /favorites/ Disallow: /*/favorites # 5. 🛡️ 确保切片详情页只抓取纯净规范 URL (阻断带任意 query 参数的切片) Disallow: /*/clip/*?* # 6. ✅ 明确放行静态样式、脚本与主地图 (确保 Googlebot 完整渲染前端) Allow: /assets/ Allow: /*/assets/ Allow: /sitemap.xml # 7. 🗺️ 指定权威站点地图索引 (单一真实地图) Sitemap: https://www.mandarinclips.com/sitemap.xml # ============================================================================== # 专用策略:彻底阻断 Google 视频专用爬虫 (切片已转为图文教学资源,停止视频抓取) # ============================================================================== User-agent: Googlebot-Video Disallow: /