Skip to main content

案例應用

#013🔨 Chrome MCP 瀏覽器自動化:爬蟲

世界上最簡單、最強大的爬蟲工具。一句話就爬取任何網站。

AI Agent 就像魔法世界,你只要有對的咒語(工具名稱),魔法就會發生。我會帶你認識這些工具,以及它們能為你做什麼。

本案例中所使用的工具:Codex App + Chrome MCP。

Chrome MCP 是什麼?


Chrome MCP,全名是 Chrome DevTools MCP:它是提供給 Agent 使用的瀏覽器操作工具,讓Agent可以讀取並控制 Chrome。

只要對你的 Claude Code / Codex 說這個關鍵字,就可以完成瀏覽器的自動化。


可以做什麼?


今日案例:「網頁爬蟲」

以前你是叫 AI 幫你寫爬蟲;現在是直接叫 AI Agent 去爬。
只要一句話,什麼網站都可以爬。不會有比這一個更簡單,更強大的工具了。

過去,要做一個爬蟲:

  • 你要花很多力氣,對你很麻煩
  • 結果準確率低(Browser MCP 正確率是 70%)
  • 會遇到 Cloudflare 阻擋

現在:

  • 只要對的關鍵字,一句話就好,非常簡單
  • 100% 的準確率
  • 任何網站都可以爬

如何使用

第一次使用,你需要跟 Claude Code / Codex 說:

幫我安裝 Chrome DevTools MCP

安裝過後,你接下來每次使用,只要跟 Claude Code / Codex 說:

用 Chrome MCP 抓取 [你要的網站]

就可以爬取以下網站:

  • Instagram
  • Facebook
  • Threads
  • ChatGPT
  • Dcard
  • Google Maps
  • Booking.com

✨ Dcard、ChatGPT 都有 Cloudflare 保護,過去會無法爬取,但現在只要一句話就可以。👍


小試身手

我請 Codex 爬取,每一個網站都是第一次就成功 😎:

Instagram

用 Chrome MCP 爬取 https://www.instagram.com/muyueh.l/ 貼文:

Facebook

用 Chrome MCP 爬取 https://www.facebook.com/muyueh.l 最近 10 則貼文:

Dcard

用 Chrome MCP 爬取 Dcard 感情版,最熱門的 10 篇文章:

Threads

用 Chrome MCP 爬取 https://www.threads.com/muyueh.l 最近 10 篇文章:

ChatGPT 對話紀錄

用 Chrome MCP 爬取 chatgpt.com 最近 10 個對話紀錄:

Google Maps

用 Chrome MCP 爬取 Google Maps 大安區台北甜點店

Booking.com

用 Chrome MCP 爬取 Booking.com 今天台北的飯店,兩人,五星級:

㊙️ 跟你分享我的小技巧


1.多個 Subagents 同時進行


假如你想要更快爬取網站,你可以對 Codex 說:

使用最大量的 Subagents,平行爬取
  • 這樣 Codex 會從 1 個執行緒,變成 6 個平行執行緒,爬取速度會更快。
  • 小心速度太快,會被限流。

2.私接底層 API

除了能讓Agent 爬取前端網頁,這個工具真正厲害的地方在於它能直接找出網頁背後的 API 接口。

透過 API 抓取資料,速度更快、資料更完整。

幫我找到這一個網頁的 API,我希望用 API 的方式抓取資料。
黑白漫畫:一般爬蟲像在沙拉裡挑番茄,私接 API 像直接衝進廚房拿整箱番茄

3.預防阻擋

有時候網站會偵測到你抓取速度太快,你會被阻擋。這個時候你可以跟 Codex 說:

抓取的速度不要那麼快
  • Codex 會在每一個爬蟲之間增加等待時間,讓你比較不會被阻擋。

⚠️ 注意事項

  • 你需要桌機版的 AI Agent 才可以使用 Chrome MCP:
    • ✅:Claude Code / Claude Code Desktop/ Codex CLI / Codex App / Gemini CLI。
    • ❌:Claude Code Web/ Codex Web (網頁版現在不能安裝 MCP)。
  • 違反對方網站的使用者條款,爬取對方網站,會符合《刑法》第359條:「無故取得、刪除或變更他人電腦或其相關設備之電磁紀錄」。這是要坐牢的。詳見我們去年的案例:七法

慕約的話

AI Agent 很簡單,你不需要學習怎麼使用,但你需要知道對的關鍵字。

就像魔法一樣,唸出對的咒語,就會有魔法發生。

Chrome MCP 可以做瀏覽器的自動化,除了爬蟲,還可以操作瀏覽器,下一個案例我會教你怎麼樣用它在 KKTIX 上買票。

歡迎你寫信到 [email protected] 告訴我你用這一個工具爬了什麼網站。我會把同學的案例彙整成一封信(上面會有你的署名),然後寄給大家分享。