技術 SEO 基礎:URL、canonical、robots.txt、sitemap

技術 SEO 的這四項基礎,核心是分工明確:URL 負責頁面識別,canonical 負責合併重複頁面的訊號,robots.txt 負責控制爬蟲可不可以抓,sitemap 負責告訴搜尋引擎有哪些重要頁面可優先發現。

  • URL

    • URL 是頁面的唯一地址,也是搜尋引擎理解頁面內容與版本的重要訊號。
    • 實務上應盡量維持簡短、可讀、穩定,避免不必要參數,因為參數過多容易造成重複內容與版本分裂問題。
    • 若 URL 必須更動,通常要搭配 301 轉址,避免收錄與權重分散。
  • canonical

    • canonical(rel="canonical")用來指定某頁的標準版本 URL,常見於內容相同或相近、但網址不同的情況。
    • 它應放在 HTML <head> 中,並指向可正常開啟、可索引的正式頁面。
    • Google 明確指出,不應把 robots.txt 當成正規化工具,也不應用 URL 刪除工具做正規化。
    • 同一組重複頁面不要同時用不同正規化方式指向不同版本,例如 sitemap 指一個 URL、canonical 又指另一個 URL。
  • robots.txt

    • robots.txt 是放在網站根目錄的純文字檔,用來告訴搜尋引擎哪些路徑可抓取、哪些路徑應避開。
    • 常見指令包括 User-agent、Disallow、Allow,也可以用 Sitemap 指定 sitemap 位置。
    • 重要觀念是:robots.txt 主要是控制抓取,不是用來解決重複內容或正規化問題。
    • Disallow 的頁面,搜尋引擎通常無法正常評估它和其他頁面的關係,因此不適合作為 canonical 的替代方案。
  • sitemap

    • XML sitemap 是列出網站重要頁面的檔案,幫助搜尋引擎更快發現與理解網站架構。
    • sitemap 應優先放入你希望被索引的正式頁面,且通常應回傳 200 狀態碼。
    • 不建議把 404 頁、已轉址頁、noindex 頁、被 robots.txt 擋住的頁面放進 sitemap。
    • sitemap 常見做法是放在網站根目錄,例如 /sitemap.xml,也可以在 robots.txt 中用 Sitemap: 宣告位置。
  • 四者如何一起配合

    • URL 決定每個頁面的地址。
    • canonical 告訴搜尋引擎「哪個版本是主版本」。
    • robots.txt 控制哪些路徑可以被抓取。
    • sitemap 告訴搜尋引擎哪些頁面值得優先發現。

如果你要,我可以再整理成一份新手版技術 SEO 檢查清單,或直接給你一份可套用的 robots.txt + sitemap + canonical 範例。

來自網路的圖片

你可能也會喜歡