技術 SEO 的這四項基礎,核心是分工明確:URL 負責頁面識別,canonical 負責合併重複頁面的訊號,robots.txt 負責控制爬蟲可不可以抓,sitemap 負責告訴搜尋引擎有哪些重要頁面可優先發現。
-
URL
- URL 是頁面的唯一地址,也是搜尋引擎理解頁面內容與版本的重要訊號。
- 實務上應盡量維持簡短、可讀、穩定,避免不必要參數,因為參數過多容易造成重複內容與版本分裂問題。
- 若 URL 必須更動,通常要搭配 301 轉址,避免收錄與權重分散。
-
canonical
- canonical(
rel="canonical")用來指定某頁的標準版本 URL,常見於內容相同或相近、但網址不同的情況。 - 它應放在 HTML
<head>中,並指向可正常開啟、可索引的正式頁面。 - Google 明確指出,不應把 robots.txt 當成正規化工具,也不應用 URL 刪除工具做正規化。
- 同一組重複頁面不要同時用不同正規化方式指向不同版本,例如 sitemap 指一個 URL、canonical 又指另一個 URL。
- canonical(
-
robots.txt
robots.txt是放在網站根目錄的純文字檔,用來告訴搜尋引擎哪些路徑可抓取、哪些路徑應避開。- 常見指令包括 User-agent、Disallow、Allow,也可以用 Sitemap 指定 sitemap 位置。
- 重要觀念是:
robots.txt主要是控制抓取,不是用來解決重複內容或正規化問題。 - 被
Disallow的頁面,搜尋引擎通常無法正常評估它和其他頁面的關係,因此不適合作為 canonical 的替代方案。
-
sitemap
- XML sitemap 是列出網站重要頁面的檔案,幫助搜尋引擎更快發現與理解網站架構。
- sitemap 應優先放入你希望被索引的正式頁面,且通常應回傳 200 狀態碼。
- 不建議把 404 頁、已轉址頁、noindex 頁、被 robots.txt 擋住的頁面放進 sitemap。
- sitemap 常見做法是放在網站根目錄,例如
/sitemap.xml,也可以在robots.txt中用Sitemap:宣告位置。
-
四者如何一起配合
- URL 決定每個頁面的地址。
- canonical 告訴搜尋引擎「哪個版本是主版本」。
- robots.txt 控制哪些路徑可以被抓取。
- sitemap 告訴搜尋引擎哪些頁面值得優先發現。
如果你要,我可以再整理成一份新手版技術 SEO 檢查清單,或直接給你一份可套用的 robots.txt + sitemap + canonical 範例。
