Kehitysvaiheessa

Robots.txt-generaattori |

Mainos

Yleiset ohjeet

Määritä kaikkien indeksointirobottien oletustoiminta ennen kerrostuksen ohituksia.

Aseta yleinen sallimis- tai estosääntö käyttäjäagentille: *.

Rajoita indeksointirobottien käyttöä, jos palvelimesi tarvitsee hengähdystauon.

Valinnainen isäntädirektiivi peilatuille verkkotunnuksille.

Yksi polku riviä kohden. Tukee jokerimerkkejä ja lopussa olevia kauttaviivoja.

Varmista, että tietyt kansiot pysyvät indeksoitavissa, vaikka laajemmat polut olisivat estetty.

Anna yksi sivustokartan URL-osoite riviä kohden. Lisää muita sivustokarttaindeksejä, jos sinulla on niitä.

Yleiset ryömijät

Vaihda kokonaan estettävät indeksointirobotit päälle/pois. Anna niiden käyttää yllä olevaa oletussääntöä.

Mukautetut säännöt

Lisää käyttäjäagentteja, joissa on räätälöityjä sallimis- tai estokäskyjä, indeksointiviiveitä ja sivustokarttavinjekttejä.

Kopioi yllä oleva luotu tiedosto ja lataa se verkkotunnuksesi juureen nimellä robots.txt.

Luo robots.txt-tiedostoja hallitaksesi hakukoneen indeksointia.
Table of Contents

Robots.txt on pieni tekstitiedosto, joka ohjaa hakubotteja sivustossasi.

Käytä robots.txt-tiedostoa estääksesi alueita, kuten järjestelmänvalvojasivuja, esityskansioita, testi-URL-osoitteita, suodatinsivuja ja polkujen kaksoiskappaleita.

Robots.txt on osa robottien poissulkemisstandardia.

omaverkkotunnus.com/robots.txt

Hakukoneet tarkistavat tämän tiedoston usein aikaisin, koska se antaa heille selkeät indeksointiohjeet.

Yksi ​​tärkeä kohta:

  • Robots.txt hallitsee indeksointia
  • Se ei takaa indeksointia

Jos haluat varmistaa, että sivu voi näkyä hakutuloksissa, käytä indeksoitavuuden tarkistusta.

Hakukoneet eivät indeksoi jokaista sivua joka päivä.

Jos sivustosi on hidas tai palauttaa virheitä, indeksointirobotit voivat käydä harvemmilla sivuilla ajon aikana.

Saat parhaat tulokset käyttämällä robots.txt-tiedostoa sivustokartan kanssa:

  • Robots.txt opastaa robotteja indeksoitavissa tai ohitettavissa
  • Sivustokartassa on luettelo sivuista, jotka haluat indeksoida

Robots.txt-tiedosto käyttää muutamia yksinkertaisia ​​ohjeita.

  • User-agent
  • Asettaa mihin bottiin sääntö koskee
  • Estä
  • Estää kansion tai polun indeksoinnin
  • Salli
  • Avaa tietyn polun estetyn kansion sisällä
  • Indeksoinnin viive
  • Pyytää hitaampaa indeksointia joillekin boteille (kaikki robotit eivät seuraa sitä)

Pieni virhe voi estää tärkeitä sivuja, mukaan lukien avainluokat tai keskeiset aloitussivut.

WordPress voi luoda monia URL-osoitteita, jotka eivät auta SEO:ta, kuten sisäiset hakusivut, jotkin arkistosivut ja parametripohjaiset URL-osoitteet.

Jopa pienemmillä sivustoilla puhdas robots.txt-tiedosto on älykäs asennus.

Sivustokartta auttaa hakukoneita löytämään sivut, jotka haluat indeksoida.

  • Sivustokartta parantaa löytämistä
  • Robots.txt hallitsee indeksointia

Useimmat verkkosivustot hyötyvät molempien käytöstä.

Robots.txt on yksinkertainen, mutta se ei ole anteeksiantava.

Aseta oletuskäyttöoikeus

Valitse, voivatko kaikki robotit indeksoida sivustosi oletuksena.

Lisää sivustokarttasi URL-osoite

Sisällytä sivustokarttasi, jotta indeksointirobotit löytävät tärkeät sivusi nopeammin.

Lisää kiellettyjä polkuja huolellisesti

Estä vain se, mitä et todellakaan halua indeksoivan.

/admin/ tai /search/

Tarkista ennen julkaisua

Tarkista, ettet estänyt kotisivuasi, blogiasi, luokkasivujasi tai pääpalvelusivujasi.

Robots.txt on osa teknistä hakukoneoptimointia.