Apa itu robots.txt?
Robots.txt adalah perintah bagi robot mesin pencari untuk menelusuri atau tidak menelusuri halaman pada blog kita. Boleh dikatakan robots.txt adalah filter blog kita dari mesin pencari.Apakah setiap blog mempunyai robots.txt?
Ya, semua blog sudah mempunyai robots.txt yang diberikan oleh blogger. Secara default robots.txt pada blog seperti ini :- User-agent: Mediapartners-Google ( user agent milik google menandakan bahwa blog ini adalah partner dari google )
- Disallow: ( Yang tidak diperbolehkan tidak ada )
- User-agent: * ( Semua robot Search Engine / mesin pencari )
- Disallow: /search ( Tidak diperbolehkan merayapi folder search dan setrusnya, seperti ..../search/label dan ... search/search?updated... )
- Allow: / ( Mengizinkan semua halaman untuk dirayapi, kecuali yang tertulis pada Disallow di atas. Tanda [ / ]kurang lebih artinya nama blog )
- Sitemap: http://namablog/feeds/posts/default?orderby=UPDATED ( sitemap atau alamat feed blog )
User-agent: Mediapartners-Google Disallow: User-agent: Googlebot Allow: / Disallow: /search Disallow: /?m=1 Disallow: /?m=0 Disallow: /*?m=1 Disallow: /*?m=0 Disallow: /*/*/*.html?showComment=* Disallow: /p/about.html User-agent:* Allow: / Disallow: /search Disallow: /?m=1 Disallow: /?m=0 Disallow: /*?m=1 Disallow: /*?m=0 Disallow: /*/*/*.html?showComment=* Disallow: /p/about.html Sitemap: https://www.pakar-teknologi.blogspot.com/feeds/posts/default?orderby=UPDATED
Silahkan ganti https://www.pakar-teknologi.blogspot.com dengan link sobat. Lalu tekan simpan perubahan.