Menurut matt cuts, salah satu enginer Google, ada dua elemem penting pada bagian content. Namun yang akan kubahas kali ini cuma 1 aja. Kalo dua-duanya nanti nyimpang dari judul dong… Lalu perlu diingat, kalo kamu memang benar-benar pecinta google, jangan sekali sekali membuka artikel ini. Tapi karena penting untuk SEO, jadi buka aja… 
Dalam membaca isi web kita, google menggunakan sebuah robot *crawler* yang diberi nama googlebot. Waktu kemarin aku baca2 artikel di cosaaranda.com tentang SEO, ada artikel tentang kunci SEO 2008 yang menyebutkan bahwa salah satu kunci SEO adalah keaslian content. Ini kutipannya
Yang pertama adalah orisinalitas atau keaslian content. Sudah bukan hal yang mengagetkan kalau original content digadang-gadang sebagai salah satu parameter utama dalam penentuan SERP
Itu berarti bahwa di web atau blog kita gak boleh ada duplicate artikel. Tapi crawler google sendiri ternyata bodoh (baca:kurang cerdik) dalam mencari artikel. Bagi pengguna wordpress, satu-satunya jalan untuk masuk ke blog kita adalah wp-admin. Seluruh tampilan dan tulisan wp-admin di seluruh dunia itu sama. Dan ternyata, crawler google juga mengindex halaman tersebut. Nah, mungkin itu adalah pengcopyan artikel terbanyak di jagad web. Berarti blog kita termasuk blog peng copy artikel dong? Betul sekali!!!
Untuk itu, kita perlu mencegah googlebot untuk mengindex halaman itu atau menghapusnya sudah terlanjur. Caranya dengan membuat file robots.txt . File ini berfungsi untuk mengarahkan crawler dari SE ke bagian yang boleh diindex dan yang tidak boleh diindex.
Untuk cara membuatnya, lihat web2 di bawah ini :
Meningkatkan SEO Blog Wordpress Dengan robots.txt
Apa itu robots.txt?
Penjelasan robots.txt
Catatan: hati2 ketika membuat file robots.txt nama dan isi harus benar. Jika terjadi kesalahan, bisa2 robot berhenti mengunjungi web anda. Jika terjadi sesuatu terjadi dalam hasil pencarian blogmu, hapus saja file robots.txt dari hostingmu. Thanks






By pututik on Feb 25, 2008
harusnya diberi contoh robot yang baik dan easy crwal gitu mas
Reply : Maunya sih gitu… tapi takut salah… jadi kasih link rujukan aja hehehe
[Reply]
By mbah gendeng on Aug 2, 2008
punyaku error terus so y ud aku biarin aj deh toh bagiku g terlalu penting kok
[Reply]