Как Гугъл индексира Вашия сайт
Нека да започнем първо с обяснението на въпроса “Какво е бот?”
Това е софтуер създаден за да помага на търсачката да обхожда всяка една страница на Вашия сайт, да я категоризира и да я сложи в база данни.
Гугъл има три добре познати бота: Adsense бот, Freshbot и DeepCrawl.
Adsense бота, както вероятно бихте могли да предположите, е използван за издателите, които имат Adsense на техните сайтове. Веднага след като нова страница бъде създадена, JavaScript в Adsense кода изпраща съобщение до Adsense бота, и той влеза в на страницата в рамките на 15 минути за да я обходи, така че тя да може да показва най-подходящите реклами.
Но за този разговор ние сме загрижени най-вече относно DeepCrawl и Freshbot.
Freshbot обхожда най-популярните страници на Вашия сайт. Няма значение дали това е една страница или хиляди.
Сайтове като Amazon.com и CNN.com имат страници, които сe обхождат всеки десет минути, тъй като Гугъл е научил, че тези страници имат чести промени. Един типичен сайт, трябва да изчаква посещение от Freshbot на всеки от 1 до 14 дни, в зависимост от това колко популярни са тези страници.
Това, което става с вашия сайт по време на посещението на Freshbot е, че той намира всички по-дълбоките връзки на вашия сайт. Той поставя тези връзки в базата данни, така че когато DeepCrawl се появи, да знае къде да обхожда.
Веднъж на месец, DeepCrawl бота обхожда сайта Ви и продължава по цялата верига от връзки намерени преди това от Freshbot. Това е причината, поради която може да отнеме до няколко седмици целия сайт да бъде индексиран в Google – дори, когато сте добавили и карта на сайт-а (sitemap).
Така че, бъдете търпеливи и продължавайте да добавяте съдържание и връзки от други сайтове към Вашия – Гугъл ще ви възнагради за това.