Что нового

Правильный ли Robots.txt к dle

  • Автор темы Автор темы ser999
  • Дата начала Дата начала
S

ser999

Гость
Disallow: /cgi-bin/Disallow: /templates/Disallow: /engine/Disallow: /languages/добавь=)
 
Вобщем составил Robots.txt ,хотелось бы уточнить правильный ли он??User-agent: *Disallow: /*printDisallow: /autobackup.phpDisallow: /admin.phpDisallow: /user/Disallow: /favorites/Disallow: /index.php?do=registerDisallow: /?do=lastcommentsDisallow: /statistics.htmlSitemap: http://сайт.ru/sitemap.xmlUser-agent: YandexHost: сайт.ru
 
Цитата: ser999User-agent: Yandexэто точно не нужно=)ты уже запретил всем роботам индексировать printautobackup.phpadmin.php/user//favorites//index.php?do=register/?do=lastcomments/statistics.htmlстрокой:User-agent: *Цитата: ser999Host: сайт.ruэто не понятно зачем? у тебя есть зеркало сайта?
 
User-agent: YandexHost: сайт.ruэтим я добавил основное зеркало для Яндекса, чтобы не было недоразумений с его стороны) можно же либо так _www.сайт.ру либо сайт.ру
 
Такой де вопрос по роботу:шарющие есть ?User-agent: *Allow: /Sitemap: http://dv-zvezda.ru/sitemap.xmlHost: dv-zvezda.ruDisallow: /cache/Disallow: /engine/Disallow: /templates/Disallow: /language/Disallow: /upgrade/Disallow: /backup/Disallow: /form/Disallow: /uploads/Disallow: /index.php?do=registerDisallow: /index.php?do=feedbackDisallow: /index.php?do=lostpasswordDisallow: /index.php?do=statsDisallow: /index.php?do=addnewsDisallow: /autobackup.phpDisallow: /admin.phpDisallow: /cgi-bin/
 
Простыми словами скажите, зачем это? и какая польза
 
Цитата: Rumorukato1Простыми словами скажите, зачем этоФайл robots.txt – это текстовый файл, находящийся в корневой директории сайта, в котором записываются специальные инструкции для поисковых роботов. Эти инструкции могут запрещать к индексации некоторые разделы или страницы на сайте, указывать на правильное «зеркалирование» домена, рекомендовать поисковому роботу соблюдать определенный временной интервал между скачиванием документов с сервера и т.д.Или проще: он запрещает индексировать роботам некоторые страницы чтобы их не было видно в поисковике
 
Вот так:User-Agent: *Disallow: /cgi-bin/Disallow: /templates/Disallow: /engine/Disallow: /languages/Host: www.skripters.bizUser-agent: YandexAllow: /Sitemap: http://skripters.biz/sitemap.xml
 
Верх