.htaccess -
deny from all
robots.txt -
User-agent: *
Disallow: /files/
User-agent: Yandex
Disallow: /files/
Host: mysite.ru
Я хочу, чтобы роботы индексировали текстовые файлы и не индексировали картинки и фотографии в папке /files.
Я спрашиваю потому, что не полностью понимаю разницу между этими файлами. Влияет ли файл .htaccess на индексацию роботами? Дайте, пожалуйста ссылку, где хорошо разжёвано про них, с кучей примеров.
Спасибо.