El fichero robots.txt es una herramienta vital para la gestión de cómo los rastreadores exploran tu página web . Permite indicar a los bots qué secciones pueden ser indexadas , evitando problemas https://www.jaimebermejo.com/guia-seo-para-principiantes/