1- Avantages :
La gestion du budget d’exploration
Si vous bloquez des sections de votre site avec l’araignée du moteur de recherche, il vous sera possible d’autoriser l’utilisation de votre budget d’exploration pour d’autres sections.
Le budget d’exploration c’est lorsque une araignée arrive sur un site avec une allocation déjà fixée pour le nombre de pages qu’elle parcourra ou encore ( combien de ressources, de temps elle dépensera, en fonction de l’autorité/ de la taille/ de la réputation d’un site.)
Il est aussi bien de bloquer l’exploration des sections problématiques de votre site, surtout ceux dont les sites doivent être régulièrement nettoyé en SEO. Et une fois réglé vous pouvez les laisser rentrer.
2- Inconvénients :
Il ne faut pas diffuser la valeur du lien. Un moteur de recherche ne peut pas répartir la valeur d’un lien entre les liens de cette page s’il ne peut pas parcourir cette page. Une page bloquée avec robot.txt , toute valeur de lien qui devrait être vers et traverser cette page est perdue.