¿Qué es una araña?

Una araña es un programa o script escrito para navegar en la World Wide Web de manera sistemática con el fin de indexar sitios web. Una araña también puede denominarse un robot web, rastreador web o robot web .

Por ejemplo, las arañas se utilizan a menudo para reunir palabras clave de páginas web que luego se clasifican para que los usuarios puedan localizar dichas páginas a través de un motor de búsqueda en Internet.

Bots, Rastreo, términos de Internet, Robot, Robots.txt, página web, sitio web