Derniers passages de robots au 23/05/25

nom		accès à	Pays
IP 216.73.216.220		2 pages en 5s	ÉTATS-UNIS
SemrushBot	crawler	1 page	ÉTATS-UNIS
IP 216.73.216.153		1 page	ÉTATS-UNIS
SemrushBot	crawler	1 page	ÉTATS-UNIS
IP 216.73.216.17		1 page	ÉTATS-UNIS
IP 216.73.216.66		1 page	ÉTATS-UNIS
IP 216.73.216.78		1 page	ÉTATS-UNIS
IP 43.134.12.237		1 page	SINGAPOUR
IP 216.73.216.226		1 page	ÉTATS-UNIS
SemrushBot	crawler	1 page	ÉTATS-UNIS
SemrushBot	crawler	1 page	ÉTATS-UNIS
IP 194.246.81.112	Spammeur	1 page	PAYS-BAS
IP 141.94.194.132		1 page	FRANCE
IP 216.73.216.206		1 page	ÉTATS-UNIS
IP 185.246.210.131	Zombie	1 page	TCHÈQUE, RÉPUBLIQUE
IP 216.73.216.30		1 page	ÉTATS-UNIS
SemrushBot	crawler	1 page	ÉTATS-UNIS
IP 216.73.216.182		2 pages en 10s	ÉTATS-UNIS
IP 216.73.216.158		1 page	ÉTATS-UNIS
IP 216.73.216.194		2 pages en 3s	ÉTATS-UNIS
511 572 visites de robots identifiés environ 85 par jour en 2025 170 aujourd'hui à 20:24 (+1 visiteurs) zombies : 13 visites / 14 requêtes - spammeurs : 32 visites

D'où proviennent ces informations ?

Elles ont été obtenues à partir de $_SERVER["HTTP_USER_AGENT"] -$HTTP_USER_AGENT avec PHP 3-, $_SERVER ["QUERY_STRING"], $_SERVER ["SCRIPT_NAME"] et gethostbyaddr().
Elles sont faussées par le filtre parfois mis en place par l'hébergeur (free.fr).
Dans les statistiques du site, les robots ne sont pas considérés comme des visiteurs, le navigateur et le pays d'origine qu'ils annoncent sont ignorés.
S'ils consultent plusieurs pages, ils ne sont pris en compte qu'une fois (sauf s'ils ne reviennent qu'après plus de 10 minutes - plus de 30 minutes pour Google Desktop, semrush, Bytespider).
La liste des visites est indicative car elle suppose une connexion parfaite avec MySQL, ce qui n'est pas le cas pour ce site. Mais l'hébergement est gratuit, alors ...

Les robots représentent au moins 78 % des visites en 2025 répartis ainsi :

30,97% de ces visites sont les robots de moteurs de recherche, d'indexation de pages, d'analyse des informations, de vérification des liens ou du code, d'optimisation SEO...
18,27 % proviennent de spammeurs (60,14 % tentent d'envoyer des emails, les 39,86 % restants spamment les fichiers journaux).
50,75 % recherchent des vulnérabilités.

Détection du robot

Cette routine est commentée dans la page sur les pièges à robots.
Il est nécessaire de stocker les identificateurs des autres visiteurs pour compléter la liste des robots qui fréquentent le site et celle de leurs "User Agents".
$UA=$_SERVER["HTTP_USER_AGENT"]; $no_ip=$_SERVER["REMOTE_ADDR"]; $brow = strtolower($UA);//en minuscules pour toutes les versions $bots = array ("googlebot","webcrawler","grub.org","slurp","openfind","antibot", "netresearchserver","nutch","ia_archiver","scooter","fluffy"); /* grâce à la liste des identificateurs, on ajoute la partie significative du nom des autres robots en minuscules dans le tableau $bots Comme la connexion à MySQL ne fonctionne pas 100% du temps, j'utilise un tableau afin que les robots reçoivent toujours une page allégée. */ $n=0; do { $robot = strchr($brow,$bots[$n]); $n=$n+1; }while ((!$robot) && ($n<count($bots))); //pour robots qui ne s'identifient pas avec $HTTP_USER_AGENT if (!$robot) { $robot=strchr(gethostbyaddr($no_ip),".dir.com"); //etc } //

La base de données

Voici la structure de la table robots que j'utilise :

#
# Structure de la table `robots`
#
CREATE TABLE `robots` (
  `heureacces` int(10) unsigned NOT NULL default '0',
  `heurearrivee` int(10) unsigned NOT NULL default '0',
  `nom` varchar(64) NOT NULL default '',
  `dernierepage` varchar(30) NOT NULL default '',
  `nombrepages` mediumint(8) unsigned NOT NULL default '0',
  KEY `heureacces` (`heureacces`),
  KEY `heurearrivee` (`heurearrivee`),
  KEY `nom` (`nom`),
  KEY `nombrepages` (`nombrepages`)
) TYPE=MyISAM;

En fonction de la place occupée par chaque champ chez votre prestataire, choisissez double ou datetime pour les heures, double ou int pour nombrepages, si nécessaire augmentez le nombre de caractères pour dernierepage.

Mise à jour de la base de données

//connexion au serveur $serveur=mysql_connect("votre hôte","votre nom d'utilisateur","votre mot de passe"); $base=mysql_select_db("votre base",$serveur); //on initialise les heures $heureacces=time(); $heureaccesmoinsdix=$heureacces-600; if ($robot!="") { $result=@mysql_query ("SELECT COUNT(`heureacces`) FROM `robots`"); $test=@mysql_fetch_row ($result); //On fait le ménage de temps en temps if ($test[0]>100) { $result=@mysql_query ("SELECT `heureacces` FROM `robots` ORDER BY `heureacces` LIMIT 80,1"); $test=@mysql_fetch_row ($result); $result=@mysql_query ("DELETE FROM `robots` WHERE `heureacces`<'$test[0]'"); $result=@mysql_query ("OPTIMIZE TABLE `robots`"); } /* Beaucoup de robots ont une adresse IP allouée dynamiquement, il vaut mieux s'appuyer sur le nom trouvé même si plusieurs versions peuvent arriver en même temps. Le robot a-t-il chargé une page dans les 600 dernières secondes ? */ $result=@mysql_query ("SELECT * FROM `robots` WHERE `nom`='$robot' AND `heureacces`>$heureaccesmoinsdix"); $test=@mysql_fetch_row ($result); $page_self=$_SERVER["REQUEST_URI"];//$PHP_SELF pour PHP 3 if (empty($test[0])) { //C'est la première page lue $result=@mysql_query ("INSERT INTO `robots` (`heureacces`,`heurearrivee`,`nom`,`dernierepage`,`nombrepages`) VALUES ('$heureacces','$heureacces','$robot','$page_self','1');"); } else { //On met à jour l'heure d'accès $result=@mysql_query ("UPDATE `robots` SET `heureacces`=$heureacces WHERE `nom`='$robot' AND `heureacces`>$heureaccesmoinsdix"); //On récupère dernierepage et nombrepages $result=@mysql_query ("SELECT * FROM `robots` WHERE `nom`='$robot' AND `heureacces`='$heureacces'"); $res=@mysql_fetch_row ($result); if ($page_self!=$res[3]) { //C'est une nouvelle page qui a été chargée //On met donc à jour $result=@mysql_query ("UPDATE `robots` SET `dernierepage`='$page_self',`nombrepages`=nombrepages+1 WHERE `nom`='$robot' AND `heureacces`='$heureacces'"); } //Et voilà ! On peut sans doute faire mieux. } } else { /* on peut faire de même pour les autres visiteurs avec l'adresse IP ou enregistrer les $HTTP_USER_AGENT pour une mise à jour du tableau $bots. */ }

Affichage des données

Nous disposons donc du nom du robot, de l'heure d'arrivée, de l'heure de la dernière page lue et du nombre de pages lues.
S'il n'y a qu'une page et des heures différentes, c'est que la page a été actualisée.
J'ai choisi d'afficher le nombre de pages lues et le temps passé à les lire.
//connexion au serveur $serveur=mysql_connect("votre hôte","votre nom d'utilisateur","votre mot de passe"); $base=mysql_select_db("votre base",$serveur); //sélection des 20 derniers enregistrements $result=@mysql_query ("SELECT COUNT('heureacces') FROM `robots`"); $nombre_enreg=@mysql_fetch_row ($result); $depart=$nombre_enreg[0]-20;if ($depart<0){$depart=0;} $result=@mysql_query ("SELECT * FROM `robots` ORDER BY `heurearrivee` LIMIT $depart,20"); // while ($tableau=@mysql_fetch_row ($result)) { //calcul du temps de lecture $tpslect=$tableau[0]-$tableau[1]; if ($tpslect>60) { $tpslect=Floor($tpslect/60)."'".$tpslect % 60; } //affichage du nom nombre et temps echo "$tableau[2] $tableau[4] pages en $tpslect''<br>"; }

Voilà pour le principe, à vous de voir ce que vous voulez afficher ou calculer.

Un script du même type est maintenant disponible ici

Haut de la page

Avec javascript