minicrawler

Zuletzt aktualisiert am 24. August 2025.

Konform

Was ist minicrawler?

Über

TestTomato's Website Monitoring tool

Betreiber

TestTomato

Dokumentationwww.testomato.com

Sehen Sie, wie oft minicrawler Ihre Website besucht, indem Sie Spyglasses Analytics einrichten. Tracking einrichten

Haben Sie Testomatobot/1.0 (Linux x86_64; +https://www.testomato.com/testomatobot) minicrawler/5.2.2 in Ihren Logs gefunden?

Wenn Sie Testomatobot/1.0 (Linux x86_64; +https://www.testomato.com/testomatobot) minicrawler/5.2.2 in Ihren Website-Logs gesehen haben, zeigt das, dass minicrawler Ihre Website besucht hat. Diese Agent-Zeichenkette ist einer der bekannten Identifikatoren für diesen Bot.

Testomatobot/1.0 (Linux x86_64; +https://www.testomato.com/testomatobot) minicrawler/5.2.2

Verfolgen und verwalten Sie minicrawler-Besuche auf Ihrer Website mit Spyglasses' Echtzeit-Bot-Erkennung. Tracking starten

Erwartetes Verhalten

Dieser Bot besucht Websites für verschiedene Zwecke, einschließlich Inhaltsanalyse, Datensammlung oder automatisierte Aufgaben. Sein Verhalten kann je nach spezifischer Funktion und Konfiguration variieren.

Sollte ich minicrawler blockieren?

Dieser Bot ist als konform markiert, was bedeutet, dass er im Allgemeinen robots.txt-Direktiven respektiert und gute Praktiken befolgt. Sie können wählen, ihn zu erlauben, wenn Sie möchten, dass Ihre Inhalte für seine Dienste zugänglich sind.

Empfohlene Lösung

Anstatt robots.txt-Regeln manuell zu verwalten, verwenden Sie Spyglasses, um minicrawler-Traffic automatisch mit Echtzeit-Analytics und flexiblen Blockierungsregeln zu erkennen und zu verwalten.

Automatisches Bot-Management erhalten

Wie blockiere ich minicrawler?

Sie können diesen Bot blockieren oder seinen Zugang beschränken, indem Sie User-Agent-Token-Regeln in der robots.txt-Datei Ihrer Website festlegen. Verwenden Sie Spyglasses Analytics, um zu überprüfen, ob er Ihre Regeln tatsächlich befolgt.

User-Agent-Token

minicrawlerSollte Instanzen dieses Bots erkennen

robots.txt

# robots.txt
# This should block minicrawler

User-agent: minicrawler
Disallow: /

Anstatt dies manuell zu tun, verwenden Sie Spyglasses, um Ihre Regeln automatisch mit den neuesten KI-Agenten und Crawlern auf dem aktuellen Stand zu halten. Automatisches Bot-Management einrichten

minicrawler-Traffic mit Spyglasses verwalten

Erhalten Sie Echtzeit-Benachrichtigungen, wenn Bots Ihre Website besuchen, generieren Sie automatisch robots.txt-Regeln und integrieren Sie Bot-Traffic-Daten in Ihre bestehenden Analytics-Tools.

Kostenlose Testversion starten