Robots.txt Checker
Rufen Sie die robots.txt-Datei jeder Website ab und analysieren Sie sie. Sehen Sie Regeln pro User-Agent, finden Sie Sitemap-URLs und testen Sie, ob eine URL blockiert ist. Kostenlos, ohne Konto.
Enter a domain without protocol (e.g., example.com). Fetched via CORS proxy.
About Robots.txt Checker
Analysieren Sie die robots.txt-Datei jeder Website, um zu verstehen, wie Suchmaschinen angewiesen werden, die Website zu crawlen. Extrahieren Sie Regeln pro User-Agent, finden Sie Sitemap-Verweise und testen Sie URL-Pfade gegen Blockierungsregeln. Alles in Ihrem Browser.
robots.txt parsen
Extrahieren Sie alle Regeln aus jeder robots.txt: User-Agent-Direktiven, Allow/Disallow-Regeln, Crawl-Delay und Sitemap-URLs. Strukturierte Tabellen pro Agent.
URL gegen Regeln testen
Überprüfen Sie, ob ein bestimmter URL-Pfad durch die robots.txt-Regeln blockiert würde. Sehen Sie, welche Regel zutrifft und ob der Pfad erlaubt oder verboten ist.
Sitemap-Erkennung
Extrahieren Sie automatisch alle Sitemap-Direktiven aus der robots.txt-Datei. Verpassen Sie nie eine Sitemap-URL bei einem SEO-Audit.
Rohansicht & Zusammenfassung
Sehen Sie die vollständige rohe robots.txt zusammen mit strukturierten Statistiken: Gesamtregeln, gefundene User-Agents und Sitemap-Verweise. Kopieren Sie den Rohinhalt für weitere Analysen.