DEV Community

Tsari Bombelli
Tsari Bombelli

Posted on • Edited on • Originally published at bombelli-analytics.ch

llms.txt: Funktioniert es wirklich? Was Server-Logs zeigen

844'000 Websites liefern heute eine llms.txt aus (BuiltWith, Stand 25. Oktober 2025), und kein einziger grosser KI-Anbieter hat je bestätigt, dass seine Systeme die Datei überhaupt lesen. Das ist der ganze Widerspruch in einem Satz. Wer wissen will, ob GPTBot oder ClaudeBot die eigene Datei tatsächlich abholen, kommt an einer Stelle nicht vorbei: am eigenen Server-Log. Nicht das Tool-Dashboard, nicht der Blog-Post der nächsten Agentur. Das Access-Log. Alles andere ist Meinung.

Zur Erinnerung, kurz: llms.txt ist eine Markdown-Datei im Root der Domain, vorgeschlagen am 3. September 2024 von Jeremy Howard (Answer.AI / fast.ai). Sie soll einem KI-System helfen, die Website schneller zu erfassen, im Wortlaut der Spezifikation "provide information to help LLMs use a website at inference time". Wie die Datei aufgebaut ist, steht im Haupt-Guide zu llms.txt. Hier geht es um die andere Frage: ob das Versprechen in der Realität ankommt.

Der erste grosse Player, der sich klar geäussert hat, war Google. John Mueller schrieb im April 2025, llms.txt sei für ihn vergleichbar mit dem alten keywords-Meta-Tag, und man sehe schon an den Server-Logs, dass die KI-Dienste die Datei nicht einmal abfragen. Der Vergleich sitzt. Das keywords-Tag war eine selbstdeklarierte Angabe, die niemand gegen den echten Seiteninhalt prüfen konnte, und Google hat es aus genau diesem Grund fallen lassen. Semrush hat die Sache dann sauber getestet und auf der Schwester-Property Search Engine Land eine llms.txt ausgerollt, Mitte August bis Ende Oktober 2025. Ergebnis über zehn Wochen: null Besuche von Google-Extended, GPTBot, PerplexityBot und ClaudeBot. Ahrefs kam zum selben Schluss, Ryan Law formuliert es dort als "no evidence that llms.txt improves AI retrieval, boosts traffic, or enhances model accuracy". Auch die bisher detaillierteste öffentliche Log-Auswertung passt ins Bild: Flavio Longato hat 1'000 Adobe-Experience-Manager-Domains über 30 Tage CDN-Logs ausgewertet, Googlebot-Desktop machte 94,9 Prozent der Zugriffe auf die llms.txt-Dateien aus, OAI-SearchBot 1,1 Prozent, GPTBot, ClaudeBot und PerplexityBot tauchten gar nicht auf.

Prüfen kann man das für die eigene Domain in ein paar Minuten. Man greppt das Access-Log nach dem String llms.txt und liest die User-Agent-Spalte, bei Apache und Nginx reicht dafür eine Zeile mit grep und awk. Relevant sind die dokumentierten Bots der grossen Anbieter: GPTBot, OAI-SearchBot und ChatGPT-User von OpenAI, ClaudeBot, Claude-SearchBot und Claude-User von Anthropic, dazu PerplexityBot, Google-Extended, CCBot und Bytespider. Wer genau hinschaut, trennt dabei Trainings-Crawler, Such-Index und Live-Fetch, denn ein OAI-SearchBot-Treffer auf der llms.txt bedeutet etwas anderes als ein reiner GPTBot-Trainingsbesuch.

Ein Punkt entscheidet über die ganze Auswertung, und er wird fast immer übersehen: die Gegenprobe. Eine Null auf der llms.txt heisst für sich genommen nichts. Sie heisst erst etwas, wenn derselbe Bot woanders auf der Domain auftaucht. Crawlt GPTBot die Seite hundertmal und die llms.txt kein einziges Mal, ist das ein klares Signal für Desinteresse. Besucht GPTBot die Domain generell nie, sagt die Null über die Datei nichts, dann fehlt schlicht der Traffic. Deshalb prüfe ich immer parallel eine Vergleichs-URL, robots.txt oder eine normale Content-Seite, und setze die Zahlen ins Verhältnis. Ohne diese Relation ist der Befund wertlos.

Zwei Dinge noch zur Sauberkeit. User-Agent-Strings kann jeder fälschen, wer eine Zahl in ein Audit schreibt, sollte die IP-Ranges gegen die offiziellen Listen prüfen (OpenAI veröffentlicht sie unter gptbot.json, Anthropic unter bots.json). Und der Zeitraum: LLM-Bots crawlen seltener als Googlebot, unter zwei Wochen ist die Messung wertlos, ich rechne mit 60 bis 90 Tagen. Ehrlich gesagt ist die IP-Verifikation für die meisten KMU-Setups Over-Engineering, ich fahre sie nur, wenn eine Zahl in einen Pitch wandert. Für den ersten Blick genügt grep. Ein kleiner wöchentlicher Cron-Job, der die Befehle laufen lässt und das Ergebnis in eine Textdatei schreibt, macht daraus ein laufendes Bild, das sich sauber in ein vollständiges KI-Sichtbarkeits-Monitoring einfügt.

Meine Position nach all dem ist unaufgeregt. Liefern Sie die Datei aus. Sie kostet fast nichts, sie schadet nichts, und falls OpenAI oder Anthropic den Standard 2026 offiziell übernehmen, steht die Infrastruktur schon bereit. Wie das praktisch läuft, steht im Guide zum Hochladen und Prüfen, die Handarbeit nimmt Ihnen ein Generator ab. Nur: Erwarten Sie keine Sichtbarkeit davon. Wer heute hochlädt und nächsten Monat auf mehr Perplexity-Zitate hofft, wird enttäuscht. Das ist nicht der Wirkmechanismus, und kein Vendor-Guide behauptet ernsthaft etwas anderes. Selbst die Zehn-Sites-Studie auf Search Engine Land zeigte es: Wo der Traffic stieg, lagen parallele Änderungen vor, PR-Berichte, neue FAQs, umgebaute Produktseiten. Die llms.txt war nicht der Hebel.

Was heute wirklich Sichtbarkeit bringt, ist der langweilige Teil. Sauberes Schema.org-Markup, das im gerenderten HTML steckt und von GPTBot und ClaudeBot ohne Extra-Abfrage gelesen wird. Eine robots.txt, die klar regelt, wer den Content für KI-Training anfassen darf. Hohe Fact-Density mit konkreten Zahlen und Quellen, klar attribuierte Autoren, weil KI-Systeme Quellen bevorzugen, die beim Faktencheck standhalten. Dieses Handwerk ist messbar wirksam, wie man es umsetzt, steht in den Massnahmen für die Website-Optimierung. Die llms.txt liegt da obendrauf, als günstige Wette auf einen Fall, der vielleicht kommt. Für ein Schweizer KMU heisst das eine klare Reihenfolge: zuerst die belegten Signale sauber auf die Seite, dann die Datei. Genau so bauen wir die AEO-Leistungen bei Bombelli Analytics. Und in sechs Monaten schauen Sie wieder ins Log. Dann haben Sie Evidenz statt einer Meinung.

Top comments (0)