← nitronium.dev

robots.txt ile llms.txt çelişmemeli

2026-06-04
llms.txt'te AI crawler'lara önerdiğin endpoint'i robots.txt'te Disallow edersen crawler'lar erişemez — llms.txt'in tamamı etkisiz kalır.

`

robots.txt — YANLIŞ


Disallow: /api.php?action=notes&format=text

llms.txt — ÇELİŞKİ


GET https://site.com/api.php?action=notes&format=text ← önerilen endpoint
`

Kural: llms.txt'te listelediğin her URL robots.txt'te Allow edilmiş olmalı.