Generator LLMs.txt
Masukkan domain Anda. Generator LLMs.txt merayapi situs, memilih halaman yang layak ditunjukkan kepada sistem AI, mengelompokkannya ke dalam bagian, dan menulis deskripsi untuk masing-masing. Anda mendapat file llms.txt tervalidasi yang bisa disunting sebelum dipublikasikan.
Perbedaannya ada pada tahap tengah proses. Generator tidak menumpahkan peta situs Anda ke sebuah file teks: URL disaring, halaman penting didahulukan, dan deskripsi lahir dari isi halaman yang sebenarnya, bukan dari tag meta.
Cara kerjanya
- Masukkan situs Anda. Atau tunjuk sebuah peta situs, atau tempel daftar URL Anda sendiri.
- Generator LLMs.txt merayapi dan menganalisis. robots.txt, peta situs Anda, dan isi setiap halaman.
- Menyusun dan memvalidasi file. Bagian, deskripsi, dan pemeriksaan kepatuhan.
- Anda meninjau, menyunting, dan memublikasikan. Tidak ada yang keluar tanpa persetujuan Anda.
Lebih dari sekadar pengubah peta situs menjadi llms.txt
Generator sederhana melakukan satu lintasan: peta situs masuk, URL dengan meta deskripsi keluar. Begitulah halaman masuk, keranjang, dan seratus tulisan blog kosong berakhir di file yang dipublikasikan.
| Kemampuan | DiagnoSEO | Generator lain |
|---|---|---|
| Merayapi isi halaman yang sebenarnya | ✅ | Bervariasi |
| Menyaring URL tanpa nilai | ✅ | Bervariasi |
| Mendahulukan halaman penting | ✅ | Bervariasi |
| Membuat bagian yang logis | ✅ | Bervariasi |
| Menulis deskripsi dari isi halaman | ✅ | Bervariasi |
| Menulis dalam bahasa situs | ✅ | Bervariasi |
| Validasi bawaan | ✅ | Bervariasi |
| Menyunting sebelum mengunduh | ✅ | Bervariasi |
| Menampilkan URL yang dilewati dan alasannya | ✅ | Bervariasi |
| Membandingkan dengan llms.txt Anda | ✅ | Bervariasi |
| Menghasilkan llms-full.txt | ✅ | Bervariasi |
Apa yang sebenarnya dilakukan Generator LLMs.txt
- Peta situs lebih dulu. Membaca robots.txt serta menangani indeks peta situs dan peta situs terkompresi gzip.
- Perayapan cadangan. Tidak ada peta situs? Halaman ditemukan lewat tautan internal dari beranda.
- Pengambilan paralel menjaga perayapan besar tetap cepat.
- Pemilihan URL yang cerdas. Dokumentasi, produk, layanan, harga, tentang kami, dan kontak didahulukan.
- Membuang derau. Berkas, halaman masuk, keranjang, penomoran halaman, arsip tag dan tanggal, parameter filter.
- Pengecualian sendiri. Tambahkan potongan URL yang ingin dilewati, misalnya
/tag/atau?filter=. - Penyeimbangan bagian mencegah blog besar menggeser dokumentasi Anda.
- Pembersihan judul. „Harga | Merek” menjadi „Harga”.
- Bagian H2 ditambah bagian
Optionaluntuk konten sekunder. - Ringkasan dan deskripsi halaman ditulis dari isi yang sebenarnya, dalam bahasa situs Anda.
- Cadangan dari meta deskripsi bila model tidak tersedia, sehingga Anda selalu mendapat file yang bisa dipakai.
- Validasi sebelum unduhan, termasuk kriteria Chrome Lighthouse.
- Perbandingan dengan llms.txt yang sudah dipublikasikan di domain Anda.
- Sumber yang transparan. Setiap URL yang masuk tercantum dan bisa dilepas centangnya; setiap yang dilewati menunjukkan alasannya.
- llms-full.txt dengan isi halaman lengkap, dari perayapan yang sama.
Apa itu llms.txt
llms.txt adalah file Markdown yang dijelaskan dalam usulan llmstxt.org, diterbitkan oleh Jeremy Howard (Answer.AI) pada September 2024 dan diperbarui ke v2 pada Agustus 2026. Ini usulan yang digerakkan komunitas, bukan standar W3C atau IETF.
Strukturnya singkat: satu H1 berisi nama situs (satu-satunya elemen wajib), ringkasan dalam kutipan, paragraf konteks opsional, lalu bagian H2 berisi tautan Markdown, di mana titik dua mengawali catatan singkat. Bagian bernama Optional menandai konten yang boleh dilewati agen ketika konteksnya sempit.
File dapat berada di akar domain atau di jalur mana pun di dalamnya. v2 mengizinkan file bercakupan terbatas: /docs/llms.txt mencakup semua yang ada di bawah /docs/, dan agen sebaiknya memakai file paling spesifik yang berlaku.
Apa itu llms-full.txt
llms-full.txt adalah konvensi yang dipopulerkan platform dokumentasi dan bukan bagian dari spesifikasi. Alih-alih tautan berdeskripsi, file ini memuat isi lengkap halaman Anda sebagai Markdown, digabung menjadi satu dokumen.
Ia bermanfaat di tempat pengguna mengajukan pertanyaan rinci kepada asisten AI: dokumentasi, produk SaaS, basis pengetahuan. Kedua file berasal dari perayapan yang sama sehingga tetap konsisten.
llms.txt, sitemap.xml, dan robots.txt
Tiga file, tiga tugas. Ketiganya tidak saling menggantikan, dan situs yang terawat menyajikan semuanya.
| robots.txt | sitemap.xml | llms.txt | |
|---|---|---|---|
| Ditujukan untuk | Perayap | Mesin pencari | Model bahasa dan agen |
| Menjawab | Apa yang boleh dirayapi | URL apa saja yang ada | Tentang apa halaman utamanya |
| Format | Direktif | XML | Markdown |
| Memuat deskripsi | Tidak | Tidak | Ya |
| Mengatur akses | Ya | Tidak | Tidak |
| Cakupan | Domain | Domain | Domain atau jalur |
Mengapa penerbit mungkin menginginkannya
- Kendali. Anda memilih halaman dan deskripsi yang ditampilkan, alih-alih membiarkan model menyimpulkannya dari HTML penuh navigasi dan skrip.
- Keterbacaan mesin. Markdown lebih mudah diolah agen dan alat yang kompatibel dibanding halaman yang sudah dirender.
- Hemat konteks. Peta ringkas muat dalam jendela konteks yang tak akan pernah memuat seluruh situs Anda.
- Biaya rendah. Tidak ada yang perlu dipelihara di tumpukan teknologi Anda dan tanpa dampak pada performa.
Format ini diterbitkan oleh tim dokumentasi OpenAI, Anthropic, dan Gemini, serta dihasilkan otomatis oleh platform seperti Mintlify, GitBook, dan Wix, juga oleh plugin Yoast SEO dan AIOSEO.
Apa yang tidak dilakukan llms.txt
- Ia tidak memblokir perayap. Pengaturan akses adalah tugas robots.txt.
- Ia tidak menggantikan robots.txt maupun sitemap.xml.
- Ia tidak menjamin kutipan di ChatGPT, Perplexity, Gemini, atau Claude.
- Ia bukan faktor peringkat Google yang terkonfirmasi.
- Ia tidak wajib, dan penggunaannya berbeda antar sistem AI.
- Ia tidak menutupi konten tipis atau situs yang tak terjangkau perayap.
Siapa pun yang menjanjikan lebih banyak kutipan hanya karena file ini menjanjikan sesuatu yang hari ini tak bisa dibuktikan siapa pun. Nilainya ada pada kendali dan keterbacaan.
Validasi dan pemeriksaan Chrome Lighthouse
Chrome Lighthouse 13.3 menambahkan kategori eksperimental Agentic Browsing. Salah satu auditnya memvalidasi properti dasar llms.txt yang dipublikasikan: judul H1, setidaknya satu tautan Markdown asli dalam bentuk [Judul](URL), dan panjang di atas 50 karakter.
Generator meniru pemeriksaan audit tersebut. Ini pemeriksaan struktur, bukan sinyal peringkat di Penelusuran Google. Untuk audit itu sendiri, file yang tidak ada dianggap tidak berlaku, sedangkan file yang dipublikasikan tetapi gagal dapat dilaporkan sebagai kesalahan.
Karena itu validasi berjalan sebelum unduhan: struktur llmstxt.org, tiga kriteria Lighthouse, URL ganda, tautan ke domain lain, dan ukuran file. Checker & validator LLMs.txt terpisah memeriksa file yang sudah daring, termasuk apakah tautannya masih berfungsi.
Cara memublikasikan file
Sajikan sebagai teks biasa di domainanda.com/llms.txt, bersebelahan dengan robots.txt. Jika hanya menjelaskan sebagian situs, letakkan di jalur tersebut, misalnya domainanda.com/docs/llms.txt. Setelah diunggah, buka alamatnya dan pastikan Anda melihat Markdown, bukan halaman 404.
| Platform | Lokasi |
|---|---|
| cPanel atau hosting bersama | /public_html/llms.txt |
| WordPress | Akar situs, bukan /wp-content/ |
| Next.js, Nuxt, Astro, React | /public/llms.txt |
| Laravel, Symfony | /public/llms.txt |
| Shopify | Konten → File, lalu alihkan /llms.txt ke file yang diunggah |
| Webflow | Pengaturan situs, kode khusus, atau unggah file |
| Netlify, Vercel, GitHub Pages | Taruh di folder public pada repositori |
Apa yang pantas masuk file
llms.txt adalah pilihan, bukan arsip. Untuk daftar URL lengkap sudah ada peta situs.
- SaaS dan dokumentasi: ikhtisar produk, harga, langkah awal, referensi API, changelog.
- E-commerce: kategori, produk unggulan, pengiriman, pengembalian, panduan ukuran. Bukan varian, filter, atau penomoran halaman.
- Layanan lokal: setiap layanan terpisah, wilayah layanan, harga atau penawaran, tentang kami dan kontak.
- Penerbit: pusat topik dan tulisan abadi, bukan lima puluh unggahan terakhir.
Pertanyaan yang sering diajukan
-
File Markdown berisi nama situs Anda, ringkasan singkat, dan daftar halaman penting beserta deskripsinya. Ia memberi model bahasa dan agen peta ringkas konten Anda, alih-alih membuat mereka menyimpulkannya dari HTML.
-
Bukan. Ini usulan yang digerakkan komunitas, dijelaskan di llmstxt.org, kini di v2, dan belum diratifikasi W3C maupun IETF. Sesuai spesifikasi di sini berarti struktur yang dijelaskan di sana.
-
Tidak. Tidak ada sistem yang mewajibkannya. Anda memublikasikannya secara sukarela untuk mengendalikan apa yang Anda tampilkan ke alat AI yang kompatibel dan bagaimana itu dideskripsikan.
-
Tidak ada bukti untuk itu, dan alat ini tidak menjanjikannya. File ini membuat konten lebih mudah dibaca dan memberi Anda kendali atas deskripsi, tetapi bukan faktor peringkat terkonfirmasi maupun jaminan kutipan.
-
Google menyatakan file ini tidak diperlukan untuk fitur AI di Penelusuran. Terpisah dari itu, Chrome Lighthouse dapat memvalidasi properti dasar file yang dipublikasikan dalam audit eksperimentalnya. Itu pemeriksaan struktur, bukan sinyal peringkat.
-
Sajikan sebagai teks biasa di akar domain, bersebelahan dengan robots.txt. v2 juga mengizinkan file di jalur mana pun:
/docs/llms.txtmencakup konten di bawah/docs/, dan agen sebaiknya memakai file paling spesifik. -
llms.txt adalah indeks pilihan berisi tautan dengan deskripsi. llms-full.txt memuat isi halaman lengkap sebagai Markdown. Yang pertama peta, yang kedua wilayahnya, dan hanya yang pertama bagian dari spesifikasi.
-
Peta situs mendaftar semua URL untuk mesin pencari, tanpa deskripsi dan tanpa hierarki. robots.txt mengatur akses perayap. llms.txt adalah peta singkat terpilih beserta konteks, disesuaikan dengan jendela konteks model.
-
Ya. Tanpa peta situs, halaman ditemukan lewat tautan internal dari beranda, dengan prioritas pada dokumentasi, produk, dan layanan.
-
Ya. Dalam batas harian Anda mendapat file lengkap, tanpa tanda air dan tanpa pratinjau terpotong. Paket berbayar menaikkan batas halaman dan menambahkan llms-full.txt.
Buat llms.txt Anda
Masukkan domain Anda dan dapatkan file llms.txt yang terstruktur, tervalidasi, dan bisa disunting, siap dipublikasikan. Tanpa mengumpulkan URL secara manual. Sudah punya file? Periksa dengan Checker & validator LLMs.txt.