Sử dụng llms.txt để cung cấp Context cho AI

llms.txt là một tiêu chuẩn dành cho các website, giúp cung cấp thông tin một cách có cấu trúc và "sạch" cho các Mô hình Ngôn ngữ Lớn (LLM) và Agent AI. Về cơ bản, nó cho phép một trang web "chỉ dẫn" cho AI biết đâu là những nội dung quan trọng cần đọc.

Tiêu chuẩn này bao gồm:

1. Một file /llms.txt tại thư mục gốc của website, đóng vai trò như bản đồ chỉ dẫn.
2. Các trang tài liệu có thêm phiên bản Markdown (truy cập bằng cách thêm .md vào cuối URL).

Khi nào nên áp dụng llms.txt?

Mục tiêu chính là cung cấp context chất lượng cao cho AI khi nó không thể tự tìm thấy hoặc hiểu đúng. Dưới đây là trường hợp sử dụng điển hình nhất:

Tình huống: Tech Stack của dự án không được AI hỗ trợ tốt

• Vấn đề: Bạn đang làm việc với một framework hoặc thư viện mà Agent AI không hiểu rõ. Lý do có thể là:

  • Phiên bản quá mới, chưa có trong dữ liệu huấn luyện của AI.
  • Phiên bản quá cũ hoặc quá đặc thù, không có nhiều tài liệu công khai.
  • Đó là một thư viện "in-house" do công ty tự phát triển.

• Hậu quả: AI liên tục đưa ra các câu trả lời sai, sử dụng API không tồn tại, hoặc không thể gỡ lỗi hiệu quả vì thiếu kiến thức nền tảng.

• Giải pháp với llms.txt:

  • Nếu bạn có quyền quản trị trang tài liệu của tech stack đó, hãy áp dụng tiêu chuẩn llms.txt.
  • Bằng cách này, bạn tạo ra một nguồn context đáng tin cậy. Khi cần hỗ trợ, Agent AI có thể được chỉ định để truy cập vào trang tài liệu đó.
  • AI sẽ đọc file /llms.txt để có cái nhìn tổng quan và sau đó đọc các file .md chi tiết để "học" về API, cách sử dụng, và các ví dụ.

Cách sử dụng với Cursor

Khi bạn đã có một URL llms.txt cho tài liệu mình cần (ví dụ như của một thư viện), bạn có thể hướng dẫn Cursor "học" từ đó.

Hình ảnh dưới đây minh họa cách Cursor có thể được chỉ dẫn để "index" một trang tài liệu, giúp nó hiểu rõ hơn về tech stack:

Các bước thực hiện:

1. Tìm URL llms.txt:

   • Ví dụ, đây là URL cho tài liệu TailwindCSS v4:
   • https://context7.com/tailwindlabs/tailwindcss.com/llms.txt

2. Thêm vào Cursor:

   • Đi đến Settings > Indexing & Docs.
   • Nhấn vào Add Doc.
   • Trong ô URL, dán địa chỉ llms.txt bạn đã tìm thấy.
   • Đặt một tên gợi nhớ, ví dụ: tailwindcssv4.

3. Chờ Cursor Index:

   • Quá trình này thường mất khoảng 30 giây đến 1 phút. Sau khi hoàn tất, tài liệu đã sẵn sàng để sử dụng.

4. Sử dụng trong Prompt:

   • Khi cần hỏi các câu hỏi liên quan đến tài liệu này, bạn chỉ cần mention nó trong prompt bằng cú pháp @docs:[tên_bạn_đặt].
   • Ví dụ: @docs:tailwindcssv4 làm thế nào để sử dụng grid-cols?

Lưu ý

Tóm lại: llms.txt là một giải pháp mạnh mẽ để giải quyết vấn đề thiếu hụt context của AI. Bằng cách chuẩn hóa tài liệu trên web theo llms.txt, chúng ta có thể "dạy" cho AI về bất kỳ công nghệ nào, giúp nó trở thành một trợ lý lập trình hiệu quả hơn.

Để xem thêm về cách llms.txt được giới thiệu trong Jai1 Framework, bạn có thể tham khảo bài viết: Giới thiệu kỹ thuật llms.txt.