Ananya Nalavathu và Francois Gonothi Toure, hai thực tập sinh của Fedora Project, vừa giới thiệu editorial-guide-ramalama — một trợ lý AI dùng Retrieval-Augmented Generation (RAG) để kiểm tra bài dự thảo cho Fedora Community Blog và Fedora Magazine theo hướng dẫn biên tập của từng ấn phẩm. Gonothi xây dựng công cụ trong kỳ thực tập Outreachy tại Fedora; Nalavathu thực tập với nhóm CommOps tại Red Hat Ireland. Việc xuất bản 11 bài viết, triển khai các chiến dịch biên tập và phối hợp nội dung qua nhiều sprint đã giúp Nalavathu thấy rõ việc giữ chuẩn biên tập nhất quán của Fedora tốn nhiều công sức đến thế nào, và người đóng góp mới sẽ dễ dàng hơn nhiều nếu có công cụ phù hợp. Trong sprint cuối cùng, cả hai quyết định chia sẻ công cụ này với cộng đồng.

Công cụ này làm gì?

editorial-guide-ramalama đọc các hướng dẫn biên tập thực tế và những bài viết đã đăng của Fedora, sau đó đối chiếu bản nháp của bạn với các tài liệu đó. Nó cho biết bài đã đạt chuẩn chưa và cần sửa chính xác chỗ nào. Chatbot thông thường chỉ đoán; RAG neo mọi câu trả lời vào guideline thật. Khi phát hiện vấn đề, công cụ trích đúng guideline bị vi phạm và đề xuất cách sửa — không phải kiểu “chỗ này trông không ổn”, mà là “bài của bạn thiếu thẻ Read More, và hướng dẫn của Magazine yêu cầu bắt buộc phải có thẻ này”.

Vai trò của RamaLama

RamaLama là động cơ đằng sau toàn bộ công cụ. Nó chạy trực tiếp các mô hình mở trên máy dưới dạng OCI container — đúng loại container mà Fedora vốn đã dùng — nên không cần API key, không cần dịch vụ bên ngoài, và dữ liệu không rời khỏi máy. Nhờ đó, mọi thứ đều riêng tư và tái lập được.

RamaLama cũng có sẵn RAG: nó tự lo khâu nạp dữ liệu, chia văn bản và truy xuất, với Docling chạy bên trong để phân tích và chia nhỏ guideline. Vì vậy Gonothi không cần tự lắp thêm một pipeline vector riêng. Chính sự kết hợp giữa suy luận cục bộ, đóng gói OCI và RAG tích hợp sẵn giúp công cụ được đóng gói thành một image duy nhất, ai cũng có thể kéo từ Quay về và chạy.

Cách hoạt động

Công cụ hỗ trợ cả hai ấn phẩm của Fedora: Fedora Magazine và Fedora Community Blog. Mỗi ấn phẩm có bộ guideline riêng được nạp làm nguồn chính để mô hình đối chiếu; đổi ấn phẩm trong thanh bên là bộ guideline thay đổi theo.

Phần mềm được dựng trên RamaLama, Docling, Quay và Streamlit, với các mô hình GGUF (GPT-Generated Unified Format) cỡ nhỏ đã được đánh giá để cân bằng giữa chất lượng và kích thước. Quy trình hoạt động như sau:

  • Bài viết của cả hai ấn phẩm được kéo về qua WordPress REST API. Không commit file tĩnh nào; corpus luôn được dựng lại từ nguồn nên bảo đảm tái lập.
  • RamaLama RAG dùng Docling chạy nội bộ để phân tích và chia nhỏ tài liệu thành vector store, sau đó đóng gói thành OCI image và xuất bản lên Quay tại quay.io/fedora/editorial-guide-ramalama.
  • Để kiểm tra, chỉ cần kéo image về rồi dùng giao diện Streamlit hoặc terminal; không cần qua bước build.

Dán một bản nháp đạt chuẩn của Magazine vào, mô hình xác nhận bài đạt yêu cầu và trích dẫn guideline tương ứng. Dán một bản cố tình thiếu featured image và thiếu thẻ Read More, công cụ sẽ chỉ ra từng lỗi kèm cách sửa cụ thể.

Nói thẳng: mô hình nhỏ chạy cục bộ có giới hạn. editorial-guide-ramalama rất hữu ích để phát hiện các lỗi phổ biến trước khi gửi bài, nhưng nó không thay thế biên tập viên con người, và cũng không cố gắng làm điều đó.

Vì sao cộng đồng nguồn mở nên quan tâm?

Theo Gonothi, điều ấn tượng nhất của dự án không chỉ nằm ở kỹ thuật, mà còn ở giá trị đối với việc onboarding người đóng góp mới. Một trong những rào cản lớn nhất với người mới không phải là động lực, mà là việc phải biết các quy tắc bất thành văn. Hướng dẫn biên tập, tiêu chuẩn đóng gói, chuẩn mực cộng đồng đều có cả, nhưng lại nằm rải rác; học qua những lần bị từ chối thì rất dễ nản lòng.

Những công cụ như editorial-guide-ramalama giúp hạ rào cản đó. Chúng không thay thế biên tập viên hay kiến thức của cộng đồng, mà cho người mới một bước rà soát đầu tiên, để họ tự kiểm tra trước khi gửi bài và học guideline qua thực hành thay vì qua thử-sai. Đó chính là kiểu công cụ giúp cộng đồng nguồn mở trở nên dễ tiếp cận hơn.

Kế hoạch tiếp theo

Dự án nhỏ này là proof of concept xác nhận hướng tiếp cận RAG cho tài liệu biên tập của Fedora. Kiến trúc tương tự hiện đang được đưa vào một dự án lớn hơn: áp RAG cho hướng dẫn đóng gói RPM — một lĩnh vực có mức rủi ro cao hơn, nơi AI bám vào dữ liệu thực tế, chạy cục bộ bằng mô hình mở có thể giúp người đóng góp đóng gói đúng.

Dùng thử ngay

Công cụ đã hoạt động và dùng được ngay. Kéo image từ Quay, dán bản nháp vào và xem kết quả. Mã nguồn được đặt trên Fedora Forge tại ai-ml/editorial-guide-ramalama, còn image sẵn sàng trên Quay tại quay.io/fedora/editorial-guide-ramalama. Nếu bạn là người mới và đang lo lắng về bài viết đầu tiên, công cụ này được tạo ra cho bạn.

Ananya và Gonothi gửi lời cảm ơn tới cộng đồng Fedora, các mentor Justin Wheeler, Dominik Kawka và Carol Chen, cùng chương trình Outreachy vì đã giúp kỳ thực tập này được thực hiện.