Xây Dựng RAG "Siêu Bảo Mật" Cho Doanh Nghiệp Với BladePipe và Ollama (Không Cần Code!)

Lê Lân

18/06/2025

Xây Dựng Dịch Vụ Retrieval-Augmented Generation (RAG) Chuẩn Doanh Nghiệp Toàn Diện và Bảo Mật

Mở Đầu

Trong bối cảnh chuyển đổi số ngày càng mạnh mẽ, Retrieval-Augmented Generation (RAG) đang trở thành công nghệ quan trọng giúp các doanh nghiệp nâng cao hiệu quả khai thác và sử dụng thông tin. Khác với các hệ thống Q&A nhẹ nhàng dành cho cá nhân, giải pháp RAG dành cho doanh nghiệp đòi hỏi sự đáng tin cậy, có thể kiểm soát, mở rộng quy mô và đặc biệt là bảo mật cao. Vấn đề bảo vệ dữ liệu nội bộ trước rủi ro lộ lọt thông tin khi sử dụng các nền tảng đám mây công cộng hay cơ sở dữ liệu vector khiến nhiều doanh nghiệp e dè. Đặc biệt là các ngành có quy định nghiêm ngặt về tuân thủ bảo mật.

Bài viết này sẽ hướng dẫn chi tiết cách xây dựng một hệ thống RAG riêng tư, sẵn sàng vận hành ở môi trường doanh nghiệp mà không cần viết một dòng code nào, thông qua việc kết hợp BladePipe, Ollama và PostgreSQL (pgvector).

RAG Chuẩn Doanh Nghiệp Là Gì?

Đặc Điểm Cốt Lõi

Một dịch vụ RAG chuẩn doanh nghiệp không chỉ đơn thuần là một hệ thống hỏi đáp thông minh. Nó đòi hỏi:

Hoàn toàn riêng tư: Mọi thành phần chạy nội bộ hoặc trên đám mây riêng, chắc chắn không có dữ liệu nào rò rỉ ra bên ngoài doanh nghiệp.

Nhiều nguồn dữ liệu đa dạng: Không chỉ xử lý tập tin văn bản đơn thuần mà còn có thể tích hợp với các cơ sở dữ liệu, hệ thống ERP, CRM...

Đồng bộ dữ liệu liên tục: Hệ thống phải cập nhật chỉ mục RAG liên tục, phản ánh đúng dữ liệu kinh doanh thay đổi từng ngày.

Tích hợp công cụ nâng cao (MCP và hơn thế): Hỗ trợ gọi hàm, thực thi workflow, truy vấn SQL ngay trong quá trình truy xuất và tạo dữ liệu.

Điểm nhấn: Dịch vụ RAG doanh nghiệp là giải pháp thông minh thúc đẩy tự động hóa, gia tăng năng suất và mang lại giá trị thực tế cho tổ chức.

Giới Thiệu BladePipe RagApi

BladePipe cung cấp RagApi, một giải pháp đóng gói toàn diện giúp doanh nghiệp dễ dàng triển khai dịch vụ RAG:

Hai DataJob chính cho RAG: nhập liệu và xuất API truy vấn.

Triển khai không cần code: Hoàn toàn cấu hình, phù hợp cho cả đội ngũ không chuyên phát triển.

Các tham số có thể điều chỉnh: top-K vector tìm kiếm, ngưỡng tương đồng, mẫu prompt, nhiệt độ mô hình...

Hỗ trợ đa mô hình, đa nền tảng: DashScope (Alibaba Cloud), OpenAI, DeepSeek...

API tương thích OpenAI giúp tích hợp dễ dàng vào UI chat hoặc hệ thống công cụ hiện có.

Demo: Triển Khai Dịch Vụ RAG Riêng Tư Với BladePipe, Ollama và PostgreSQL

Tổng Quan Kiến Trúc

<figure> <figcaption>Kiến trúc triển khai RAG hoàn toàn riêng tư</figcaption> </figure>

Ollama đảm nhận việc xử lý embedding và reasoning qua mô hình ngôn ngữ lớn (LLM) chạy cục bộ.

PostgreSQL pgvector lưu trữ vectors embedding an toàn ngay trong hạ tầng nội bộ.

BladePipe RagApi quản lý và cung cấp API RAG, hỗ trợ truy vấn và tạo trả lời.

Chuẩn Bị Môi Trường

1. Chạy Ollama Cục Bộ

Tải Ollama tại: https://ollama.com/download .

Pull và chạy mô hình suitable cho embedding và reasoning, ví dụ: deepseek-r1 .

ollama run deepseek-r1

Chú ý: Các mô hình lớn yêu cầu phần cứng đủ mạnh để chạy ổn định.

2. Thiết Lập PGVector (PostgreSQL với Extension vector)

Cài đặt Docker nếu chưa có.

Triển khai PostgreSQL kèm pgvector extension bằng Docker Compose.

# Tạo file init_pgvector.sh với nội dung:
#!/bin/bash
cat <<YML > docker-compose.yml
version: "3"
services:
  db:
    container_name: pgvector-db
    hostname: 127.0.0.1
    image: pgvector/pgvector:pg16
    ports:
      - 5432:5432
    restart: always
    environment:
      - POSTGRES_DB=api
      - POSTGRES_USER=root
      - POSTGRES_PASSWORD=123456
YML

docker-compose up --build -d
sleep 5
docker exec -it pgvector-db psql -U root -d api -c "CREATE EXTENSION IF NOT EXISTS vector;"

Chạy script trên để hoàn tất cấu hình.

Tip: Sử dụng pgvector giúp lưu trữ và truy vấn hiệu quả các vector embeddings ngay trong môi trường on-premise.

3. Cài Đặt BladePipe (Phiên Bản Doanh Nghiệp)

Tham khảo hướng dẫn chính thức và tải bản cài đặt: BladePipe Enterprise Installation .

Xây Dựng Dịch Vụ RAG Với BladePipe RagApi

Thêm Nguồn Dữ Liệu

Chọn DataSource → Add DataSource.

Cấu hình Files (SshFile) để nhập dữ liệu markdown từ máy chủ nội bộ.

Thông số	Mô tả
Address	IP máy chứa file + SSH port
Account & Pass	Thông tin xác thực SSH
fileSuffixArray	`.md` để lọc file markdown
dbsJson	Cấu hình định nghĩa thư mục mã nguồn

Thêm PostgreSQL làm Vector Database.

Thiết lập Ollama làm mô hình ngôn ngữ:

"llmEmbedding": { "deepseek-r1": { "dimension": 4096 } },
"llmChat": { "deepseek-r1": { "temperature": 1, "topP": 0.9, "showReasoning": false } }

Cấu hình RagApi trong BladePipe:

Host: localhost

Port: 18089

API Key: cá nhân hóa (ví dụ: my-bp-rag-key )

DataJob 1: Vectorize Tài Liệu

Tạo DataJob mới với:

Source: SshFile

Target: PostgreSQL

DataJob Type: Full Data (mặc định 2GB)

Chọn file markdown cần xử lý.

Thống nhất tên bảng (ví dụ: knowledge_base ).

Áp dụng embedding bằng Ollama.

Bắt đầu tạo DataJob.

DataJob 2: Xây Dựng RagApi Service

Tạo DataJob mới:

Source: PostgreSQL (đã có vector)

Target: RagApi

DataJob Type: Incremental (để đồng bộ thêm)

Chọn bảng vector phù hợp.

Đặt Ollama làm mô hình embedding và chat.

Tạo DataJob và hoàn tất cấu hình.

Kiểm Tra Dịch Vụ RAG

Test Qua CURL

curl http://localhost:18089/v1/chat/completions \
 -H "Content-Type: application/json" \
 -H "Authorization: Bearer my-cc-rag-key" \
 -d '{
       "messages": [ 
         {"role": "system", "content": "You are a helpful assistant."},
         {"role": "user", "content": "Hello!"}
       ],
       "stream": false
     }'

Test Qua CherryStudio

Mở CherryStudio

Cấu hình Model Provider:

Tham số	Giá trị
API Key	RagApi Key trong BladePipe
API Host	http://localhost:18089
Model ID	BP_RAG

Tạo Assistant với model BP_RAG .

Đặt câu hỏi như: “BladePipe yêu cầu quyền gì khi truy cập MySQL?”

Kết quả: RagApi truy vấn vector và trả lời dựa trên mô hình chat.

Thông tin quan trọng: Việc thử nghiệm dễ dàng mà không cần code giúp rút ngắn thời gian đưa dịch vụ RAG vào hoạt động.

Kết Luận

Dịch vụ RAG chuẩn doanh nghiệp không chỉ nâng cao khả năng truy vấn và tự động hóa thông minh mà còn phải đảm bảo bảo mật tuyệt đối cho dữ liệu nhạy cảm. Việc kết hợp BladePipe, Ollama, và PostgreSQL pgvector tạo ra một giải pháp RAG riêng tư, chuẩn doanh nghiệp, dễ dàng triển khai và vận hành mà không cần viết code.

Hãy bắt đầu hành trình xây dựng hệ thống RAG bảo mật của riêng bạn để tối ưu lợi thế cạnh tranh trong kỷ nguyên số hóa!

Tham Khảo

BladePipe Official Documentation

Ollama LLM Platform

PostgreSQL pgvector Extension

CherryStudio - AI Chat Interface

DeepSeek Model Details on Ollama Marketplace