Hướng Dẫn Xây Dựng Dịch Vụ Retrieval-Augmented Generation (RAG) Chuẩn Doanh Nghiệp Hoàn Toàn Riêng Tư

Mở Đầu

1. RAG Chuẩn Doanh Nghiệp Là Gì?

1.1 Đặc Điểm Cốt Lõi

2. Giới Thiệu BladePipe RagApi

2.1 Tính Năng Chính

2.2 Ưu Điểm Cho Doanh Nghiệp

3. Hướng Dẫn Triển Khai Dịch Vụ RAG Riêng Tư Với BladePipe

3.1 Chuẩn Bị Môi Trường

3.1.1 Cài đặt Ollama

ollama run deepseek-r1

Lưu ý: Mô hình lớn cần nhiều tài nguyên phần cứng.



3.1.2 Cài Đặt PostgreSQL với pgvector

cat <<'EOF' > init_pgvector.sh
#!/bin/bash
cat <<YML > docker-compose.yml
version: "3"
services:
  db:
    container_name: pgvector-db
    hostname: 127.0.0.1
    image: pgvector/pgvector:pg16
    ports:
      - 5432:5432
    restart: always
    environment:
      - POSTGRES_DB=api
      - POSTGRES_USER=root
      - POSTGRES_PASSWORD=123456
YML

docker-compose up --build -d
sleep 5
docker exec -it pgvector-db psql -U root -d api -c "CREATE EXTENSION IF NOT EXISTS vector;"
EOF

chmod +x init_pgvector.sh
./init_pgvector.sh

Lưu ý: pgvector giúp lưu trữ vector embedding hiệu quả, an toàn ngay trên hạ tầng nội bộ.

3.2 Cài Đặt BladePipe (Enterprise)

3.3 Thêm Nguồn Dữ Liệu (DataSources)



4. Tạo Hai DataJob Cốt Lõi Cho RAG

4.1 DataJob 1: Chuyển Đổi Văn Bản Thành Vector



4.2 DataJob 2: Xây Dựng Dịch Vụ RagApi



5. Kiểm Tra Dịch Vụ RagApi

5.1 Lệnh Curl thử nghiệm

curl http://localhost:18089/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: Bearer my-cc-rag-key" \
-d '{
  "messages": [
    {"role": "system", "content": "You are a helpful assistant."},
    {"role": "user", "content": "Hello!"}
  ],
  "stream": false
}'

5.2 Sử dụng CherryStudio



Kết Luận

Tham Khảo