Sarah AI: Trợ lý AI Riêng Tư, Offline và Mã Nguồn Mở, Do Một Lập Trình Viên Tuổi Teen Tạo Ra!
Lê Lân0
Sarah AI: Trợ Lý AI Riêng Tư Hoàn Toàn Offline Cho Người Dùng Linux
Mở Đầu
Trong thế giới tràn ngập các trợ lý AI dựa trên đám mây với API bị kiểm soát chặt chẽ, Sarah AI nổi bật như một giải pháp hoàn toàn khác biệt và đầy hứa hẹn.
Sarah AI là một dự án AI mã nguồn mở, chỉ dành riêng cho hệ điều hành Linux, được phát triển bởi một lập trình viên tuổi teen với biệt danh
ghgltggamer
. Đây không chỉ là một công cụ dòng lệnh đơn giản, mà là một trợ lý ảo với giao diện đồ họa, khả năng biểu cảm cảm xúc, nhớ ngắn hạn khi chat và cá tính đặc trưng – tất cả đều hoạt động một cách riêng tư, offline và hoàn toàn thuộc về bạn. Bài viết này sẽ giới thiệu chi tiết về Sarah AI: từ thiết kế, cài đặt đến trải nghiệm và giá trị mà nó mang lại.Sarah AI Được Xây Dựng Như Thế Nào?
Công Nghệ Cốt Lõi
Sarah AI được xây dựng trên các nền tảng và ngôn ngữ sau:
- C++: Động cơ xử lý chính.
- JavaScript + HTML/CSS: Giao diện người dùng.
- GTK3+ và WebKit2Gtk: Tạo trải nghiệm desktop thuần Linux.
- LLaMa.cpp: Backend mạnh mẽ để chạy các mô hình ngôn ngữ lớn (LLM) một cách cục bộ, không cần kết nối internet.
Các Tính Năng Nổi Bật
- Riêng tư tuyệt đối: Toàn bộ dữ liệu ở lại trên máy tính cá nhân, không gửi token hay dữ liệu về server.
- Hỗ trợ LLM cục bộ: Người dùng tự tải và quản lý mô hình LLaMa, hoàn toàn độc lập.
- Động cơ cảm xúc và cá tính: Sarah có khả năng mô phỏng phản ứng cảm xúc, trạng thái tâm trạng và nhớ một lần trong phiên trò chuyện (One-Time Chat Memory).
- Thiết kế tối ưu, không Electron: Giúp ứng dụng nhẹ, nhanh và dễ bảo trì.
- Mã nguồn mở (MIT License): Cho phép người dùng sử dụng, chỉnh sửa và thương mại hóa mà không ràng buộc.
Sarah AI là viên ngọc quý cho các nhà phát triển quan tâm đến quyền riêng tư, kiểm soát và sự tinh khiết kỹ thuật.
Cách Cài Đặt Sarah AI (Khuyến Khích Arch Linux)
Chuẩn Bị Môi Trường
- Cập nhật hệ thống và cài các gói cần thiết:
- Cài đặt công cụ build Magma – cũng do tác giả dự án tạo ra:
git clone https://github.com/darkyboys/magmacd magmamkdir bin && g++ src/main.cc -o bin/magmasudo mv bin/magma /usr/local/bincd .. && rm -rf magmaTải và Biên Dịch Sarah AI
- Clone mã nguồn:
git clone https://github.com/darkyboys/sarahcd sarah- Giải quyết phụ thuộc:
sudo magma resolve- Biên dịch và khởi chạy:
sudo magma make- Tải mô hình LLaMa 7B 8_0 (khoảng 7GB):
sudo magma get_modelBạn cũng có thể sử dụng mô hình riêng bằng cách thả file
.guff vào thư mục sarah/models/ .Cách Hoạt Động Của Sarah AI
Thành Phần Cơ Bản
Thành Phần | Chức Năng |
|---|---|
Sarah binary | Chạy cùng lúc UI và engine xử lý |
LLaMa.cpp backend | Nạp và thao tác với mô hình ngôn ngữ lớn tại máy |
Hệ thống cảm xúc | Thêm lớp phản ứng cảm xúc dựa theo lời nhắc và lịch sử |
OTCM | Xóa bộ nhớ trò chuyện sau khi tắt ứng dụng, bảo mật |
Quản Lý Bộ Nhớ
Sarah AI áp dụng One-Time Chat Memory, nghĩa là mọi cuộc trò chuyện đều không được lưu trữ lâu dài hay truyền tải đi đâu, đảm bảo quyền riêng tư tối đa.
Bạn có thể hoàn toàn yên tâm AI không ghi nhớ thông tin giữa các phiên làm việc.
Khi Nào Bạn Nên Sử Dụng Sarah AI
- Bạn cần một trợ lý AI hoàn toàn offline, tự kiểm soát và không phụ thuộc vào dịch vụ đám mây.
- Muốn trải nghiệm hoặc phát triển các giao diện trò chuyện có mô hình cảm xúc và nhân cách.
- Ghét các công cụ AI trên mây và muốn chạy mô hình LLaMa trên máy của mình.
- Là nhà phát triển muốn nghiên cứu một ứng dụng mẫu với code C++ sạch, GTK giao diện bản địa.
- Tò mò cách xây dựng UI thời gian thực tích hợp
WebKit,HTML, vàGTKmà không cần framework cồng kềnh.
Khi Nào Có Thể Không Phù Hợp Với Sarah AI
- Bạn sử dụng Windows hoặc macOS – Sarah hiện chỉ hỗ trợ Linux.
- Máy bạn không đủ bộ nhớ hoặc không gian lưu trữ – mô hình tối thiểu chiếm trên 7GB dung lượng.
- Bạn mong chờ một chatbot hoàn chỉnh, dễ dùng ngay mà không cần tự cài đặt hay cấu hình.
- Không quen sử dụng terminal/command-line do việc setup yêu cầu thao tác với lệnh.
Sarah AI không phải là chatbot “plug-and-play” thông thường, mà là một framework cho ai muốn thử nghiệm và mở rộng.
Tại Sao Bạn Nên Đọc Mã Nguồn Dù Không Dùng Ngay
Sarah AI không chỉ là một công cụ trợ giúp — mà còn là nguồn giáo dục giá trị cao:
- Học cách nhúng mô hình ngôn ngữ lớn offline, không cần API.
- Khám phá cách kết hợp C++, JavaScript và GTK để tạo GUI hiện đại.
- Tìm hiểu về hệ thống build tùy biến nhẹ tên là Magma giúp quản lý phụ thuộc, tải mô hình hiệu quả.
- Đặc biệt, dự án được tạo ra bởi một lập trình viên 16 tuổi – một minh chứng cho sức sáng tạo và niềm đam mê lập trình.
Dù bạn không dùng Sarah AI, hãy xem nó như một tài liệu học tập thú vị và truyền cảm hứng.
Kết Luận
Sarah AI không cạnh tranh với ChatGPT hay Siri, mà đặt mục tiêu giải phóng người dùng khỏi sự phụ thuộc vào các dịch vụ AI đám mây. Đây là một hệ thống mạnh mẽ, tự do, và rất dễ chỉnh sửa, phục vụ cộng đồng yêu thích tự chủ, mã nguồn mở và học hỏi qua xây dựng.
Nếu bạn tin tưởng vào tương lai của AI được tự do kiểm soát, Sarah AI sẽ là một công cụ đầy tiềm năng để khám phá và phát triển.
Tham Khảo
- Gerganov, Georgi. “llama.cpp - Local LLaMa models.” https://github.com/ggerganov/llama.cpp
Bài viết được cập nhật ngày June 1, 2024
1
100%
Loading...