Local LLM: Chạy AI tại gia để "vọc" hay để tránh bị các ông lớn úp sọt?

Bỏ ra 20 đô mỗi tháng thuê ChatGPT rồi một ngày đẹp trời nó báo "model này hết hạn" hoặc nó tự ý sửa bộ lọc làm con bot của ông ngu đi thì có cay không? Để tôi kể anh em nghe chuyện mấy ông Tây lông trên Reddit đang rủ nhau tự build AI tại gia, vừa rẻ, vừa mượt, mà quan trọng nhất là không sợ bị ai dắt mũi.

Rốt cuộc thì dân tình đang âm mưu cái gì?

Chuyện là trên cái ổ Reddit r/LocalLLaMA, một ông vừa quăng ra câu hỏi: "Ngoài vụ riêng tư (privacy) ra, mấy ông chạy AI local làm cái quái gì mà hăng thế?". Bài viết ngay lập tức nổ feedback với hơn 500 upvote. Hóa ra, đằng sau những dàn PC cắm đầy card đồ họa hầm hố là những lý do thực tế đến mức thực dụng, chứ không chỉ là rảnh háng đi nghịch công nghệ cho vui. Tóm tắt nhanh vài ý chính cho anh em lười lướt:

• Chạy vì... miễn phí: Đã tốn tiền build máy rồi thì tại sao phải trả thêm tiền đăng ký (subscription) hàng tháng cho mấy ông lớn?
• Sợ bị Rugpull (Úp sọt): OpenAI vừa khai tử GPT-4o bản cũ làm dân tình ngã ngửa. Model mình tự chạy thì là của mình mãi mãi.
• Không phụ thuộc Internet: Có điện là có AI, thậm chí có ông còn chơi hệ solar (năng lượng mặt trời) cho nó chất.
• Vọc vạch không giới hạn: Muốn prompt kiểu gì cũng được, không sợ bị con bot nó đạo đức giả nó giảng bài.

Giang hồ mạng thi nhau khoe "hàng" và hóng hớt

Đọc comment mới thấy cộng đồng AI bây giờ nó đa dạng và cũng... dị hợm phết. Có vài quan điểm đang chiếm sóng mà tôi thấy anh em mình nên lưu tâm:

Phái "Nhà nghèo vượt khó": Một ông phán xanh rờn: "Vì không tốn tiền sub chứ sao! Máy tôi có sẵn rồi, tội gì cúng tiền cho Sam Altman?". Đúng chuẩn tư duy thực dụng, cái gì tận dụng được thì tận dụng, đỡ tốn được đồng nào hay đồng đó.

Phái "Nghiên cứu sinh lý": Một thanh niên khác nhảy vào khẳng định: "Porn là cách tuyệt vời nhất để học dùng AI và luyện tay nghề viết prompt". Nghe thì buồn cười nhưng ngẫm lại cũng đúng. Ngày xưa Google Images thành công đâu phải nhờ dân mạng tìm ảnh mèo, toàn tìm cái gì ai cũng biết đấy thôi. AI không bộ lọc (uncensored) chính là mảnh đất màu mỡ để anh em dev vọc vạch đủ thứ mà không lo bị khóa acc.

Phái "Sống xanh": Có ông còn khoe chạy LLM bằng điện mặt trời. Cảm giác dùng nắng để tạo ra trí tuệ nhân tạo nghe nó cứ bị ảo ma và chill phết anh em ạ.

Phái "Ăn chắc mặc bền": Đây là nhóm sợ nhất vụ "rugpull". Hôm nay model còn ngon, mai nó update phát thành "ngáo" luôn thì hỏng hết việc. Chỉ có con AI nằm trong ổ cứng mình mới là con AI trung thành nhất.

Bài học sinh tồn: Đừng để công nghệ dắt mũi

Dưới góc nhìn của một thằng dev từng trải và đang cùng WorkCloud xây dựng hệ sinh thái cho SME, tôi thấy vụ này có 2 bài học cực lớn:

1. Dữ liệu là vàng: SME mà quăng hết dữ liệu khách hàng, quy trình kinh doanh lên mấy con AI public là dại. Local LLM chính là cứu cánh để anh em vừa tối ưu được vận hành, vừa giữ được bí mật kinh doanh trong túi.
2. Chi phí là hơi thở: Thay vì đốt tiền vào những tool SaaS đắt đỏ mà chưa chắc dùng hết tính năng, việc tận dụng phần cứng có sẵn để tự động hóa những tác vụ nhỏ (niche usecases) là một bước đi cực kỳ khôn ngoan.

WorkCloud chúng tôi cũng đi theo hướng đó: Mang lại giải pháp công nghệ đỉnh cao nhưng phải thực tế và rẻ. Anh em không cần phải là thiên tài AI, chỉ cần biết cách áp dụng nó vào đúng chỗ để giải quyết cái đống việc hỗn độn hàng ngày là đã ngon lắm rồi. Đừng để mấy cái thuật ngữ AI làm cho lú lẫn, cốt lõi vẫn là: Nó có giúp mình kiếm thêm tiền hay bớt việc đi không? Nếu không, thì dẹp!

Nguồn: Reddit - Favourite niche usecases?