Viễn Đinh

Viễn Đinh

Khởi Nghiệp Tinh Gọn

Model System 1 TypeSafe AI Jev

Chuyện gì sẽ xảy ra nếu ta tước đi cái miệng của AI để đổi lấy tốc độ xử lý nhanh gấp 200 lần?

Căn Bệnh Dông Dài của Các Mô Hình Lớn

Có một nghịch lý rất buồn cười trong giới lập trình hiện nay.

Thử tưởng tượng bạn chạy ra đầu ngõ, ghé sạp rau và hỏi bà bán hàng: “Cô ơi, còn hành lá không cô?”

Bình thường người ta chỉ cần trả lời: “Còn” hoặc “Hết”. Đúng một giây là xong việc.

Nhưng mấy con AI mô hình ngôn ngữ lớn (LLM) ngày nay thì không chịu như vậy. Bạn gửi cho nó một điều kiện kiểm tra đơn giản: True hay False? Nó bắt đầu hắng giọng, hít một hơi thật sâu, rồi “nhả” ra cả một bài luận dài bốn ngàn chữ. Nó phân tích nguồn gốc của cọng hành, hoàn cảnh ra đời của bài toán, rồi chốt lại bằng hai chữ “Dạ có”.

Người dùng thì chờ dài cổ. Anh em lập trình viên thì nhìn hóa đơn API cuối tháng mà toát mồ hôi hột. Từng từ văn vẻ đó đều tính bằng tiền token cả.

Một cựu kỹ sư của OpenAI nhìn thấy cảnh này và nhận ra: Chúng ta đang dùng một cỗ máy cày khổng lồ chỉ để nhổ một cọng cỏ. Bản chất của mô hình sinh ngôn ngữ đang bị làm quá đà cho những tác vụ logic cơ bản. Và anh quyết định làm một việc cực đoan: Vứt luôn cái miệng của con AI đi.

Đánh Thức Tư Duy Hệ 1 cho Trí Tuệ AI

Trong cuốn sách tâm lý học kinh điển Tư duy nhanh và chậm, người ta chia bộ não làm hai phần:

Mấy mô hình AI xịn xò hiện nay giống hệt như một ông giáo sư Hệ 2 cực kỳ lề mề. Bảo đưa ra một quyết định có/không mà ông ấy phải đốt sạch năng lượng để “suy nghĩ từng bước” (chain-of-thought).

Nhìn cảnh đó, Diego Almeida tại Typesafe AI đã tạo ra một mô hình mang tên Jev.

Mô hình này không sinh ra để làm thơ hay tán gẫu. Nó được sinh ra để làm đúng một việc của Hệ 1: Đưa ra phản xạ trực giác tức thì. Thấy dữ liệu vào là gật hoặc lắc, dứt khoát như một cái chớp mắt, không giải thích dài dòng một câu nào.

Cắt Bỏ Sinh Ngôn Ngữ để Tối Ưu Tốc Độ

Để giải quyết tận gốc căn bệnh “nói dai, nói dài,” kiến trúc của Jev đã làm một cú trảm thẳng tay: Cắt bỏ hoàn toàn tầng sinh văn bản (text generation).

Bình thường, AI nhận câu hỏi, đoán từ thứ nhất, đoán tiếp từ thứ hai, nối lại thành câu dài dằng dặc. Càng nói nhiều thì độ trễ càng cao, nguy cơ nói bậy càng lớn.

Jev đảo ngược bàn cờ. Nó nhận dữ liệu vào nhưng không thèm sinh ra chữ nào cả. Nó biến thẳng thành một bộ phân loại cấu trúc siêu tốc.

Không còn cảnh con trỏ nhấp nháy từng từ trên màn hình. Không còn tốn tiền cho mớ token râu ria. Kết quả là hệ thống chạy nhanh hơn các mô hình truyền thống tới 200 lần.

Đơn giản là vì nó không phải tốn calo cho việc mấp máy môi nữa.

Chuẩn Kiểu Dữ Liệu Xóa Bỏ Lỗi Schema

Dân viết code sợ nhất cái gì khi gọi API AI? Sợ nhất là tính khí thất thường của nó.

Bảo nó trả về định dạng JSON nghiêm chỉnh để nạp vào cơ sở dữ liệu, thỉnh thoảng nó lại nổi hứng chêm thêm: “Dưới đây là kết quả của bạn nè: …”. Thế là cả hệ thống bên dưới lăn đùng ra lỗi, gãy từ regex cho đến parse data.

Jev thì hành xử giống hệt như một ngôn ngữ lập trình có kiểu dữ liệu tĩnh (strongly typed). Đầu ra của nó bị khóa cứng trong ba khuôn hình duy nhất:

Tuyệt đối không có chữ thứ hai thừa thãi. Tính an toàn schema được đảm bảo bằng toán học, khiến cho lỗi gãy kiểu dữ liệu trở thành điều bất khả thi. Anh em dev ngủ ngon, không phải nửa đêm bật dậy bắt lỗi cú pháp.

Bứt Phá Tốc Độ cùng Chi Phí Cực Thấp

Khi bạn không còn phải trả tiền cho những lời giải thích hoa mỹ, điều kỳ diệu sẽ xảy ra trên bảng cân đối tài chính.

Các bài thử nghiệm cho thấy: Hệ thống này chạy nhanh gấp 200 lần, và chi phí vận hành rẻ hơn các mô hình đầu bảng tới 400 lần.

Cứ hình dung trước đây một tác vụ phân loại tốn một triệu đồng tiền server, thì giờ đây nó chỉ tốn hai ngàn rưởi. Trước đây hệ thống phải chờ cả giây đồng hồ để nhận phản hồi, thì giờ tính bằng mili-giây.

Khoản tiết kiệm này không chỉ là con số trên giấy. Nó biến những ý tưởng trước đây bị coi là “quá đắt đỏ để đưa vào thực tế” bỗng chốc trở thành những tính năng chạy phà phà suốt ngày đêm.

Hiện Thực Hóa Phản Xạ Thời Gian Thực

Nói lý thuyết suông thì nghe vui tai, nhưng nó giải quyết được chuyện gì ngoài đời?

Hãy nhìn vào một ứng dụng hẹn hò thực tế. Người dùng bấm tạo hồ sơ liên tục. Nếu để một mô hình ngôn ngữ thông thường ngồi đọc từng dòng tự giới thiệu rồi trả lời văn vẻ xem hồ sơ đó có vi phạm chính sách không, hệ thống sẽ nghẽn mạng ngay lập tức.

Nhưng với bộ phân loại Hệ 1, hệ thống chỉ cần quẳng dữ liệu vào và nhận lại một chữ ‘False’ (không hợp lệ) trong chớp mắt. Hồ sơ vi phạm bị gạt phăng trước khi kịp hiển thị.

Các lập trình viên game cũng dùng cách này để điều khiển hành vi của NPC (nhân vật máy). Nhân vật phản ứng với hành động của game thủ ngay tức khắc, không hề có độ trễ ngớ ngẩn kiểu đứng im một lúc để “load câu thoại.”

Nhanh, gọn và không để người dùng phải chờ đợi dù chỉ một nhịp thở.

Đo Mức Độ Tự Tin bằng Học Tăng Cường

Mấy con AI hiện nay có một tật xấu rất nguy hiểm: Nó nói sai mà mặt nó tỉnh bơ.

Nó bịa chuyện nhưng bằng một giọng văn vô cùng tự tin, làm người ta tin sái cổ. Trong chuyên môn, người ta gọi đó là bệnh thiếu cân chuẩn (poorly calibrated).

Để trị tật này, mô hình áp dụng kỹ thuật học tăng cường (Reinforcement Learning) nhằm đo lường chính xác xác suất quyết định của bản thân.

Nghĩa là, mỗi khi đưa ra phán đoán, nó luôn đính kèm một con số: “Quyết định này tôi chắc chắn 60%”. Hay: “Lựa chọn kia tôi dám bảo đảm 98%”.

Con số phần trăm này hoàn toàn chuẩn xác về mặt thống kê. Nhờ vậy, anh em kỹ sư có thể tự tin đặt luật trong code: Chỉ khi nào độ tự tin vượt quá 95% thì hệ thống tự động mới kích hoạt, còn dưới mức đó thì chuyển về cho con người duyệt. Rất sòng phẳng và minh bạch.

Triệt Tiêu Ảo Giác cùng Lỗi Cấu Trúc

Trong thế giới AI, hai nỗi ám ảnh lớn nhất của doanh nghiệp là:

  1. Ảo giác (Hallucination): Tự bịa thông tin không có thật.
  2. Lỗi sai cấu trúc (Type Error): Trả về dữ liệu méo mó làm sập ứng dụng.

Thế nhưng, cái hay của việc loại bỏ hoàn toàn tính năng sinh văn bản là gì?

Không nói thì làm sao mà nói dối? Không sinh ra câu chữ thì lấy đâu ra ảo giác để mà sợ?

Cộng thêm việc cấu trúc đầu ra bị khóa cứng ở cấp độ kiến trúc, nguy cơ vỡ dữ liệu khi trích xuất coi như bị triệt tiêu 100%. Dữ liệu chảy vào pipeline sạch sẽ, ngay ngắn và đồng nhất từ đầu đến cuối. Một nền tảng không thể vững chắc hơn cho các hệ thống doanh nghiệp yêu cầu độ tin cậy tuyệt đối.

Bí Mật Độc Quyền và Bình Cũ Rượu Mới

Đời mà, hễ cái gì nổi lên là y như rằng sẽ có hai luồng ý kiến.

Phía công ty thì giữ kín kiến trúc độc quyền như mèo giấu bí kíp. Điều này khiến không ít nhà nghiên cứu trong giới học thuật nhíu mày.

Nhiều người chỉ ra rằng: Bản chất cái trò ép AI đưa ra quyết định mà không cần sinh chữ trông quen lắm. Nó giống hệt như kỹ thuật Zero-shot text classification mà các nhà khoa học (như Jiny Yang) đã làm từ cả chục năm trước, chẳng qua bây giờ được sơn phết lại bằng cái tên mới kiêu kỳ hơn.

Phe ủng hộ thì phản bác: Đồng ý ý tưởng gốc không mới, nhưng tối ưu được nó đến mức chạy nhanh gấp 200 lần, đo được độ tự tin chuẩn xác để dùng trong sản xuất thực tế thì đó là đẳng cấp kỹ thuật chứ không phải chuyện đùa.

Cuộc tranh luận này một lần nữa nhắc chúng ta nhớ: Ranh giới giữa một công trình nghiên cứu cũ nằm trên giấy và một sản phẩm thương mại chạy mượt mà ngoài đời đôi khi cách nhau cả một trời vực.

Tái Hiện Hệ 1 qua Một Lượt Tính Toán

Dân công nghệ có một tính cách rất đáng yêu: Càng giấu, người ta lại càng muốn tự tay bẻ khóa cho bằng được.

Không chịu thua sự úp mở của sản phẩm độc quyền, cộng đồng mã nguồn mở đã bắt tay vào làm dự án mang tên OpenJev.

Và kết quả khiến ai nấy đều bật cười: Hóa ra chẳng cần bí kíp siêu nhiên nào cả.

Họ lấy một mô hình ngôn ngữ mở bình thường, cố định các trọng số lại, rồi cho dữ liệu chạy qua đúng một lượt tính toán duy nhất (single forward pass). Sau đó, họ đọc thẳng xác suất của các lựa chọn (log probabilities) ngay tại đầu ra.

Không cần huấn luyện lại từ đầu. Chẳng cần tốn tiền triệu đô mua cụm máy chủ. Một chiếc card đồ họa thông thường của game thủ cũng đủ để chạy phà phà.

Hóa ra, tư duy “Não nhanh Hệ 1” hoàn toàn có thể được hiện thực hóa bằng những công cụ mở có sẵn quanh ta, miễn là chúng ta biết nhìn nhận vấn đề theo một góc độ khác.

Kiến Trúc Song Hành cho Phần Mềm Mới

Từ câu chuyện này, chúng ta rút ra một bài học cốt lõi về kiến trúc phần mềm trong kỷ nguyên mới: Hệ thống kết hợp (Dual-System).

Đã qua rồi cái thời người ta mù quáng dùng một mô hình ngôn ngữ khổng lồ, cồng kềnh cho mọi tác vụ trên đời.

Một kiến trúc thông minh hiện nay phải biết phân vai rõ ràng:

Đừng bắt một chiếc xe tăng hạng nặng nổ máy chỉ để chạy qua ngõ giao một ổ bánh mì. Chia việc đúng người, đúng sức, hệ thống của bạn sẽ vừa chạy êm, vừa tiết kiệm cả đống tiền.

Bài Học Cốt Lõi để Đón Đầu Công Nghệ

Nhìn lại toàn bộ hành trình của tư duy “Não nhanh Hệ 1,” chúng ta thấy nó hàm chứa một triết lý rất đời thường: Đỉnh cao của sự phức tạp đôi khi lại là sự lược bỏ.

Đón đầu công nghệ không có nghĩa là mù quáng chạy theo những thứ mô hình to nhất, phức tạp nhất hay đắt tiền nhất.

Đón đầu công nghệ đôi khi chỉ đơn giản là: Dám nhìn thẳng vào sự lãng phí thường ngày, dũng cảm cắt bỏ những phần thừa thãi, và trả mọi thứ về đúng với bản chất thực dụng vốn có của nó.

Làm được như vậy, code của bạn sẽ chạy nhanh hơn, hệ thống của bạn sẽ ít lỗi hơn, và quan trọng nhất: bạn sẽ tìm lại được sự nhẹ nhõm, thong dong trên con đường làm kỹ thuật của mình.