MISA xây dựng nhà máy AI trên nền tảng NVIDIA, tăng tốc ứng dụng AI cho doanh nghiệp Việt

Mục tiêu chiến lược

Được thành lập từ năm 1994, MISA là một trong những doanh nghiệp công nghệ thông tin hàng đầu Việt Nam, cung cấp các giải pháp phần mềm dạng dịch vụ (SaaS) và trợ lý AI dạng dịch vụ (AaaS) cho hơn 450.000 khách hàng là cơ quan nhà nước và doanh nghiệp, cùng 3,5 triệu khách hàng cá nhân.

Trước nhu cầu phát triển ngày càng cao, MISA đặt mục tiêu chuyển dịch từ việc phụ thuộc vào các API mô hình ngôn ngữ lớn (LLM) bên ngoài sang phát triển các mô hình AI nội bộ, bao gồm MISA AI 1.0, MISA AI 1.0 Plus và MISA AI 2.0, tích hợp trực tiếp AI tạo sinh (Generative AI) và AI Agent vào các nghiệp vụ kế toán, thuế, bán hàng, nhân sự và hành chính công.

Thông qua việc xây dựng một nhà máy AI on-premise dựa trên công nghệ NVIDIA, MISA hướng tới mục tiêu làm chủ hoàn toàn công nghệ lõi, tối ưu chi phí vận hành, đồng thời triển khai các AI Agent chuyên ngành có khả năng tự động hóa các quy trình dịch vụ công và nghiệp vụ doanh nghiệp phức tạp với độ trễ thấp và mức độ bảo mật dữ liệu cao.

Những giá trị nổi bật

Quản trị và ra quyết định điều hành

MISA AVA tổng hợp dữ liệu tài chính, kinh doanh và nhân sự thành các báo cáo, phân tích và dự báo theo thời gian thực. Lãnh đạo doanh nghiệp có thể khai thác thông tin chỉ bằng các câu lệnh ngôn ngữ tự nhiên, nhận được ngay các so sánh, phân tích xu hướng và dự báo, thay vì phải chờ đợi các báo cáo thủ công như trước đây.

Tài chính và Kế toán

Với MISA AVA, các nghiệp vụ như kiểm tra hóa đơn, đối soát và nhập liệu được tự động hóa hoàn toàn. Các chứng từ và báo cáo tài chính có thể được tạo lập chỉ trong vài phút thay vì nhiều giờ, đồng thời loại bỏ rủi ro sai sót do con người.

Kinh doanh và Vận hành

MISA AVA cung cấp hỗ trợ 24/7, tức thời cung cấp thông tin sản phẩm và bảng giá, tự động tóm tắt cuộc gọi, hỗ trợ soạn email và trích xuất dữ liệu khách hàng. Nhờ đó, đội ngũ kinh doanh có thể giảm thiểu công việc thủ công và tập trung vào trải nghiệm khách hàng cũng như tăng trưởng doanh thu.

Tuyển dụng và Nhân sự

Trước đây, mỗi đợt tuyển dụng có thể cần tới 5 nhân viên nhân sự xử lý thủ công hàng trăm đến hàng nghìn hồ sơ. Với AI, toàn bộ quy trình từ tiếp nhận, sàng lọc, đánh giá đến trích xuất dữ liệu CV đều được tự động hóa 100% chỉ trong vài phút, giúp tiết kiệm tới 90% thời gian xử lý của bộ phận nhân sự.

Cân bằng giữa đổi mới AI – bảo mật dữ liệu – tuân thủ pháp luật

Trước đây, MISA sử dụng các API LLM bên ngoài, dẫn đến chi phí vận hành cao và thiếu kiểm soát về bảo mật dữ liệu. Bên cạnh đó, độ trễ trong các quy trình nghiệp vụ nhạy cảm của doanh nghiệp và dịch vụ công cũng là một thách thức lớn. MISA cần xây dựng năng lực kỹ thuật để tinh chỉnh các mô hình ngôn ngữ tiếng Việt và mô hình chuyên biệt theo từng lĩnh vực ở quy mô lớn, đồng thời hỗ trợ nhiều thử nghiệm và triển khai AI song song.

Xây dựng nhà máy AI “Make in Vietnam”

Để bảo đảm tự chủ công nghệ, MISA đã triển khai một cụm hệ thống on-premise với 8 hệ thống NVIDIA DGX™ H200 kết nối qua NVIDIA Quantum InfiniBand. Hạ tầng này đóng vai trò là trái tim của nhà máy AI, phục vụ cả huấn luyện và suy luận.

Hệ thống cho phép MISA huấn luyện và tinh chỉnh các mô hình từ 8 tỷ đến 235 tỷ tham số, đồng thời vận hành “Core AI” ngay trên cụm DGX. Việc đưa Core AI về vận hành nội bộ giúp MISA chuyển dịch từ mô hình thuê dịch vụ sang kiến trúc tự vận hành hoàn toàn, chạy những mô hình LLM lớn nhất và thông minh nhất ngay trên hệ thống DGX. Bổ trợ cho hạ tầng này, các GPU NVIDIA A40 đảm nhiệm các tác vụ chuyên biệt và nhẹ hơn như eKYC và router LLM.

Bằng việc ứng dụng NVIDIA Run:ai, MISA tối ưu hóa hiệu quả đầu tư phần cứng thông qua ảo hóa GPU và chia sẻ tài nguyên linh hoạt, nâng số lượng thử nghiệm song song lên 10-20 thử nghiệm mỗi tuần, tăng vượt bậc so với mức 1-2 thử nghiệm trước đây.

Tối ưu hóa công nghệ mô hình ngôn ngữ lớn (LLM) với NVIDIA AI Enterprise

MISA tận dụng toàn bộ bộ phần mềm NVIDIA AI Enterprise để tối ưu hóa quy trình từ đầu đến cuối. Công ty sử dụng NVIDIA NeMo™ để tinh chỉnh mô hình theo từng lĩnh vực chuyên biệt, đảm bảo các mô hình hoạt động xuất sắc trong ngữ cảnh tiếng Việt và hành chính địa phương.

Đối với việc phục vụ ở quy mô sản xuất, MISA sử dụng NVIDIA Dynamo và NVIDIA NIM™. Nhờ áp dụng lượng tử hóa FP8, thông lượng suy luận đã tăng từ 1.200 lên 4.500 TPS mỗi mô hình, yếu tố then chốt cho các tương tác AI agent theo thời gian thực.

Giải pháp của NVIDIA không chỉ nâng cao tốc độ xử lý, độ ổn định hệ thống và độ chính xác cho từng tác vụ chuyên biệt, mà còn tạo nền tảng vững chắc để MISA hoàn toàn làm chủ công nghệ, bao gồm nghiên cứu, huấn luyện, triển khai và bảo đảm an toàn bảo mật, nhằm mang đến những giải pháp AI tốt nhất cho khách hàng.

– Ông Nguyễn Xuân Hoàng, Phó Chủ tịch HĐQT, MISA

Vận hành ở quy mô lớn

Hệ thống hiện cung cấp hơn 50 AI Agent dựng sẵn phục vụ khách hàng, đồng thời cho phép các doanh nghiệp tự thiết kế và tùy chỉnh AI Agent theo nhu cầu nghiệp vụ nội bộ.

Việc triển khai robot AI tại Trung tâm Phục vụ Hành chính công rất thiết thực. Khi cán bộ tại quầy đang bận, chúng tôi có thể hỏi robot AI và nhận câu trả lời rất nhanh. Giao diện cũng rất dễ hiểu.

– Ông Lê Xuân Dũng, cư dân tại Thôn 2 làng Thiết Cương, Thanh hoá

Trong số các trợ lý AI dựng sẵn nổi bật có:

• MISA AVA: Trợ lý AI tra cứu thông tin nội bộ.
• MISA AMIS OneAI: Nền tảng AI hợp nhất phục vụ tra cứu tri thức và phản hồi chuyên gia.
• MISA AMIS AgentMate: Trợ lý hỗ trợ khách hàng 24/7.
• MISA AVA Mail: Trợ lý quản lý email.
• MISA AVA Tuyển dụng: Trợ lý tự động hóa quy trình tuyển dụng.

Bên cạnh đó, MISA còn cung cấp hơn 500 mẫu AI Agent có thể tùy biến theo từng lĩnh vực cụ thể, chẳng hạn như trợ lý bán hàng cho ngành bán lẻ, trợ lý đặt lịch cho doanh nghiệp dịch vụ, trợ lý tuyển dụng cho nghiệp vụ nhân sự, và trợ lý tư vấn B2B. Các Agent này có thể được điều chỉnh phù hợp với từng quy trình và đặc thù ngành nghề, hỗ trợ tổ chức mở rộng ứng dụng AI một cách hiệu quả.

Các giải pháp AI của MISA hiện đang được sử dụng bởi hơn 450.000 tổ chức, minh chứng cho khả năng mở rộng, độ ổn định và tính sẵn sàng cao của hạ tầng AI trong môi trường vận hành thực tế ở quy mô lớn.

Tự động hóa AI toàn diện trên mọi tầng vận hành doanh nghiệp

Bằng việc triển khai kiến trúc toàn diện tăng tốc bởi NVIDIA, bao gồm cụm NVIDIA DGX H200 (64 GPU NVIDIA H200) cùng NVIDIA AI Enterprise và NVIDIA Run:ai, MISA đã rút ngắn thời gian tinh chỉnh mô hình xuống 4 lần và tiết kiệm 200.000 USD chi phí vận hành mỗi tháng. Kiến trúc này hỗ trợ vận hành hơn 50 AI Agent, xử lý 2,5 triệu lượt sử dụng tính năng mỗi ngày, phục vụ tự động hóa dịch vụ công và nghiệp vụ doanh nghiệp trên toàn quốc.

MISA đã hiện thực hóa mục tiêu tích hợp Generative AI và AI Agent vào các luồng nghiệp vụ cốt lõi thông qua Trợ lý AI MISA AVA, được tích hợp ngay trong nền tảng quản trị doanh nghiệp hợp nhất MISA AMIS.

Kết quả thu được mang lại tác động rõ rệt và có thể đo lường được:

Những kết quả này cho thấy MISA không chỉ ứng dụng AI như một công cụ hỗ trợ, mà đang tiến tới các tác nhân AI có khả năng tự chủ thực thi và tối ưu hóa toàn bộ quy trình vận hành doanh nghiệp từ đầu đến cuối.

Chuyển đổi dịch vụ công và vận hành doanh nghiệp

Tác động từ nền tảng AI MISA phát triển trên hạ tầng NVIDIA đã hiện diện rõ nét trên khắp Việt Nam:

• Tự động hóa doanh nghiệp: Các doanh nghiệp nhỏ như Noomfood sử dụng AI Agent của MISA để xử lý tư vấn khách hàng 24/7 và đồng bộ đơn hàng. Nhờ đó, tốc độ phản hồi khách hàng đã tăng gấp 6 lần, cho phép nhân viên tập trung vào các công việc tạo ra giá trị cao hơn thay vì nhập liệu thủ công.
• Quy mô toàn quốc: Hơn 450.000 tổ chức đang ứng dụng năng lực AI của MISA, xử lý hơn 1,1 triệu lượt yêu cầu LLM mỗi ngày.

Ban đầu, nhân viên lo ngại rằng AI có thể thay thế công việc của họ. Tuy nhiên, khi AI trở thành một công cụ hỗ trợ mạnh mẽ, đội ngũ đã có thêm thời gian để nâng cao năng lực và kiểm soát tốt hơn toàn bộ quy trình.

– Bà Lê Lan Phước, Trưởng phòng Marketing, Noomfood

Định hướng tương lai

MISA định hướng phát triển nhà máy AI hiện tại thành một hệ sinh thái AI Agent toàn diện, phục vụ cả nghiệp vụ nội bộ và khách hàng bên ngoài. Bằng việc làm chủ toàn bộ công nghệ lõi LLM, từ tiền huấn luyện đến tối ưu hóa mô hình, MISA đang củng cố năng lực tự chủ công nghệ và khả năng mở rộng dài hạn.

Vượt ra ngoài phạm vi văn bản, lộ trình phát triển của tập đoàn còn mở rộng sang các công nghệ hình ảnh, giọng nói và 3D, kiến tạo nền tảng hiệu năng cao để cung cấp các giải pháp AI an toàn, bảo mật ở quy mô quốc gia.