AI Factory: Lời giải cho bài toán phát triển AI, tối ưu hóa vận hành đa lĩnh vực

Câu hỏi không còn là có làm AI hay không, mà là doanh nghiệp sẽ triển khai AI trên hạ tầng nào để các mô hình có thể vận hành ổn định, mở rộng khi nhu cầu tăng và đáp ứng các yêu cầu ngày càng cao về hiệu năng, bảo mật.

Trong bối cảnh đó, AI Factory đang trở thành nền tảng hạ tầng được nhiều doanh nghiệp lựa chọn để đưa AI từ giai đoạn thử nghiệm vào vận hành thực tế.

Nhà máy AI - AI Factory có thể hiểu là hạ tầng chuyên biệt dành cho AI. Nếu trung tâm dữ liệu truyền thống chủ yếu cung cấp tài nguyên tính toán, AI Factory được thiết kế để phục vụ toàn bộ vòng đời của AI, từ huấn luyện mô hình, tinh chỉnh, triển khai đến vận hành. Việc tập trung toàn bộ quy trình trên cùng một nền tảng giúp doanh nghiệp rút ngắn thời gian phát triển, tối ưu chi phí và đưa các ứng dụng AI vào sử dụng nhanh hơn. Điều này được thể hiện rõ qua những bài toán triển khai AI trong nhiều lĩnh vực khác nhau.

Thúc đẩy phát triển mô hình AI Y tế chuyên sâu, cải thiện tốc độ điều trị

Trong lĩnh vực y tế, Bệnh viện E triển khai thử nghiệm nền tảng AI tạo sinh VEM.AI trên hạ tầng GPU Cloud của FPT AI Factory. Với đặc thù dữ liệu y tế liên tục được cập nhật, bài toán không chỉ nằm ở việc xây dựng mô hình AI mà còn ở khả năng huấn luyện, tinh chỉnh và triển khai mô hình đủ nhanh, độ chính xác cao để đáp ứng nhu cầu thực tế của đội ngũ y bác sĩ về chuyên môn lâm sàng như xét nghiệm máu, phân tích tế bào, siêu âm...

"Quá trình huấn luyện từng mất hàng giờ nay chỉ còn tính bằng phút nhờ hạ tầng GPU thế hệ mới hoạt động 24/7 để liên tục cải thiện độ chính xác của mô hình. Kết hợp với hệ thống máy chủ trong nước và đội ngũ kỹ sư hỗ trợ, chúng tôi có môi trường xử lý dữ liệu nhanh hơn, ổn định và an toàn hơn, từ đó thay đổi cách phát triển, triển khai và mở rộng các mô hình và ứng dụng AI." - Ông Nguyễn Văn Khánh, Giám đốc Công nghệ VEM.AI chia sẻ.

Nhờ đó, các bác sĩ tại Bệnh viện E cùng các kỹ sư AI có thể phát triển và ứng dụng AI nhanh hơn, sát với quy trình khám chữa bệnh và yêu cầu chuyên môn, từ việc tổng hợp hồ sơ bệnh án, phân tích xét nghiệm và đưa ra quyết định điều trị.

Hạ tầng AI giúp AI Agent có thể vận hành ở quy mô lớn

Trong lĩnh vực thương mại - tài chính, AI không chỉ hỗ trợ phân tích mà bắt đầu trực tiếp thực hiện các tác vụ thay cho con người. Thông qua hợp tác giữa FPT, InFlow và Visa Intelligent Commerce, FPT AI Factory cung cấp hạ tầng tính toán để các AI Agent có thể xử lý đồng thời nhiều tác vụ như tìm kiếm sản phẩm, so sánh lựa chọn, đưa ra khuyến nghị và hoàn tất thanh toán theo cơ chế kiểm soát của Visa. Năng lực tính toán của AI Factory giúp các AI Agent duy trì tốc độ phản hồi khi số lượng giao dịch tăng, đồng thời cho phép doanh nghiệp mở rộng quy mô dịch vụ mà không cần đầu tư hạ tầng GPU riêng. Đây là nền tảng để các mô hình thương mại tự động có thể vận hành ổn định trong môi trường thực tế.

Đồng thời, để AI vận hành và xử lý khối lượng dữ liệu và công việc lớn, hạ tầng AI cần đảm bảo đáp ứng yêu cầu nghiêm ngặt về bảo mật và tính liên tục của hệ thống. Một ngân hàng thương mại cổ phần lớn tại Việt Nam đã lựa chọn hạ tầng GPU của FPT AI Factory để triển khai các ứng dụng AI phục vụ phân tích dữ liệu, tối ưu vận hành và nâng tầm trải nghiệm khách hàng. Thay vì phải đầu tư hạ tầng tính toán chuyên biệt, ngân hàng có thể chủ động mở rộng tài nguyên theo nhu cầu, rút ngắn thời gian triển khai các mô hình AI, đồng thời đảm bảo hệ thống luôn hoạt động ổn định trong môi trường yêu cầu cao về an toàn thông tin.

AI Factory giúp doanh nghiệp rút ngắn con đường triển khai AI

Xu hướng này không chỉ diễn ra tại Việt Nam. Tại Malaysia, FPT hợp tác với ALPHV - một trong những đơn vị AI-Native hàng đầu khu vực - nhằm mở rộng hạ tầng AI Cloud cho thị trường Đông Nam Á. FPT AI Factory cung cấp năng lực tính toán dưới dạng dịch vụ, giúp doanh nghiệp tiếp cận hạ tầng AI theo nhu cầu, rút ngắn thời gian triển khai và giảm đáng kể chi phí đầu tư ban đầu.

Theo nhận định của ông Daren Tan - Tổng giám đốc ALPHV: "Các doanh nghiệp Malaysia đã sẵn sàng vượt qua giai đoạn thử nghiệm AI, nhưng họ cần một hạ tầng đủ mạnh, đảm bảo chủ quyền dữ liệu và dễ tiếp cận. Hợp tác với FPT AI Factory mang đến đúng nền tảng đó, giúp chúng tôi cung cấp các giải pháp AI đạt tiêu chuẩn doanh nghiệp cho khách hàng, đồng thời mở quyền truy cập năng lực tính toán GPU hiệu năng cao cho hơn 70.000 nhà phát triển trong hệ sinh thái. Cùng nhau, chúng tôi đang biến Malaysia thành bệ phóng cho làn sóng đổi mới AI tiếp theo tại Đông Nam Á."

Dù ở y tế, tài chính, thương mại hay hệ sinh thái phát triển AI, điểm chung đều là nhu cầu về một hạ tầng đủ mạnh để AI có thể vận hành ổn định ở quy mô lớn. Đây cũng là hướng tiếp cận của FPT khi xây dựng AI Factory như một nền tảng AI Cloud chuyên biệt, sử dụng các dòng GPU thế hệ mới như NVIDIA H100, H200 và B300 để phục vụ các bài toán AI yêu cầu tính toán cao.

Hạ tầng này hiện nằm trong Top 500 siêu máy tính mạnh nhất thế giới, đồng thời đáp ứng các tiêu chuẩn bảo mật quốc tế như PCI DSS và SOC 2, tạo điều kiện triển khai AI trong những lĩnh vực có yêu cầu khắt khe như tài chính và y tế. FPT AI Factory đang cung cấp 43 dịch vụ AI, phục vụ hơn 20 doanh nghiệp và gần 19.000 nhà nghiên cứu trên toàn cầu, với quy mô xử lý hơn 166 tỷ token mỗi tháng.