Lời giải cho ứng dụng GenAI trong ngân hàng và sức mạnh tổng hợp từ Viettel Kubernetes Engine

Ba rào cản khi ứng dụng GenAI trong ngân hàng

Mới đây, Tổng Công ty Giải pháp Doanh nghiệp Viettel (Viettel Solutions) - Thành viên Tập đoàn Công nghiệp - Viễn thông Quân đội (Viettel) đã tổ chức Hội thảo "Sự bùng nổ GenAI trong lĩnh vực tài chính ngân hàng" với sự tham dự của nhiều chuyên gia tới từ các ngân hàng, tổ chức tài chính lớn và các công ty công nghệ toàn cầu, cùng chia sẻ tri thức, kinh nghiệm và câu chuyện về GenAI và Cloud trong lĩnh vực tài chính ngân hàng.

Tại hội thảo, các chuyên gia cho rằng, dù đã có nhiều trường hợp ứng dụng tốt vào lĩnh vực tài chính ngân hàng như trợ lý ảo, tự động hóa quy trình nghiệp vụ, đánh giá rủi ro, cảnh báo lừa đảo, định danh khách hàng… song, GenAI vẫn chưa được các tổ chức tài chính - ngân hàng triển khai phổ biến ở Việt Nam. Theo đại diện của Viettel AI nhận định có 3 rào cản chính:

Một là, GenAI là công nghệ rất mới, điều này khiến nhiều tổ chức có sự e ngại nhất định trong việc đầu tư và ứng dụng công nghệ.

Hai là, cơ sở hạ tầng nhiều lớp đặt ra một thách thức khác đối với GenAI vì loại AI này phụ thuộc rất nhiều vào cơ sở dữ liệu, trong khi ngành ngân hàng với các quy định nghiêm ngặt về bảo mật và quyền riêng tư, thường hạn chế truy cập và chia sẻ dữ liệu.

Ba là, rào cản đến từ các nền tảng hiện có của các tổ chức, doanh nghiệp. Trước đây, doanh nghiệp triển khai các hệ thống rất lớn, riêng lẻ, phân tán. Hiện nay, xu hướng là tập trung và chia sẻ dữ liệu để phân tích và đưa ra giải pháp toàn diện. Tuy nhiên, việc chuyển đổi từ hệ thống cũ sang hệ thống mới đòi hỏi sự đầu tư lớn về thời gian và nguồn lực.

Lời giải đến từ đâu?

Để phá vỡ những rào cản này, Viettel Solutions đã phối hợp chặt chẽ với các công ty công nghệ hàng đầu thế giới, triển khai các sản phẩm dịch vụ hỗ trợ doanh nghiệp trong lĩnh vực ngân hàng tài chính có thể sớm khai phá tiềm năng của Gen AI, ứng dụng vào hoạt động sản xuất kinh doanh.

Ông Nguyễn Trọng Vĩnh - Giám đốc Công nghệ Nền tảng Cloud Viettel Solutions chia sẻ, thời gian vừa qua, Viettel Solutions và ông lớn công nghệ NVIDIA đã có nhiều dự án phối hợp để giải quyết các vấn đề cả về hạ tầng phần cứng, nền tảng phần mềm và quy trình ứng dụng AI.

Với hạ tầng số trải khắp Bắc - Trung - Nam, Viettel sẵn sàng cung cấp đầy đủ dịch vụ từ lớp hạ tầng, đến nền tảng cho tới lớp ứng dụng. Viettel Cloud hiện sở hữu hạ tầng điện toán đám mây lớn nhất và đa dạng nhất Việt Nam, được Uptime chứng nhận tiêu chuẩn Tier III với 14 Data Center (trung tâm dữ liệu) với khả năng cung cấp 11.500 racks. Dự kiến, đến năm 2025 sẽ nâng lên 17 Data Center với khả năng cung cấp 18.000 racks, và mục tiêu tới 2030 là 24 Data Center với 36.000 racks.

Để đáp ứng các xu hướng tương lai, Viettel Solutions đã ra mắt giải pháp Viettel Kubernetes Engine (VKE) tích hợp GPU. Đây là nền tảng Kubernetes triển khai trên hạ tầng Cloud mạnh mẽ của Viettel Cloud, cung cấp môi trường ảo hóa hoàn chỉnh, cho phép người dùng phát triển, kiểm thử, triển khai và phân phối ứng dụng trên nền tảng Kubernetes.

Đi sâu về Kubernetes, ông Vĩnh chỉ rõ những lợi điểm nổi bật của Kubernetes của Viettel Cloud, bao gồm khả năng tự động cân bằng tải công việc giữa các máy chủ, đảm bảo hiệu suất và hoạt động ổn định; khả năng dễ dàng triển khai các ứng dụng trên nhiều tầng lưu trữ khác nhau, từ lưu trữ cục bộ đến lưu trữ đám mây…

Đặc biệt, khi phát hiện các vấn đề như sự cố phần cứng, lỗi phần mềm hoặc quá tải tài nguyên, Kubernetes có khả năng tự động tạo ra vùng chứa mới, loại bỏ vùng chứa hiện tại và chuyển tất cả tài nguyên sang vùng chứa mới. Điều này giúp hệ thống nhanh chóng phục hồi sau sự cố, đảm bảo tính liên tục và ổn định của dịch vụ.

Cam kết của Viettel Cloud

Vì Kubernetes là một nền tảng mở, Viettel Cloud có thể cung cấp nhiều mô hình triển khai khác nhau để doanh nghiệp lựa chọn giải pháp phù hợp nhất. Doanh nghiệp có thể chọn mô hình tự triển khai và kiểm soát hoàn toàn hệ thống.

Trong trường hợp doanh nghiệp không muốn tự quản lý hạ tầng, Viettel cung cấp dịch vụ quản trị hạ tầng với các thành phần điều khiển của VKE do Viettel vận hành. Dịch vụ này hỗ trợ doanh nghiệp tập trung toàn bộ nguồn lực vào việc phát triển ứng dụng và kinh doanh.

"Chúng tôi trong thời gian sắp tới sẽ cam kết rất mạnh mẽ vào việc xây dựng các Data Center, cung cấp các sản phẩm dịch vụ Cloud và hỗ trợ các bài toán AI, Machine Learning dành cho lĩnh vực tài chính ngân hàng" - ông Vĩnh khẳng định.