Tìm hiểu cách Amazon Finance triển khai trợ lý AI sử dụng Amazon Bedrock và Amazon Kendra, áp dụng phương pháp Retrieval-Augmented Generation (RAG) nhằm hỗ trợ các nhà phân tích tài chính trong quá trình khai phá dữ liệu và tạo ra insights kinh doanh nhanh chóng và chính xác.
Trong bối cảnh ngày càng gia tăng khối lượng dữ liệu và độ phức tạp trong quy trình tài chính, các nhà phân tích tại Amazon Finance thường mất quá nhiều thời gian truy cập dữ liệu từ nhiều hệ thống khác nhau mà bỏ lỡ thời gian phân tích có giá trị. Bên cạnh đó, kiến thức tổ chức và dữ liệu lịch sử thường thất lạc hoặc không được khai thác hiệu quả. Đó là lúc Amazon Finance quyết định ứng dụng trí tuệ nhân tạo – chính xác hơn là tích hợp Amazon Bedrock và Amazon Kendra để xây dựng một trợ lý AI mạnh mẽ hỗ trợ khám phá dữ liệu (data discovery) và rút ra insights kinh doanh có giá trị.
Các thách thức chính
- Tìm kiếm manh mối dữ liệu khó khăn: Các công cụ truy vấn truyền thống thường dựa trên từ khóa, dễ bỏ lỡ các mối liên hệ ngữ cảnh.
- Tổn thất kiến thức tổ chức: Dữ liệu lịch sử hoặc quyết định kinh doanh thường nằm rải rác trong các hệ thống cũ hoặc tài liệu, khó tái sử dụng.
- Thiếu độ linh hoạt: Khi bối cảnh kinh doanh thay đổi nhanh, các nhà phân tích cần truy cập thông tin một cách tức thời — điều khó đạt được với quy trình thủ công.
Giải pháp – AI Assistant trong thế giới doanh nghiệp
Tổng quan giải pháp
Amazon Finance đã thiết kế và triển khai một trợ lý AI dựa trên mô hình Retrieval-Augmented Generation (RAG), kết hợp:
- Tìm kiếm ngữ nghĩa (semantic search) thông qua vector store (không dùng từ khóa đơn thuần),
- Tạo nội dung nâng cao (augmented generation) với khả năng sinh câu trả lời tự nhiên, chính xác và có ngữ cảnh.
Quy trình hoạt động gồm: truy xuất thông tin liên quan → cung cấp ngữ cảnh cho mô hình → sinh câu trả lời có độ xác thực cao
Amazon Bedrock
Bedrock là dịch vụ AI nền tảng từ AWS cho phép truy cập các Foundation Models (FMs) từ nhiều nhà cung cấp. Trong mô hình này, Amazon Finance chọn sử dụng Anthropic Claude 3 Sonnet nhờ khả năng hiểu ngữ cảnh và tạo ngôn ngữ tự nhiên mạnh mẽ. Claude được tích hợp vào RAG thông qua Amazon Bedrock để sinh ra các phản hồi chính xác, giàu ngữ cảnh và gần gũi như cuộc trò chuyện thật.
Amazon Kendra (Enterprise Edition)
Kendra được sử dụng như một hệ thống truy vấn ngữ nghĩa mạnh mẽ – có khả năng hiểu ý định người dùng, hỗ trợ nhiều định dạng tài liệu, có bộ connector sẵn và tích hợp dễ dàng với Bedrock. So với các giải pháp như OpenSearch hay Amazon Q Business, Kendra cung cấp độ chính xác cao hơn, khả năng điều chỉnh linh hoạt như cấu hình synonym, relevance tuning và kiểm soát truy vấn tinh vi.
Mẫu nhắc nhở
Mẫu gợi ý cho phép định dạng truy vấn của người dùng, tích hợp kiến thức đã thu thập và cung cấp hướng dẫn hoặc ràng buộc để tạo phản hồi, điều này rất cần thiết để tạo ra các phản hồi theo ngữ cảnh và giàu thông tin, kết hợp khả năng tạo ngôn ngữ của Claude thuộc Anthropic với kiến thức liên quan được thu thập từ tìm kiếm do Amazon Kendra cung cấp. Sau đây là một ví dụ về gợi ý:
Kiến trúc giải pháp
Sơ đồ kiến trúc giải pháp sau đây mô tả cách các thành phần kiến trúc chính phối hợp với nhau để cung cấp năng lượng cho giải pháp.
Quy trình làm việc bao gồm các bước sau:
- Người dùng sẽ đặt câu hỏi trong hộp trò chuyện sau khi xác thực.
- Ứng dụng Streamlit gửi truy vấn đến trình thu thập Amazon Kendra để thu thập tài liệu có liên quan.
- Amazon Kendra gửi đoạn văn và tài liệu tham khảo có liên quan đến giải pháp RAG.
- Giải pháp RAG sử dụng Claude của Anthropic trong Amazon Bedrock cùng với mẫu lời nhắc và đoạn văn liên quan làm bối cảnh.
- Phản hồi LLM được gửi lại cho Giao diện người dùng Streamlit.
- Phản hồi sẽ được hiển thị cho người dùng cùng với tính năng phản hồi và lịch sử phiên.
- Phản hồi của người dùng về các phản hồi được lưu trữ riêng biệt trong Amazon Simple Storage Service (Amazon S3)
- Amazon Kendra lập chỉ mục các tài liệu có liên quan được lưu trữ trong các thùng S3 để tìm kiếm và truy xuất tài liệu.
Kiến trúc giao diện người dùng
Chúng tôi thiết kế kiến trúc giao diện sau đây để cho phép sửa đổi và triển khai nhanh chóng, đồng thời lưu ý đến khả năng mở rộng và bảo mật của giải pháp.
Quy trình làm việc bao gồm các bước:
1. Người dùng điều hướng đến URL ứng dụng trong trình duyệt của họ.
2. Amazon Route 53 xử lý yêu cầu và chuyển hướng tới hệ thống phân phối Amazon CloudFront. CloudFront sẽ chọn máy chủ gần người dùng nhất để giảm thiểu độ trễ.
3. CloudFront kích hoạt một hàm AWS Lambda để kiểm tra xác thực. Nếu người dùng chưa đăng nhập, họ sẽ được chuyển hướng đến trang đăng nhập. Sau khi đăng nhập thành công, người dùng quay lại ứng dụng. Lúc này, CloudFront tiếp tục kích hoạt Lambda để xác minh và cho phép truy cập.
4. Sau khi xác thực thành công, CloudFront trả về các tài sản của ứng dụng web cho người dùng.
5. Ứng dụng chạy trên AWS Fargate dưới dạng container không máy chủ, không cần quản lý hạ tầng EC2. Amazon ECS được cấu hình tự động mở rộng dựa trên các yêu cầu đến từ Application Load Balancer (ALB), giúp ứng dụng duy trì hiệu năng và khả năng linh hoạt cao.
Giao diện tương tác: Streamlit & Prompt Template
Giao diện trợ lý AI được xây dựng bằng Streamlit, giúp phát triển nhanh, tích hợp dễ với backend, hiển thị tương tác và visual hóa dữ liệu. Quy trình tương tác gồm: người dùng nhập câu hỏi → Streamlit gửi đến Kendra → Kendra lấy đoạn văn liên quan → RAG kết hợp Claude sinh câu trả lời → phản hồi hiển thị trên UI.
Lợi ích và kết quả
- Tiết kiệm thời gian truy vấn dữ liệu: Nhà phân tích có thể đặt câu hỏi bằng ngôn ngữ tự nhiên và nhận thông tin nhanh chóng.
- Giữ gìn và tái sử dụng kiến thức tổ chức: Mọi thông tin lịch sử và lý do ra quyết định đều có thể truy xuất qua trợ lý.
- Tăng độ chính xác và logic trong ra quyết định: Kết quả truy vấn được sinh ra trên nền kiến thức có kiểm định, không gây ảo tưởng (hallucination).
- Phát triển nền tảng AI doanh nghiệp hiệu quả: Tích hợp Kendra + Bedrock thành công là minh chứng của tri thức doanh nghiệp được tự động hóa và tối ưu hóa.
Kết Luận
Việc Amazon Finance ứng dụng Amazon Bedrock và Amazon Kendra trong xây dựng AI Assistant đã chứng minh sức mạnh của công nghệ AI trong việc tối ưu phân tích dữ liệu và hỗ trợ ra quyết định kinh doanh. Đây cũng chính là định hướng mà nhiều doanh nghiệp tại Việt Nam đang theo đuổi để nâng cao năng lực cạnh tranh và khai thác giá trị từ dữ liệu.
👉 Nếu doanh nghiệp của bạn đang tìm kiếm đối tác chiến lược về Cloud & AI, OSAM – Advanced Consulting Partner của AWS – chính là lựa chọn tin cậy. Với kinh nghiệm triển khai hàng trăm dự án thành công trên nền tảng AWS, OSAM sẵn sàng đồng hành cùng bạn trong hành trình chuyển đổi số, từ tư vấn giải pháp, tối ưu hạ tầng, đến tích hợp AI vào hoạt động kinh doanh.
✨ Liên hệ ngay với OSAM để bắt đầu hành trình khai phá dữ liệu, tăng tốc đổi mới cùng AWS.
Tìm hiểu thêm:
https://osam.io/lam-chu-ai-agents-quy-mo-doanh-nghiep/
https://osam.io/chien-luoc-toi-uu-hoa-chi-phi-hieu-qua-cho-amazon-bedrock/
