Amazon Bedrock đang trở thành một lựa chọn đáng chú ý cho các doanh nghiệp muốn đưa Generative AI vào hệ thống thực tế mà không phải tự xây dựng toàn bộ hạ tầng mô hình. Trong case study mới được công bố, Yahoo đã chia sẻ cách doanh nghiệp này hiện đại hóa Search Retargeting trong nền tảng Yahoo DSP, thay thế quy trình mở rộng từ khóa cũ bằng các mô hình ngôn ngữ lớn.
Thông qua Amazon Bedrock, đội ngũ Yahoo có thể thử nghiệm nhiều foundation model, tạo ra các từ khóa liên quan về ngữ nghĩa và kiểm soát chất lượng đầu ra trước khi đưa dữ liệu vào hệ thống quảng cáo. Đây là ví dụ thực tế về cách Generative AI có thể được triển khai ở quy mô lớn nhưng vẫn duy trì độ chính xác và quyền riêng tư
Amazon Bedrock giải quyết bài toán gì của Yahoo?
Search Retargeting, hay quảng cáo bám đuổi theo hành vi tìm kiếm, là phương pháp giúp nhà quảng cáo tiếp cận người dùng dựa trên những truy vấn mà họ đã thực hiện.
Trong Yahoo DSP, nhà quảng cáo bắt đầu bằng một tập hợp từ khóa mô tả sản phẩm, dịch vụ hoặc nhóm nhu cầu cần tiếp cận. Hệ thống sau đó mở rộng tập từ khóa này nhằm nhận diện thêm những truy vấn có ý nghĩa liên quan và đưa người dùng vào phân khúc đối tượng phù hợp.
Trước đây, kiến trúc Search Retargeting của Yahoo sử dụng mô hình Word2Vec kết hợp với locality-sensitive hashing, thường được viết tắt là LSH. Quy trình này gồm nhiều bước như chuẩn hóa từ khóa, tạo embedding, lập chỉ mục, tìm kiếm từ khóa tương tự, lọc nội dung nhạy cảm và xếp hạng kết quả.
Tuy nhiên, phương pháp cũ tồn tại một số hạn chế:
- Vốn từ của mô hình có thể không theo kịp các thuật ngữ mới.
- Kết quả thiên về sự giống nhau trong cách viết hơn là ý nghĩa.
- Hệ thống khó hiểu các thực thể hoặc ý định tìm kiếm phức tạp.
- Một số từ khóa không tạo ra được kết quả mở rộng nào.
Yahoo vì vậy đã sử dụng Amazon Bedrock và LLM (Large Language Model) để xây dựng một cơ chế mở rộng từ khóa dựa trên ngữ nghĩa, giúp tăng cả số lượng lẫn mức độ liên quan của các từ khóa được tạo ra.
5 bước Yahoo ứng dụng Amazon Bedrock vào Search Retargeting
Bước 1: Xác định từ khóa gốc và phân khúc đối tượng
Quy trình bắt đầu khi nhà quảng cáo cung cấp các từ khóa đại diện cho sản phẩm, dịch vụ hoặc nhu cầu khách hàng. Các từ khóa này được gắn với từng audience segment và lưu trong cơ sở dữ liệu.
Audience segment có thể hiểu là một nhóm người dùng có chung mối quan tâm, đặc điểm hoặc hành vi. Hệ thống quảng cáo sử dụng các phân khúc này để xác định chiến dịch phù hợp với từng nhóm người dùng
Đây là bước quan trọng nhưng thường bị đánh giá thấp. Một tập từ khóa quá rộng có thể làm tăng số lượng kết quả nhiễu, trong khi từ khóa quá hẹp sẽ hạn chế khả năng tìm thấy khách hàng tiềm năng.
Dù sử dụng Amazon Bedrock, doanh nghiệp vẫn cần xây dựng chiến lược dữ liệu và quy tắc phân khúc rõ ràng. LLM không thể tự động khắc phục hoàn toàn một tập dữ liệu đầu vào thiếu chính xác.
Bước 2: Dùng LLM để mở rộng từ khóa theo ngữ nghĩa
Thông qua Amazon Bedrock, Yahoo có thể tiếp cận và thử nghiệm nhiều foundation model mà không phải tự xây dựng hạ tầng lưu trữ và vận hành mô hình.
Thay vì chỉ tìm kiếm những cụm từ có cách viết tương tự, LLM có thể tạo ra các khái niệm liên quan dựa trên ngữ cảnh và ý định tìm kiếm.
Chẳng hạn, với từ khóa “xe điện gia đình”, hệ thống không chỉ tạo các biến thể có chứa cụm từ “xe điện”. LLM còn có thể đề xuất những chủ đề liên quan như:
- Chi phí sử dụng xe điện.
- Trạm sạc tại nhà.
- Phạm vi di chuyển.
- Xe điện phù hợp với gia đình.
- Chính sách hỗ trợ mua xe điện.
Đây là điểm khác biệt giữa mở rộng từ khóa theo bề mặt ngôn ngữ và mở rộng từ khóa dựa trên ý nghĩa.
AWS cho biết Amazon Bedrock đã giúp Yahoo thử nghiệm các mô hình từ nhiều nhà cung cấp, bao gồm Amazon, Meta và Anthropic, mà không cần tự xây dựng hạ tầng phục vụ từng mô hình riêng biệt.
Bước 3: Đánh giá và lựa chọn LLM phù hợp
Yahoo không mặc định sử dụng một mô hình duy nhất ngay từ đầu. Đội ngũ đã thử nghiệm nhiều foundation model trong Amazon SageMaker Studio trước khi lựa chọn mô hình phù hợp cho bài toán mở rộng từ khóa.
Theo case study, Claude 3.5 Sonnet v2 được lựa chọn do đạt được sự cân bằng tốt giữa:
- Số lượng từ khóa được mở rộng.
- Mức độ tương đồng về ngữ nghĩa.
- Khả năng tạo ra những từ khóa mới.
- Chất lượng đầu ra sau khi kiểm chứng.
Khi được triển khai thông qua Amazon Bedrock, mô hình này có thể tạo ra hàng trăm hoặc hàng nghìn từ khóa trong một số trường hợp mà phương pháp LSH trước đó không tạo ra kết quả mới.
Điều doanh nghiệp cần lưu ý là mô hình “mạnh nhất” trên thị trường chưa chắc là mô hình phù hợp nhất với hệ thống của mình. Việc lựa chọn LLM cần dựa trên dữ liệu thực tế và các tiêu chí như độ chính xác, chi phí, độ trễ, khả năng kiểm soát đầu ra và yêu cầu pháp lý.
Bước 4: Kiểm chứng từ khóa bằng embedding
Một hạn chế phổ biến của LLM là hallucination: mô hình có thể tạo ra kết quả nghe có vẻ hợp lý nhưng không thực sự liên quan đến dữ liệu đầu vào.
Trong quá trình thử nghiệm, Yahoo cũng ghi nhận hiện tượng LLM tạo quá nhiều từ khóa hoặc đưa ra kết quả nhiễu đối với những từ khóa gốc hiếm và có nhiều cách hiểu.
Để hạn chế rủi ro này, Yahoo bổ sung một lớp xác minh sau khi LLM tạo từ khóa:
- Chuyển từng từ khóa mở rộng thành embedding.
- So sánh embedding mới với embedding của từ khóa gốc.
- Tính điểm tương đồng về ngữ nghĩa.
- Loại bỏ các từ khóa thấp hơn ngưỡng quy định.
- Chỉ giữ lại những từ khóa phù hợp với ý định ban đầu.
Như vậy, Amazon Bedrock là một thành phần trong pipeline có kiểm soát, chứ đầu ra của mô hình không được đưa trực tiếp vào hệ thống quảng cáo.
Đây là bài học quan trọng đối với các dự án Generative AI: doanh nghiệp không nên xem câu trả lời của LLM là kết quả cuối cùng. Đầu ra cần được kiểm tra bằng quy tắc, mô hình phụ, dữ liệu tham chiếu hoặc quy trình đánh giá của con người.
Bước 5: Bổ sung guardrail và đưa dữ liệu vào hệ thống
Bên cạnh việc kiểm tra độ tương đồng, Yahoo còn triển khai cơ chế lọc từ khóa nhạy cảm ở cả hai thời điểm:
- Trước khi gửi dữ liệu tới LLM, nhằm ngăn mô hình mở rộng những nội dung không phù hợp.
- Sau khi LLM tạo kết quả, nhằm loại bỏ những từ khóa nhạy cảm phát sinh.
Hệ thống cũng phải xét đến danh sách từ khóa bị loại trừ, lựa chọn quyền riêng tư của người dùng và các yêu cầu tuân thủ chính sách quảng cáo.
Sau khi vượt qua các lớp kiểm tra, từ khóa gốc và từ khóa mở rộng được lưu trong Amazon OpenSearch Service. Một quy trình Batch Scoring tiếp tục đối chiếu lịch sử tìm kiếm của người dùng với metadata của từng phân khúc để xác định đối tượng phù hợp.
Kết quả Yahoo đạt được với Amazon Bedrock
Giải pháp mở rộng từ khóa bằng Generative AI được Yahoo đưa vào môi trường sản xuất từ quý I năm 2025. Theo số liệu được Yahoo và AWS công bố, hệ thống mới mang lại những kết quả đáng chú ý:
- Tỷ lệ mở rộng từ khóa tăng tới 600 lần trong một số trường hợp.
- Tệp đối tượng có thể tiếp cận tăng tới 5 lần.
- Tỷ lệ mở rộng trung vị tăng khoảng 5 lần.
- Tỷ lệ mở rộng tối đa tăng gấp đôi ngay cả khi sử dụng ngưỡng tương đồng nghiêm ngặt.
- Các chiến dịch ghi nhận cải thiện về hiệu suất và khả năng chuyển đổi.
Những kết quả này cho thấy Amazon Bedrock không chỉ giúp tăng số lượng từ khóa được tạo ra mà còn hỗ trợ Yahoo tiếp cận một tập người dùng rộng hơn. Tuy nhiên, nhiều từ khóa hơn không mặc nhiên đồng nghĩa với quảng cáo hiệu quả hơn. Giá trị thực tế nằm ở việc Yahoo kết hợp khả năng sáng tạo của LLM với cơ chế kiểm chứng và các lớp bảo vệ.
Nếu chỉ mở rộng số lượng mà không kiểm soát mức độ liên quan, doanh nghiệp có thể làm tăng chi phí quảng cáo, đưa người dùng vào sai phân khúc và làm giảm tỷ lệ chuyển đổi.
Vì sao Yahoo lựa chọn Amazon Bedrock?
Tiếp cận nhiều foundation model
Amazon Bedrock cung cấp quyền truy cập tới nhiều foundation model trên cùng một nền tảng. Điều này giúp đội ngũ thử nghiệm, so sánh và chuyển đổi mô hình mà không phải thiết kế lại toàn bộ hệ thống.
Không phải quản lý hạ tầng mô hình
Dịch vụ cung cấp cơ chế truy cập serverless, giúp doanh nghiệp không phải trực tiếp quản lý việc lưu trữ, mở rộng hoặc cập nhật hạ tầng phục vụ mô hình.
Đội ngũ kỹ thuật nhờ đó có thể tập trung nhiều hơn vào dữ liệu, prompt, kiểm soát đầu ra và logic kinh doanh.
Hỗ trợ nhiều phương thức suy luận
Amazon Bedrock hỗ trợ cả xử lý theo thời gian thực và xử lý theo lô. Doanh nghiệp có thể lựa chọn hình thức phù hợp dựa trên quy mô dữ liệu, yêu cầu độ trễ và ngân sách.
Dễ dàng nâng cấp mô hình
Việc chuyển sang phiên bản mô hình mới chủ yếu được thực hiện thông qua thay đổi cấu hình. Kiến trúc của dịch vụ giúp giảm bớt những vấn đề liên quan đến khả năng tương thích và vận hành hạ tầng.
Tìm hiểu thêm: https://aws.amazon.com/blogs/machine-learning/how-yahoo-enhances-search-retargeting-using-amazon-bedrock/
Quản lý đa tài khoản Amazon Bedrock: 4 Bước Giúp Tối ưu Chi phí và Bảo mật
Kết luận
Amazon Bedrock đã giúp Yahoo chuyển đổi quy trình mở rộng từ khóa từ phương pháp dựa nhiều vào sự giống nhau của ngôn từ sang một pipeline Generative AI có khả năng hiểu ngữ nghĩa, kiểm chứng bằng embedding và kiểm soát bằng guardrail.
Điểm đáng học hỏi không chỉ nằm ở việc Yahoo lựa chọn LLM nào. Giá trị lớn hơn nằm ở cách doanh nghiệp xây dựng một hệ thống nhiều lớp để cân bằng giữa khả năng mở rộng, độ chính xác, quyền riêng tư và yêu cầu tuân thủ. Đây cũng là nền tảng quan trọng để đưa Generative AI từ các thử nghiệm nhỏ vào hoạt động kinh doanh thực tế, ổn định và có thể đo lường.
