Triển khai Tạo Tăng cường Truy xuất (RAG) để Tăng tốc Phát triển Ứng dụng LLM

Tăng tốc Thành công Triển khai RAG và AI Tạo sinh của Bạn

Các ứng dụng mô hình ngôn ngữ lớn (LLM), chẳng hạn như chatbot, đang mở ra những lợi ích mạnh mẽ trong các ngành công nghiệp. Các tổ chức sử dụng LLM để giảm chi phí vận hành, tăng năng suất của nhân viên và mang lại trải nghiệm khách hàng được cá nhân hóa hơn.

Khi các tổ chức như tổ chức của bạn chạy đua để biến công nghệ mang tính cách mạng này thành lợi thế cạnh tranh, trước tiên một bộ phận đáng kể sẽ cần tùy chỉnh các LLM có sẵn theo dữ liệu của tổ chức của họ để các mô hình có thể mang lại kết quả AI dành riêng cho doanh nghiệp. Tuy nhiên, chi phí và thời gian đầu tư cần thiết để tinh chỉnh các mô hình có thể tạo ra những rào cản khá lớn làm chùn bước nhiều nhà đổi mới.

Để khắc phục những rào cản này, tạo tăng cường truy xuất (RAG) cung cấp cách tiếp cận tiết kiệm chi phí hơn để tùy chỉnh LLM. Bằng cách cho phép bạn xây dựng các mô hình dựa trên dữ liệu độc quyền của mình mà không cần tinh chỉnh, RAG có thể giúp bạn nhanh chóng khởi chạy các ứng dụng LLM phù hợp với doanh nghiệp hoặc khách hàng của mình. Thay vì yêu cầu đào tạo lại hoặc tinh chỉnh, cách tiếp cận RAG cho phép bạn kết nối LLM có sẵn với cơ sở kiến thức bên ngoài được giám tuyển được xây dựng trên dữ liệu độc quyền độc đáo của tổ chức bạn. Cơ sở kiến thức này thông báo cho đầu ra của mô hình về bối cảnh và thông tin cụ thể về tổ chức.

Trong bài viết này, bạn sẽ tìm hiểu cách thiết lập các thành phần chính trong việc triển khai RAG, từ việc chọn nền tảng phần cứng và phần mềm cho đến xây dựng nền tảng kiến thức và tối ưu hóa ứng dụng của bạn trong sản xuất. Chúng tôi cũng sẽ chia sẻ các công cụ và tài nguyên có thể giúp bạn tận dụng tối đa năng lượng và tăng tối đa hiệu quả của từng giai đoạn trong chuỗi quy trình.

Khi nào RAG là Cách Tiếp cận Phù hợp?

Trước khi bạn bắt đầu đánh giá các khối xây dựng chuỗi quy trình, điều quan trọng là phải xem xét liệu RAG hay việc tinh chỉnh có phải là lựa chọn phù hợp nhất cho ứng dụng LLM của bạn hay không.

Cả hai cách tiếp cận đều bắt đầu với LLM nền tảng, cung cấp lộ trình ngắn hơn đến các LLM tùy chỉnh thay vì đào tạo một mô hình từ đầu. Các mô hình nền tảng đã được đào tạo trước và không yêu cầu quyền truy cập vào các bộ dữ liệu khổng lồ, không cần một nhóm chuyên gia dữ liệu hoặc sức mạnh điện toán bổ sung để đào tạo.

Tuy nhiên, một khi bạn chọn mô hình nền tảng, bạn vẫn cần tùy chỉnh mô hình đó cho doanh nghiệp của mình, để mô hình của bạn có thể giải quyết những thách thức và nhu cầu của bạn. RAG có thể phù hợp với ứng dụng LLM của bạn nếu bạn không có thời gian hoặc tiền bạc để đầu tư vào việc tinh chỉnh. RAG cũng làm giảm nguy cơ ảo giác, có thể cung cấp nguồn cho các đầu ra của mình để cải thiện khả năng giải thích và mang lại lợi ích bảo mật vì thông tin nhạy cảm có thể được lưu giữ an toàn trong cơ sở dữ liệu riêng tư.

Tìm hiểu thêm về những lợi ích mà RAG có thể mang lại cho sáng kiến AI tạo sinh của bạn

Chọn Phần cứng Ưu tiên Hiệu năng và Bảo mật

Chuỗi quy trình RAG bao gồm nhiều thành phần chuyên sâu về tính toán và người dùng cuối mong đợi phản hồi có độ trễ thấp. Điều này khiến việc chọn nền tảng điện toán trở thành một trong những quyết định quan trọng nhất mà bạn cần đưa ra khi tìm cách hỗ trợ chuỗi quy trình từ đầu đến cuối.

Bộ xử lý Intel® Xeon® cho phép bạn cung cấp năng lượng và quản lý toàn bộ chuỗi quy trình RAG trên một nền tảng duy nhất, hợp lý hóa việc phát triển, triển khai và bảo trì. Bộ xử lý Intel® Xeon® bao gồm công cụ AI tích hợp để tăng tốc các hoạt động chính trên toàn bộ chuỗi quy trình—bao gồm nhập, truy xuất dữ liệu và suy luận AI—trên CPU mà không cần phần cứng bổ sung.

Đối với các ứng dụng RAG đòi hỏi thông lượng cao nhất hoặc độ trễ thấp nhất, bạn có thể tích hợp bộ gia tốc AI Intel® Gaudi® để đáp ứng nhu cầu hiệu năng nâng cao một cách tiết kiệm chi phí. Bộ gia tốc Intel® Gaudi® được xây dựng nhằm mục đích tăng tốc suy luận và thậm chí có thể thay thế CPU và các bộ gia tốc khác để suy luận RAG.

Bởi vì các tổ chức thường sử dụng RAG khi làm việc với dữ liệu bí mật, việc bảo vệ chuỗi quy trình của bạn trong quá trình phát triển và sản xuất là điều tối quan trọng. Bộ xử lý Intel® Xeon® sử dụng các công nghệ bảo mật tích hợp—Intel® Software Guard Extensions (Intel® SGX) và Intel® Trust Domain Extensions (Intel® TDX) —để cho phép xử lý AI an toàn trên toàn bộ chuỗi quy trình thông qua điện toán bảo mật và mã hóa dữ liệu.

Sau khi triển khai, ứng dụng của bạn có thể gặp phải tình trạng tăng độ trễ do nhu cầu của người dùng cuối tăng lên. Phần cứng Intel® có khả năng mở rộng cao, vì vậy bạn có thể nhanh chóng thêm tài nguyên cơ sở hạ tầng để đáp ứng nhu cầu ngày càng tăng. Bạn cũng có thể tích hợp các tối ưu hóa để hỗ trợ các hoạt động chính trong toàn bộ chuỗi quy trình, chẳng hạn như vector hóa dữ liệu, tìm kiếm vector và suy luận LLM.

Bạn có thể kiểm tra hiệu năng RAG trên bộ xử lý Intel® Xeon® và Intel® Gaudi® thông qua Intel® Tiber™ Developer Cloud

Sử dụng Khung RAG để Dễ dàng Tích hợp Chuỗi Công cụ AI

Để kết nối nhiều thành phần, chuỗi quy trình RAG kết hợp một số chuỗi công cụ AI để nhập dữ liệu, cơ sở dữ liệu vector, LLM và nhiều công cụ khác.

Khi bạn bắt đầu phát triển ứng dụng RAG của mình, các khung RAG tích hợp như LangChain, fastRAG của Intel Lab và LlamaIndex có thể hợp lý hóa việc phát triển. Các khung RAG thường cung cấp API để tích hợp chuỗi công cụ AI trên toàn bộ chuỗi quy trình một cách liền mạch và cung cấp các giải pháp dựa trên mẫu cho các trường hợp sử dụng trong thế giới thực.

Intel cung cấp các giải pháp tối ưu hóa giúp tối đa hóa hiệu năng chuỗi quy trình tổng thể trên phần cứng Intel®. Ví dụ, fastRAG tích hợp Intel® Extension for PyTorch và Optimum Habana để tối ưu hóa các ứng dụng RAG trên bộ xử lý Intel® Xeon® và bộ gia tốc AI Intel® Gaudi®.

Intel cũng đã góp phần tối ưu hóa LangChain để nâng cao hiệu năng trên phần cứng Intel®. Tìm hiểu cách bạn có thể dễ dàng thiết lập quy trình làm việc này bằng LangChain và bộ gia tốc AI Intel® Gaudi® 2

Xây dựng Cơ sở Kiến thức của Bạn

RAG cho phép các tổ chức cung cấp cho LLM những thông tin độc quyền quan trọng về doanh nghiệp và khách hàng của họ. Dữ liệu này được lưu trữ trong cơ sở dữ liệu vector mà bạn có thể tự xây dựng.

Xác định Nguồn Thông tin

Hãy tưởng tượng việc sử dụng RAG để triển khai một trợ lý cá nhân AI có thể giúp trả lời các câu hỏi của nhân viên về tổ chức của bạn. Bạn có thể cung cấp dữ liệu chính cho LLM như thông tin sản phẩm, chính sách của công ty, dữ liệu khách hàng và giao thức dành riêng cho từng phòng ban. Nhân viên có thể đặt câu hỏi cho chatbot do RAG hỗ trợ và nhận câu trả lời dành riêng cho tổ chức, giúp nhân viên hoàn thành nhiệm vụ nhanh hơn và cho phép họ tập trung vào tư duy chiến lược.

Tất nhiên, cơ sở kiến thức sẽ khác nhau giữa các ngành và ứng dụng khác nhau. Một công ty dược phẩm có thể muốn sử dụng kho lưu trữ kết quả xét nghiệm và lịch sử bệnh nhân. Một nhà sản xuất có thể cung cấp thông số kỹ thuật thiết bị và dữ liệu hiệu năng trước đây cho cánh tay robot do RAG hỗ trợ để có thể phát hiện sớm các vấn đề thiết bị tiềm ẩn. Một tổ chức tài chính có thể muốn kết nối LLM với các chiến lược tài chính độc quyền và xu hướng thị trường thời gian thực để cho phép một chatbot cung cấp lời khuyên tài chính cá nhân hóa.

Cuối cùng, để xây dựng nền tảng kiến thức của mình, bạn cần thu thập dữ liệu quan trọng mà bạn muốn LLM của mình truy cập. Dữ liệu này có thể đến từ nhiều nguồn dựa trên văn bản, bao gồm PDF, bản ghi video, email, trang trình chiếu và thậm chí cả dữ liệu dạng bảng từ các nguồn như trang Wikipedia và bảng tính. RAG cũng hỗ trợ các giải pháp AI đa phương thức, kết hợp nhiều mô hình AI để xử lý dữ liệu ở bất kỳ phương thức nào, bao gồm âm thanh, hình ảnh và video.

Ví dụ: một đại lý bán lẻ có thể sử dụng giải pháp RAG đa phương thức để tìm kiếm cảnh quay giám sát cho các sự kiện chính nhanh chóng. Để làm được điều này, đại lý bán lẻ sẽ tạo ra cơ sở dữ liệu cảnh quay video và sử dụng lời nhắc văn bản—chẳng hạn như “người đàn ông đang bỏ thứ gì đó vào túi”—để xác định các clip liên quan mà không phải tìm kiếm hàng trăm giờ video theo cách thủ công.

Chuẩn bị Dữ liệu Của Bạn

Để chuẩn bị dữ liệu để xử lý hiệu quả, trước tiên bạn sẽ cần dọn dẹp dữ liệu, chẳng hạn như bằng cách loại bỏ thông tin trùng lặp và tiếng ồn, và chia nhỏ dữ liệu thành các phần có thể quản lý được. Bạn có thể đọc thêm lời khuyên để dọn dẹp dữ liệu của mình tại đây

Tiếp theo, bạn sẽ cần sử dụng khung AI gọi là mô hình nhúng để chuyển đổi dữ liệu của bạn thành dạng vector hoặc các biểu diễn toán học của văn bản giúp mô hình hiểu ngữ cảnh tốt hơn. Có thể tải xuống các mô hình nhúng từ bên thứ ba—chẳng hạn như các mô hình nhúng trên bảng xếp hạng mô hình nhúng nguồn mở của Hugging Face—và thường có thể được tích hợp liền mạch vào khung RAG của bạn thông qua API Hugging Face. Sau khi vector hóa, bạn có thể lưu trữ dữ liệu của mình trong cơ sở dữ liệu vector để sẵn sàng phục hồi hiệu quả bằng mô hình.

Tùy thuộc vào khối lượng và độ phức tạp của dữ liệu của bạn, việc xử lý dữ liệu và tạo dữ liệu nhúng có thể chuyên sâu về mặt tính toán như suy luận LLM. Bộ xử lý Intel® Xeon® có thể xử lý hiệu quả tất cả các tác vụ nhập, nhúng và vector hóa dữ liệu của bạn trên một nút dựa trên CPU mà không cần bất kỳ phần cứng bổ sung nào.

Ngoài ra, bộ xử lý Intel® Xeon® có thể ghép nối với các mô hình nhúng lượng tử hóa để tối ưu hóa quá trình vector hóa, cải thiện thông lượng mã hóa gấp 4 lần so với các mô hình không lượng tử hóa¹.

Tối ưu hóa Truy vấn và Truy xuất Ngữ cảnh

Khi người dùng gửi truy vấn đến mô hình do RAG hỗ trợ, cơ chế truy xuất sẽ tìm kiếm trong cơ sở kiến thức của bạn để tìm dữ liệu bên ngoài có liên quan nhằm làm phong phú thêm đầu ra cuối cùng của LLM. Quá trình này dựa vào các hoạt động tìm kiếm vector để tìm và xếp hạng thông tin liên quan nhất.

Các hoạt động tìm kiếm Vector được tối ưu hóa cao trên bộ xử lý Intel® Xeon®. Intel® Advanced Vector Extensions 512 (Intel® AVX-512) được tích hợp vào bộ xử lý Intel® Xeon® giúp tăng cường các hoạt động chính trong tìm kiếm vector và giảm số lượng lệnh, mang lại những cải tiến đáng kể về thông lượng và hiệu năng.

Bạn cũng có thể tận dụng giải pháp Scalable Vector Search (SVS) của Intel Lab để nâng cao hiệu năng cơ sở dữ liệu vector. SVS tối ưu hóa khả năng tìm kiếm vector trên CPU Intel® Xeon® để cải thiện thời gian truy xuất và hiệu năng chuỗi quy trình tổng thể.

Tối ưu hóa Tạo Phản hồi LLM

Sau khi được trang bị thêm dữ liệu từ cửa hàng vector của bạn, LLM có thể tạo ra phản hồi chính xác theo ngữ cảnh. Điều này bao gồm suy luận LLM, thường là giai đoạn đòi hỏi khả năng tính toán cao nhất của chuỗi quy trình RAG.

Bộ xử lý Intel® Xeon® sử dụng Intel® Advanced Matrix Extensions (Intel® AMX), một bộ gia tốc AI tích hợp, để giúp các hoạt động ma trận hiệu quả hơn và cải thiện quản lý bộ nhớ, giúp tối đa hóa hiệu năng suy luận. Đối với các LLM cỡ trung và lớn, hãy sử dụng bộ gia tốc AI Intel® Gaudi® để tăng tốc suy luận với hiệu năng và hiệu quả AI được xây dựng có mục đích.

Intel cũng cung cấp một số thư viện tối ưu hóa để giúp bạn tối đa hóa tính năng suy luận LLM trên tài nguyên phần cứng của mình. Thư viện Intel® oneAPI của chúng tôi cung cấp các tối ưu hóa cấp thấp cho các khung AI phổ biến, như PyTorch và TensorFlow, cho phép bạn sử dụng các công cụ nguồn mở quen thuộc được tối ưu hóa trên phần cứng Intel®. Bạn cũng có thể thêm các tiện ích mở rộng như Intel® Extension for PyTorch để tận dụng các kỹ thuật suy luận lượng tử hóa tiên tiến giúp tăng hiệu năng tổng thể.

Khi ứng dụng của bạn được đưa vào sản xuất, bạn có thể muốn nâng cấp lên LLM mới nhất để bắt kịp nhu cầu của người dùng cuối. Vì RAG không liên quan đến việc tinh chỉnh và cơ sở kiến thức của bạn tồn tại bên ngoài mô hình, RAG cho phép bạn nhanh chóng thay thế LLM của mình bằng mô hình mới để hỗ trợ suy luận nhanh hơn.

Tăng tốc Hành trình RAG của Bạn với Intel

RAG có thể giúp bạn triển khai các ứng dụng LLM tùy chỉnh nhanh chóng và tiết kiệm chi phí mà không cần tinh chỉnh. Với các khối xây dựng phù hợp, bạn có thể thiết lập chuỗi quy trình RAG được tối ưu hóa chỉ trong vài bước.

Khi bạn theo đuổi sáng kiến AI của mình, đừng quên tận dụng danh mục Intel® AI để cải thiện từng giai đoạn trong chuỗi quy trình RAG của bạn. Các giải pháp phần cứng và phần mềm của chúng tôi được xây dựng để giúp tăng tốc thành công của bạn.