Hoạt động suy luận AI tạo ra với Cisco UCS / Bộ xử lý Intel Xeon thế hệ thứ 5 và thứ 4

Mô tả

Cisco UCS, được hỗ trợ bởi bộ xử lý Intel® Xeon® thế hệ thứ 5 và Cisco Nexus, là nền tảng có thể mở rộng để triển khai Generative AI trên quy mô lớn. Kiến trúc này mang lại:

• Hiệu suất tối ưu: Cisco UCS với bộ xử lý có thể mở rộng Intel Xeon với bộ tăng tốc AI chuyên dụng và khung phần mềm được tối ưu hóa giúp cải thiện đáng kể hiệu suất suy luận và khả năng mở rộng.
• Kiến trúc cân bằng: Cisco UCS vượt trội trong cả điện toán Học sâu và không Học sâu, rất quan trọng đối với toàn bộ quy trình suy luận. Cách tiếp cận cân bằng này dẫn đến hiệu suất tổng thể và sử dụng tài nguyên tốt hơn.
• Khả năng mở rộng theo yêu cầu: Cisco UCS thay đổi quy mô liền mạch với nhu cầu suy luận Generative AI của bạn. Thêm hoặc xóa máy chủ, điều chỉnh dung lượng bộ nhớ và định cấu hình tài nguyên theo cách tự động khi mô hình của bạn phát triển và khối lượng công việc tăng lên bằng Cisco Intersight.

Bạn có tùy chọn chạy suy luận trong trung tâm dữ liệu hoặc ở biên, sử dụng hệ số dạng mô-đun hoặc giá đỡ.