Suy luận AI tổng quát với Máy chủ phiến M7 Cisco UCS X-Series / Bộ xử lý Intel Xeon thế hệ thứ 5
819855
2024-04-02
Public

Không thể xem trước tệp tin này. Vui lòng tải xuống tệp tin.
Mô tả
Một giải pháp dựa trên Cisco UCS® với bộ xử lý có thể mở rộng Intel® Xeon® và Cisco Nexus® cung cấp một nền tảng hấp dẫn và có thể mở rộng để triển khai AI tổng quát trên quy mô lớn. Kiến trúc này cung cấp một sự kết hợp của:
- Hiệu suất tối ưu: Cisco UCS với bộ xử lý có thể mở rộng Intel Xeon với bộ tăng tốc AI chuyên dụng và khung phần mềm được tối ưu hóa giúp cải thiện đáng kể hiệu suất suy luận và khả năng mở rộng. Thiết bị chuyển mạch Cisco Nexus 9000 cung cấp băng thông cao, độ trễ thấp, cơ chế quản lý tắc nghẽn và đo từ xa để đáp ứng các yêu cầu mạng khắt khe của các ứng dụng AI/ML.
- Kiến trúc cân bằng: Cisco UCS vượt trội trong cả điện toán học sâu và không học sâu, rất quan trọng đối với toàn bộ quy trình suy luận. Cách tiếp cận cân bằng này dẫn đến hiệu suất tổng thể và sử dụng tài nguyên tốt hơn.
- Khả năng mở rộng theo yêu cầu: Cisco UCS mở rộng quy mô liền mạch với nhu cầu suy luận AI tổng thể của bạn. Thêm hoặc xóa máy chủ, điều chỉnh dung lượng bộ nhớ và định cấu hình tài nguyên theo cách tự động khi mô hình của bạn phát triển và khối lượng công việc tăng lên bằng Cisco Intersight®.
Hệ thống mô-đun Cisco UCS X-Series và các máy chủ giá đỡ C240 và C220 hỗ trợ bộ xử lý có thể mở rộng Intel Xeon thế hệ thứ 5 để bạn có tùy chọn chạy suy luận trong trung tâm dữ liệu hoặc ở biên, sử dụng hệ số dạng mô-đun hoặc giá đỡ.
Lệnh sử dụng
Tài sản liên quan
Tiêu đề và Mô tả
Định dạng
Ngôn ngữ
Hành động
Cisco UCS M7 and Pure Storage FlashArray: FlashStack VSI with VMware vSphere 8.0 — Design Guide
Cisco 7th generation of UCS C-Series and UCS X-Series Servers, powered using 4th Gen Intel Xeon Scalable processors., and Pure Storage FlashArray FlashStack on VMware vSphere 8 solution.
Cisco UCS M7 IMM FlexPod Datacenter with VMware vSphere 8.0, and NetApp ONTAP 9.12 Powered by Intel — Design Guide
Cisco UCS M7 IMM FlexPod Datacenter with VMware vSphere 8.0, and NetApp ONTAP 9.12 powered by Intel design guide
Generative AI Inference Operations with Cisco UCS / 5th Gen and 4th Gen Intel Xeon Processors
Cisco UCS, powered by 5th Gen Intel® Xeon® processors and Cisco Nexus, is a scalable foundation for deploying Generative AI at scale.
GenAI Inferencing Powered by Cisco UCS X-Series / 5th Gen Intel Xeon Processors on Red Hat OpenShift AI — Cisco Validated Design
Cisco, Red Hat, and Intel provide a proven AI infrastructure to enable VMware-based Red Hat® OpenShift® AI.
Microsoft SQL Server 2022 on Cisco UCS X210c M6/M7 on 4th Gen Intel® Xeon® Scalable Processors — White Paper
This white paper contains a reference architecture that illustrates the benefits of Microsoft SQL Server 2022 on Cisco UCS X210c M6/M7 on 4th Gen Intel® Xeon® Scalable Processors for bare-metal and hybrid cloud deployments.