Bộ gia tốc AI Intel® Gaudi® 2
Tăng tốc hiệu năng cao cho GenAI và LLM.
Bộ gia tốc AI Intel® Gaudi® 2
Bộ gia tốc AI Intel® Gaudi® 2 của Chúng tôi đang Thúc đẩy Cải thiện Hiệu năng-Giá của Học sâu
Và hiệu quả hoạt động cho việc đào tạo và chạy các mô hình hiện đại, từ các mô hình ngôn ngữ và đa phương thức lớn nhất đến các mô hình thị giác máy tính và NLP cơ bản hơn. Được thiết kế cho khả năng mở rộng hiệu quả—cho dù trong đám mây hay trong trung tâm dữ liệu của bạn, bộ gia tốc Intel Gaudi 2 mang lại lựa chọn mà ngành AI hiện nay cần hơn bao giờ hết.
Các Tính năng Cấu trúc Intel® Gaudi® 2:
Được xây dựng trên nền tảng thiết kế Intel Gaudi thế hệ đầu tiên đã được chứng minh.
- Công nghệ xử lý 7 nm
- Điện toán không đồng nhất
- 24 Lõi Bộ xử lý Tensor
- Công cụ nhân ma trận kép
- 24 Cổng Ethernet 100 Gigabit được tích hợp trên vi mạch
- Bộ nhớ HBM2E 96 GB trên bo mạch
- SRAM 48 MB
- Trung tâm Điều khiển Phương tiện Tích hợp
Bộ gia tốc AI Intel® Gaudi® 2 trên Đám mây
Khám phá hiệu suất và tính dễ sử dụng mà bộ tăng tốc AI Intel® Gaudi® 2 mang lại trên Intel® Tiber™ Developer Cloud.
Tìm hiểu thêm
Bộ gia tốc AI Intel® Gaudi® 2 trong Trung tâm Dữ liệu
Mang lợi thế hiệu năng-giá vào cơ sở hạ tầng của bạn bằng các giải pháp từ Supermicro và IEI.
Tìm hiểu thêm
Bộ gia tốc AI Intel® Gaudi® 2 Vẫn là Lựa chọn Thay thế Được Chuẩn hóa DUY NHẤT cho Nvidia H100 để tăng Hiệu năng AI Sáng tạo
Dựa trên các tiêu chuẩn Đào tạo MLPerf 3.1 và Suy luận 4.0 mới nhất, được công bố lần lượt vào tháng 12 năm 2023 và tháng 3 năm 2024, bộ gia tốc Intel Gaudi 2 vẫn là lựa chọn thay thế được chuẩn hóa duy nhất cho Nvidia H100.
Ngoài tiêu chuẩn công năng ngành MLPerf, bộ gia tốc AI Intel Gaudi 2 cũng ghi điểm trên các đánh giá của bên thứ ba khác.1
Bộ gia tốc AI Intel® Gaudi® 2 Hỗ trợ Mở rộng Quy mô Lớn, Linh hoạt
Với 24 cổng Ethernet 100 Gigabit (RoCEv2) được tích hợp vào mỗi bộ gia tốc AI Intel Gaudi 2, khách hàng được hưởng lợi từ khả năng mở rộng linh hoạt và tiết kiệm chi phí cho phép tăng cường hiệu năng của bộ gia tốc AI Intel Gaudi 2 từ một đến hàng ngàn bộ gia tốc.
Xem hình ảnh bên dưới để biết thiết kế tham chiếu máy chủ có 8 bộ gia tốc Intel Gaudi 2.
Để biết thêm thông tin về việc xây dựng quy mô hệ thống bằng bộ gia tốc AI Intel Gaudi 2, hãy xem trang Nối mạng của chúng tôi ›
Đối tác nổi bật
Thiết bị chuyển mạch Cisco Nexus 9364D-GX2A đủ điều kiện để kết nối bộ tăng tốc Intel Gaudi 2 nhằm xây dựng mạng mở rộng để chạy đào tạo mô hình ngôn ngữ lớn (LLM), suy luận hoặc khối lượng công việc AI tạo sinh tương tự.
Dễ dàng Xây dựng Mới hoặc Di chuyển các Mô hình Hiện có trên Bộ gia tốc AI Intel Gaudi 2
Phần mềm Intel Gaudi, được tối ưu hóa cho hiệu năng và tính dễ sử dụng của nền tảng Intel Gaudi, cung cấp cho các nhà phát triển các tài liệu, công cụ, nội dung hướng dẫn và các mô hình tham khảo để giúp họ bắt đầu sử dụng phần mềm Intel Gaudi một cách nhanh chóng và dễ dàng.
Truy cập và dễ dàng triển khai hơn 500K mô hình với Thư viện Habana Optimum trên trung tâm Hugging Face.
Để biết thêm thông tin, hãy truy cập trang web dành cho nhà phát triển của chúng tôi ›
Tài nguyên cho Bộ gia tốc AI Intel Gaudi 2
Thông tin sản phẩm và hiệu năng
Truy cập https://habana.ai/habana-claims-validation để biết các khối lượng công việc và cấu hình. Kết quả có thể khác nhau https://huggingface.co/blog/habana-gaudi-2-benchmark https://huggingface.co/blog/habana-gaudi-2-bloom