Cascade Lake

Cải thiện 1 lần thông lượng suy luận trên bộ xử lý Intel® Xeon® Platinum 8180 (tháng 7 năm 2017) cơ bản: Thử nghiệm do Intel thực hiện kể từ ngày 11 tháng 7 năm 2017: Nền tảng: CPU 2S Intel® Xeon® Platinum 8180 @ 2,50GHz (28 lõi), không bật HT, không bật turbo, bộ điều chỉnh nâng cấp được đặt theo “hiệu năng” thông qua trình điều khiển intel_pstate, 384GB DDR4-2666 ECC RAM. CentOS Linux* bản 7.3.1611 (Core), Linux kernel 3.10.0-514.10.2.el7.x86_64. SSD: SSD Intel® cho DC chuỗi S3700 (800GB, 2,5in SATA 6Gb/s, 25nm, MLC). Hiệu năng được đo lường với: Biến môi trường: KMP_ AFFINITY=’granularity=fine, compact‘, OMP_NUM_THREADS=56, Tần số CPU được đặt với hiệu năng cpupower frequency-set -d 2.5G -u 3.8G -g. Caffe: (http://github.com/intel/caffe/), phiên bản sửa đổi f96b759f71b2281835f690af267158b82b150b5c. Suy luận được đo bằng lệnh “caffe time --forward_only”, đào tạo được đo bằng lệnh “caffe time”. Đối với các cấu trúc liên kết “ConvNet”, sử dụng bộ dữ liệu tổng hợp. Đối với các cấu trúc liên kết khác, dữ liệu được lưu trên bộ lưu trữ cục bộ và được lưu đệm trong bộ nhớ trước khi đào tạo. Thông số kỹ thuật của cấu trúc liên kết từ https://github.com/intel/caffe/tree/master/models/intel_optimized_models (ResNet-50) và https://github.com/soumith/convnet-benchmarks/tree/master/caffe/imagenet_winners (Điểm chuẩn ConvNet; các tập tin đã được cập nhật để sử dụng định dạng Caffe prototxt mới hơn nhưng tương đương về chức năng). Intel® C++ Compiler phiên bản 17.0.2 20170213, thư viện nhỏ Intel® Math Kernel Library (Intel® MKL) phiên bản 2018.0.20170425. Caffe hoạt động với “numactl -l“.

Cải thiện 14 lần thông lượng suy luận trên bộ xử lý Intel® Xeon® Platinum 8280 với công nghệ tăng cường học sâu Intel® Deep Learning Boost (Intel® DL Boost): Thử nghiệm do Intel thực hiện kể từ ngày 20/02/2019. Bộ xử lý Intel® Xeon® Platinum 8280 có 2 khe cắm, 28 lõi, Bật HT, Bật Turbo, Tổng dung lượng bộ nhớ: 384 GB (12 khe/ 32GB/ 2933 MHz), BIOS: SE5C620,86B.0D.01,0271.120720180605 (ucode: 0x200004d), Ubuntu 18.04.1 LTS, kernel 4.15.0-45-generic, SSD: 1x SSD sda INTEL SSDSC2BA80 745,2GB, SSD nvme1n1 INTEL SSDPE2KX040T7 3,7TB, Hệ thống Học sâu: Công nghệ tối ưu Intel® Optimization cho Caffe* phiên bản: 1.1.3 (hàm băm cam kết: 7010334f159da247db3fe3a9d96a3116ca06b09a), ICC phiên bản 18.0.1, MKL DNN phiên bản: v0.17 (hàm băm cam kết: 830a10059a018cd2634d94195140cf2d8790a75a, model https://github.com/intel/caffe/blob/master/models/intel_optimized_models/int8/resnet50_int8_full_conv.prototxt, BS=64, syntheticData, 4 phiên bản/2 khe cắm, Loại dữ liệu: INT8 vs. Do Intel thử nghiệm kể từ ngày 11/7/2017: CPU 2S Intel® Xeon® Platinum 8180 @ 2,50GHz (28 lõi), không bật HT, không bật turbo, bộ điều chỉnh nâng cấp được đặt theo “hiệu năng” thông qua trình điều khiển intel_pstate, 384GB DDR4-2666 ECC RAM. CentOS Linux* bản 7.3.1611 (Core), Linux kernel 3.10.0-514.10.2.el7.x86_64. SSD: SSD Intel® cho DC chuỗi S3700 (800GB, 2,5in SATA 6Gb/s, 25nm, MLC). Hiệu năng được đo lường với: Biến môi trường: KMP_AFFINITY=’granularity=fine, compact‘, OMP_NUM_THREADS=56, Tần số CPU được đặt với hiệu năng cpupower frequency-set -d 2.5G -u 3.8G -g. Caffe: (https://github.com/intel/caffe/), phiên bản sửa đổi f96b759f71b2281835f690af267158b82b150b5c. Suy luận được đo bằng lệnh “caffe time --forward_only”, đào tạo được đo bằng lệnh “caffe time”. Đối với các cấu trúc liên kết “ConvNet”, sử dụng bộ dữ liệu tổng hợp. Đối với các cấu trúc liên kết khác, dữ liệu được lưu trên bộ lưu trữ cục bộ và được lưu đệm trong bộ nhớ trước khi đào tạo. Thông số kỹ thuật của cấu trúc liên kết từ https://github.com/intel/caffe/tree/master/models/intel_optimized_models/resnext_50, Intel® C++ Compiler phiên bản 17.0.2 20170213, thư viện nhỏ Intel® MKL phiên bản 2018.0.20170425. Caffe hoạt động với “numactl -l“.

This is the OS list that is tested internally and does NOT reflect the OS vendor support for these exact release versions. Please contact respective OS vendor(s) for the release version numbers and support. Several software patches will be upstreamed and will be picked up over time. These will be required to enhance platform support.

Intel only provides support for our tools, patches and utilities on the OS. Actual OS support should come from the OS Vendor.