Google Cloud  оголосила про доступність в Compute Engine віртуальних машин A2 на базі графічних процесорів NVIDIA Ampere A100 з тензорними ядрами

У сервісі Compute Engine з'явилися віртуальні машини A2 на базі графічних процесорів NVIDIA Ampere A100 з тензорними ядрами. З їх допомогою користувачі зможуть виконувати машинне навчання і високопродуктивні обчислення на основі архітектури NVIDIA CUDA, збільшуючи робочі навантаження за менший час і ціну.

Віртуальна машина A2 підтримує до 16 графічних процесорів NVIDIA A100. На сьогоднішній день це найпродуктивніший екземпляр графічного процесора на єдиному вузлі серед всіх конкуруючих рішень від найбільших постачальників хмарних послуг. Залежно від масштабу вашого робочого навантаження , ви також можете вибрати віртуальні машини A2 з меншою кількістю графічних процесорів (1, 2, 4 та 8).

Це дозволяє дослідникам, дослідникам даних і розробникам значно підвищити продуктивність масштабованих робочих навантажень (наприклад, машинного навчання, логічного висновку та високопродуктивних обчислень) на архітектурі CUDA. Сімейство віртуальних машин A2 на платформі Google Cloud призначене для задоволення потреб найвимогливіших додатків HPC, таких як моделювання обчислювальної динаміки рідини в altair ultraFluidX. 

Для тих, хто шукає надпродуктивні системи, Google Cloud пропонує кластери з тисяч графічних процесорів для розподіленого машинного навчання, а також оптимізовані бібліотеки NCCL для горизонтального масштабування. Версія віртуальної машини з 16 графічними процесорами A100, підключеними через шину NVIDIA NVLink , є унікальною пропозицією Google Cloud. Якщо вам потрібно масштабувати вимогливі робочі навантаження по вертикалі, ви можете почати з одного графічного процесора A100 і довести число до 16, не налаштовуючи кілька віртуальних машин для машинного навчання на одному вузлі. 

Для задоволення потреб різних додатків також доступні менш потужні конфігурації A2 VM з інтегрованим SSD на 3 Тб, що прискорює доставку даних в графічний процесор. Наприклад, графічний процесор А100 в Google Cloud збільшує швидкість попередньої підготовки моделі BERT-Large більш ніж в 10 разів в порівнянні з NVIDIA V100 попереднього покоління. При цьому в конфігураціях з кількістю графічних процесорів від 8 до 16 спостерігається лінійне збільшення продуктивності. Крім того, розробники можуть використовувати попередньо налаштоване програмне забезпечення в контейнерах зі сховища NVIDIA NGC для швидкого запуску екземплярів A100 в Compute Engine.

Екземпляри NVIDIA A100 тепер доступні в наступних регіонах: US-central1, asia-southeast1 і europe-west4. Протягом 2021 року до них додадуться додаткові регіони. Віртуальні машини A2 в compute Engine доступні за запитом зі знижкою на замінені екземпляри та зобов'язання щодо використання, а також повністю підтримуються в Google Kubernetes Engine (GKE), хмарній платформі штучного інтелекту та інших сервісах Google Cloud.  Ціна A100 становить лише 0.87 долара за графічний процесор у переміщених BM A2. 

Ви можете швидко розгортати, запускати навчальні моделі та запускати робочі навантаження на графічних процесорах NVIDIA A100, використовуючи зображення віртуальних машин глибокого навчання в доступних регіонах. Ці образи містять все необхідне програмне забезпечення: драйвери, бібліотеки NVIDIA CUDA-X AI і популярні фреймворки для AI, такі як TensorFlow і PyTorch. Оптимізовані зображення TensorFlow Enterprise також включають підтримку A100 для поточної та минулої версій TensorFlow (1.15, 2.1 та 2.3). Вам не доведеться турбуватися про оновлення програмного забезпечення, сумісність і налаштування продуктивності – про все це google Cloud піклується

Інші новини