Microsoft розширює інфраструктуру Azure AI та HPC за допомогою AMD
Microsoft розширює інфраструктуру Azure AI та HPC за допомогою AMD
Навантаження на ШІ масштабуються понад можливості будь-якої окремої інфраструктури — поширення моделей, нові навантаження, керовані агентами, та зростаючий попит на обчислювальні ресурси стимулюють потребу у більшій спеціалізації по всьому стеку. Щоб задовольнити цю потребу, Microsoft продовжує вдосконалювати свою інфраструктуру Azure, зокрема розширюючи свій портфель AI за допомогою найсучасніших рішень AMD у сфері штучного інтелекту та високопродуктивних обчислювань (HPC).
Підхід Microsoft до інфраструктури ШІ розроблений для підтримки повного спектра способів створення та експлуатації систем на базі ШІ. Microsoft тісно співпрацює з інноваторами індустрії, такими як AMD, а також використовує власні власні чипи та системи, щоб надати клієнтам комплексну, відкриту та різноманітну платформу для досягнення найкращих результатів за продуктивністю, вартістю та енергоефективністю.
Спираючись на тісну співпрацю з AMD, Microsoft приносить до Azure найновішу AI-платформу AMD Helios та процесори наступного покоління EPYC для дата-центрів. Ці технології будуть використані у трьох майбутніх пропозиціях Azure: HDv2 VM для обробки даних, HXv2 для автоматизації електронного дизайну (EDA) та ND MI455X v7 для навантажень AI-інференції.
Створено для AI - Azure HDv2
Інфраструктура процесора є критично важливою для продуктивності та ефективності сучасних систем ШІ. Прискорювачі ШІ залежать від високопродуктивної, енергоефективної обчислювальної потужності процесора для обробки даних, координації робочих навантажень і підтримки масштабної роботи конвеєрів. Без неї навчальні завдання не матимуть достатньо даних для навчання, а агенти не матимуть достатньо ресурсів для виконання завдань від імені клієнтів. Azure HDv2 VM — одна з наших найновіших пропозицій, розроблена з нуля, щоб вирішити ці вузькі місця та забезпечити масштабне впровадження навантаження агентів.
Розроблені у партнерстві з AMD, HDv2-віртуальні машини розширюють портфоліо спеціально розроблених рішень Azure для найскладніших завдань ШІ, включно з підготовкою даних, пошуком, підкріпленням навчання та оркестрацією агентів у великому масштабі. З майже 500 фізичними ядрами процесорів AMD EPYC 6-го покоління, 4 терабайтами оперативної пам'яті, 32 терабайтами локального NVMe сховища та 400 Gbps Azure Boost, HDv2 VM створені з урахуванням потреб наших найвимогливіших клієнтів на базі AI.
Оптимізовано для проєктування чипів та технічних обчислень — Azure HXv2
Епоха штучного інтелекту створила величезні потреби та можливості для компаній, які розробляють кремнієві продукти, що живлять цю інфраструктуру. З цієї причини віртуальні машини Azure HX, запущені у партнерстві з AMD у 2023 році та з використанням унікальної технології 3D V-cache AMD, широко впроваджуються компаніями, що виробляють чипи, які прагнуть вивести на ринок більш потужні та ефективні AI-рішення. Сьогодні ми оголошуємо про наступний крок у нашій подорожі до оптимізації робочих навантажень для цих клієнтів: HXv2.
Віртуальні машини HXv2 розвивають і розширюють переваги HX. Обидві продовжують унікальні можливості Azure для навантажень RTL-симуляції, знову використовуючи технологію 3D V-cache, пропонуючи суттєві покращення продуктивності однопотокових додатків і пам'яті. Віртуальні машини HXv2 працюватимуть на 176 ядрах процесорів AMD EPYC 6 Покоління понад 5 ГГц, на 50% більший адресований кеш на ядро та розміри віртуальних машин з майже 2 або 4 терабайтами оперативної пам'яті, що допомагає клієнтам оптимізувати навантаження відповідно до потреб у пам'яті.
Azure HXv2 також розроблений для підтримки ширшого спектра технічних обчислювальних завдань, включно з науковим моделюванням, інженерним аналізом та іншими застосуваннями, що використовують розподілену пам'ять. Значно покращена продуктивність на VM і ядро, а також доступність InfiniBand 800 Gbps дозволяють масштабно симуляції на основі MPI та роблять HXv2 ідеальним рішенням для широкого кола клієнтів HPC.
AMD, один із провідних клієнтів процесорів серії HX, безпосередньо підкреслює цей вплив:
« Інженерні команди розширюють межі можливого в моделюванні, проєктуванні чипів і наукових обчисленнях. В AMD ми бачимо ці вимоги на власні очі у майбутніх процесорах AMD EPYC та GPU AMD Instinct. Azure HX — важлива платформа для масштабування складних робочих навантажень EDA, і ми раді Azure HXv2, який створений для ще більшої продуктивності та масштабованості. Ми з нетерпінням чекаємо на продовження співпраці з Microsoft, щоб допомогти створити інфраструктуру для найскладніших інженерних і наукових викликів світу.»
— Марк Пейпермастер, виконавчий віце-президент і технічний директор AMD
HXv2 також використовує давню співпрацю з Microsoft для оптимізації рішень EDA на базі штучного інтелекту від Synopsys на Azure:
«Оскільки обчислювальна потужність ШІ продовжує розширювати межі можливостей проєктування напівпровідників, наша співпраця з Microsoft над серією Azure HX демонструє спільне бачення того, щоб клієнти могли створювати системи ШІ наступного покоління з високою точністю та масштабованістю в прискорених циклах проєктування. Ці системи дозволили клієнтам Synopsys надійно та ефективно використовувати хмарні обчислення, розширюючи навантаження EDA за межі традиційних інфраструктурних обмежень, щоб вони могли відповідати амбітним графікам розробки, максимізуючи якість дизайну та забезпечуючи значне підвищення продуктивності.»
— Шанкар Крішнамурті, директор з розробки продукту, Synopsys
Запуск AI-робочих навантажень у промислових масштабах – ND MI455X v7
ND MI455X v7 розроблений для завдань виведення, пошуку та роботи агентів, які є основою сучасних сервісів штучного інтелекту. Завдяки AMD Helios Rackscale розширює можливості інфраструктури Azure для масштабного висновку та розроблена для забезпечення високої продуктивності та ефективності для вимогливих завдань ШІ.
Разом ці нові можливості розширюють функціональність Azure, надаючи клієнтам більшу гнучкість у виборі відповідних обчислювальних ресурсів для кожного унікального робочого процесу ШІ — від виводу до науки про дані та дизайну чипів. Вибір клієнта — це ключовий принцип дизайну, вбудований безпосередньо в Microsoft Azure, і ми раді впроваджувати найсучасніші інновації AMD у виробничі масштаби.
