Nejširší portfolio řešení GenAI na světě se právě rozrostlo. Otevřený ekosystém Dell s akcelerátory AMD
Generativní umělá inteligence (GenAI) je nejslibnějším akcelerátorem inovací v tomto desetiletí. V průzkumu mezi IT manažery 78 % respondentů uvedlo, že jsou nadšeni potenciálem, který GenAI jejich podnikům nabízí. Většina z nich považuje GenAI za prostředek ke zvýšení produktivity, zefektivnění procesů a úspoře nákladů. Využití této technologie je zásadní pro zajištění konkurenceschopnosti podniků v nové digitální éře.
V rámci své snahy o neustálé urychlování procesů Dell a AMD společně představují rozšíření portfolia řešení Dell pro generativní umělou inteligenci a nabízí tak zákazníkům širší výběr při zavádění GenAI podle jejich individuálních potřeb. Nová technologie zdůrazňuje klíčovou roli otevřených ekosystémů a hardwarové rozmanitosti při poskytování jednoduchých, důvěryhodných a na míru přizpůsobených řešení, která zákazníkům umožní využívat umělou inteligenci se vlastními daty.
„Prudký nárůst objemu dat a otázka, co s nimi, je v dnešním prostředí umělé inteligence klíčová. AI představuje nejnovější vlnu technického pokroku a snaha zajistit podnikům přístup k výpočetnímu výkonu potřebnému pro její využití k inovacím je nesmírně důležitá. Společně s AMD můžeme nyní zákazníkům nabídnout širší výběr výpočetních prostředků pro jejich pracovní zátěže v oblasti AI a GenAI,“ říká Dave Lincoln, viceprezident pro výpočetní systémy z Dell Technologies.
Nejrychlejší systém v historii společnosti Dell, Dell PowerEdge XE9680, bude podporovat připravovaný akcelerátor AMD Instinct MI300X, který zákazníkům nabídne větší možnosti volby, pokud jde o výkon AI. Server PowerEdge XE9680 s akcelerátory AMD Instinct MI300X nabízí vysoce výkonné řešení pro podniky, které chtějí získat maximální užitek ze svých dat a odlišit se od konkurence pomocí individuálně přizpůsobených velkých jazykových modelů (LLM). Díky osmi grafickým procesorům MI300X, 192 GB paměti HBM3 (High Bandwidth Memory) s kapacitou 5,3 TB/s na grafický procesor, což představuje celkovou koherentní kapacitu HBM3 1,5 TB na server, a více než 21 petaFLOPS výkonu FP16 je PowerEdge XE9680 s MI300X připraven dále demokratizovat přístup ke GenAI pro podniky, které chtějí trénovat větší modely, snížit nároky na datové centrum, snížit TCO a získat konkurenční výhodu.
„Spolu s podporou akcelerátoru AMD MI300X Instinct oznamujeme také další krok u řešení Dell pro generativní AI, který zákazníkům usnadňuje nasazení důvěryhodné GenAI díky novému ověřeného návrhu Dell Validated Design pro generativní AI s technologií AMD,“ říká Dave Lincoln, viceprezident pro výpočetní systémy z Dell Technologies.
Tento nový ověřený design se softwarem AMD ROCm, který bude k dispozici příští rok, rozšiřuje ekosystém řešení Dell pro generativní AI a bude zahrnovat i open-sourcové velké jazykové modely. AMD ROCm je soubor open-source ovladačů, nástrojů pro vývojáře a rozhraní API pro akcelerátory AMD Instinct. Ověřené návrhy společnosti Dell pro generativní umělou inteligenci usnadňují zákazníkům vytváření důvěryhodných platforem GenAI přizpůsobeným na míru jejich potřebám tím, že odstraňují problémy s integrací, nastavením výkonu a volbou rozsahu řešení.
Nejnovější elektronická kniha a infografika společnosti Dell ukazují, že open-source rámce AI a ML optimalizované pro ROCm, jako jsou PyTorch, TensorFlow, ONNX-RT, JAX nebo Triton, mají nativní podporu serverů PowerEdge XE9680 s MI300X, což umožňuje jednoduchou podporu LLM založených na těchto populárních rámcích.
Server PowerEdge XE9680 se vyznačuje výkonem, bezpečností a jednoduchostí. Software Dell Open Manage Enterprise zjednodušuje a urychluje nasazení infrastruktury GenAI, zatímco software CloudIQ umožňuje inteligentní automatizaci odkudkoli. Server PowerEdge XE9680 je vybavený integrovanou funkcí obnovy a využívá zabezpečení na principu nulové důvěry.
PowerEdge XE9680 využívá platformu AMD Instinct Platform s osmi akcelerátory AMD Instinct MI300X, která umožňuje téměř lineární škálování a nízkou latenci distribuovaného trénování a inferencování GenAI pomocí Global Memory Interconnect (xGMI) pokrývajícího cluster serverů PowerEdge kde propojuje GPU ověřenou ethernetovou sítí pro AI s technologií Dell PowerSwitch Z9664F-ON.
Jako člen konsorcia Ultra Ethernet (UEC) se společnost Dell Technologies nadále zasazuje o přijetí síťových standardů. Má jedinečnou pozici pro využití plného potenciálu otevřeného přístupu tím, že jej implementuje v celém řešení GenAI: výpočetních prostředcích, síťové infrastruktuře a úložištích. Dell PowerEdge XE9680 s akcelerátory AMD Instinct MI300X a ověřeným designem Dell pro generativní AI s technologií AMD bude k dispozici v první polovině roku 2024.
