Producent systemów zasilania przestrzega: do prac nad sztuczną inteligencją może nam wkrótce zabraknąć mocy
Liderzy Doliny Krzemowej przekonują nas, że prace nad sztuczną inteligencją są kluczowe nie tylko dla branży tech, ale wręcz zrewolucjonizują w mniejszym lub większym stopniu w zasadzie każdy obszar życia. Ma to jednak swoje bardzo wysokie koszty, na co zwracają uwagę analitycy Schneider Electric. Według nich, w pewnym momencie w rozwoju prac nad SI może nam zwyczajnie zabraknąć nam mocy.
Centra danych zbyt wolne na sztuczną inteligencję
Schneider Electric to jeden z najpopularniejszych producentów zaawansowanych systemów zasilania, które wykorzystywaną w centrach danych, ale też w mniejszych serwerowniach . Na rynku konsumenckim popularne są zaś UPS-y tej firmy. Równolegle do prac nad kolejnymi produktami SE prowadzi na potrzeby swojego departamentu R&D szeroko zakrojoną analitykę, dzieląc się nierzadko bardzo ciekawymi raportami, jak np. opublikowany właśnie „The AI Disruption: Challenges and Guidance for Data Center Design”.
Pracownicy SE zwracają uwagę, że dziś do prac nad sztuczną inteligencją, np. trenowania dużych modeli przetwarzających język naturalny, często wykorzystuje się sieci o możliwie niskiej latencji i wysokiej przepustowości. W rezultacie w działających aktualnie centrach danych stosować trzeba zaawansowane urządzenia zasilające, ale też zarządzające odprowadzaniem ciepła. Pojedynczy serwer może w efekcie konsumować nawet 10 kilowatów energii, a do trenowania NLP potrzeba niekiedy setek takich serwerów .
Przekleństwo wąskich gardeł
W takich warunkach przy dzisiejszych konfiguracjach centrów danych często gęsto pojawiają się wąskie gardła.
Zwłaszcza gdy stosuje się układy graficzne, które przetwarzają dane z prędkością 900 GB/s, ale są one przesyłane pomiędzy kolejnymi instancjami z prędkością 100 GB/s
. Całość konsumuje zaś nawet 700 watów energii. Marnowana jest zatem zarówno moc obliczeniowa kart graficznych wykorzystywanych do przeprowadzania operacji na liczbach zmiennoprzecinkowych, jak i niezbędny do tego prąd.
W raporcie proces ten jest obrazowo porównywany do współczesnych samochodów elektrycznych, wyposażonych w systemy autonomicznej jazdy i naszpikowane czujnikami. Według przedstawicieli Schneider Electronic dzisiejsze centra danych można porównać do takiego samochodu, w którym zamontowano napęd o mocy 500 koni mechanicznych oraz mnóstwo bardzo szybko przetwarzających dane czujników, a całość połączono archaiczną siecią – prędkość transmisji danych z czujników komunikujących się z systemem autonomicznej jazdy sterującej napędem sprawiałaby, że
w zasadzie nic w takim samochodzie nie działałoby z pełną mocą
.
Rozwiązanie – więcej mocy!
Jak można było się spodziewać po producencie z branży energetycznej, Schneider Electronic dostrzega natychmiastową potrzebę modernizacji aktualnych konfiguracji centrów danych : zmianę mocy z 120/280 watów na 240/415 watów, tak aby zmniejszyć liczbę układów w szafach o dużym zagęszczeniu. Ponadto analitycy są zdania, że najwyższy już czas, aby centra danych na całym świecie zaczęły implementować chłodzenie oparte na cieczy. W przeciwnym wypadku prace nad SI mogą stanąć w miejscu.
