Analogowe procesory ze szkła. Nowy pomysł na sztuczną inteligencję zwiększy wydajność i ograniczy zużycie energii
Rozwój oprogramowania klasyfikowanego jako sztuczna inteligencja przekłada się bezpośrednio nie tylko na zapotrzebowanie na moc obliczeniową, ale też na energię niezbędną do trenowania modeli. Szacuje się, że opracowanie pojedynczego modelu, a codziennie trenowane są ich setki, jeśli nie tysiące, pozostawia ślad węglowy zbliżony do tego, jaki emitowany jest przez samochód osobowy przez cały okres jego eksploatacji. Pomysł na rozwiązanie tego problemu ma IBM.
Sztuczna inteligencji apetyt na moc obliczeniowa i energię
Boom popularności ChatGPT zwrócił uwagę na kwestię, która dotychczas zajmowała głównie naukowców specjalizujących się w badaniach nad sztuczną inteligencją – ilość zużywanej energii oraz emisje pochodzące z maszyn wykorzystywanych do trenowania modeli będą miały niebagatelny wpływ na środowisko naturalne. Prace nad SI to nie tylko ogromne koszty wynikające z konieczności wykorzystania najbardziej zaawansowanych możliwości centrów danych, ale także ogromne zużycie prądu.
Wyzwanie stanowi także ograniczona dostępność układów przeprowadzających operacje na liczbach zmiennoprzecinkowych. W sytuacji, gdy w najważniejszej fabryce układów półprzewodnikowych na świecie, tajwańskim TSMC, linie produkcyjne współdzielić muszą niemal wszyscy najwięksi producenci procesorów, prędzej czy później musiało dość do produkcyjnej zadyszki i opóźnień dostaw. Jasne stało się to zwłaszcza po sukcesie ChatGPT z przełomu 2022 i 2023 – popyt na infrastrukturę niezbędną do trenowania sztucznej inteligencji i dostarczania jej klientom końcowym przewyższa podaż.
Oto nowy król Doliny Krzemowej. Gigantyczne zyski zapewniła sztuczna inteligencjaZamiast układów cyfrowych – czipy analogowe
IBM chce rozwiązać ten problem dzięki tzw. czipom analogowym wykorzystującym nieulotną pamięć o swobodnym dostępie. W odróżnieniu od bazujących na krzemie układów cyfrowych, w przypadku czipów analogowych wykorzystywane są specyficzne właściwości szkła chalkogenowego, dzięki któremu informacje w pamięci mogą być przechowywane w stanie różnych faz, gradacji pomiędzy zerem a jedynką, a nie tylko w postaci binarnej. Następnie z użyciem operacji multiply-accumulate wyeliminowano konieczność przesyłania danych z pamięci do modułów obliczeniowych.
Badania wydajności wykazały, że wykorzystanie takiego procesu poskutkowało zużyciem nawet 14-krotnie mniejszej ilości energii, niż ma to miejsce w przypadku standardowych układów cyfrowych. Takich obserwacji dokonano na podstawie porównania wydajności analogowych i cyfrowych czipów w obsłudze rekurencyjnych sieci neuronowych przetwarzających mowę na tekst. IBM podkreśla jednak, że jesteśmy dopiero na początku drogi i już w niedalekiej przyszłości oszczędności mogą być znacznie większe.
Wielokrotne wzrosty wydajności
Inne testy obejmowały praktyczne zadania, które już dziś stawiamy przed oprogramowaniem wykorzystującym elementy SI, każdorazowo wykazując wielokrotną przewagę konfiguracji analogowych nad cyfrowymi. Będzie musiało upłynąć wiele miesięcy, aż możliwości analogowych czipów trafią na rynek (zapewne w ramach usług chmurowych IBM-u), jednak wyniki napawają optymizmem co do rozwoju SI, który w pewnym momencie mógłby utknąć w martwym punkcie za sprawą braków w infrastrukturze niezbędnej do trenowania modeli.
