Udržitelné přístupy a inovace: jak snížit ekologickou stopu AI?

AI a datová centra mají velký dopad na životní prostředí. Proto obor aktivně hledá, jak svou ekologickou stopu snížit. Soustředí se na energetickou účinnost, úsporu vody a lepší využití zdrojů. Tyhle přístupy reagují na výzvy, které jsme popsali v předchozí části.

Jedním z příkladů je přehodnocení toho, jak se chladí. Google ve studii naznačuje, že nadměrné chlazení komponent, hlavně pevných disků (HDD), může být kontraproduktivní. Příliš nízké teploty totiž vedou k mechanickým a elektrickým problémům, a tím paradoxně zvyšují poruchovost.

Tahle zjištění podporují trend zvyšovat provozní teploty v datových centrech. Google například provozuje některá svá centra při teplotách až 27 °C. Šetří tím energii, aniž by tím trpěla spolehlivost zařízení.

Když datová centra využijí přirozené klima okolo sebe, můžou výrazně snížit spotřebu energie:

Kromě účinného chlazení se pozornost obrací i k odpadnímu teplu z datových center:

Důležitou roli hrají i širší firemní závazky a investice.

Cíl je vodní pozitivita. Technologické firmy jako Microsoft a Google se zavázaly, že do roku 2030 budou „vodně pozitivní“. Vrátí tedy víc vody, než samy spotřebují.

Druhý směr je obnovitelná energie. Datová centra stále častěji jedou na solární a větrnou energii, aby snížila uhlíkovou stopu spojenou s výrobou elektřiny.

Vedle hardwaru a infrastruktury hraje velkou roli i samotná optimalizace AI modelů. Ta dokáže výrazně snížit spotřebu zdrojů.

Snižuje přesnost výpočtů modelu, například z 32 bitů na 8 bitů. Tím klesnou nároky na výpočetní výkon, spotřebu energie i uhlíkovou stopu, a kvalita výsledků přitom výrazně neutrpí.

Menší, efektivní modely (studenti) se učí napodobovat chování větších modelů (učitelů). Výsledkem jsou modely s vysokou přesností a výrazně nižšími nároky na zdroje.

Pro konkrétní úkol používá jen vybrané části modelu. Sníží tím počet výpočtů i spotřebu energie.

Ukládá a znovu používá části promptů, které se často opakují. Výrazně tím snižuje latenci i náklady na výpočty.

OpenAI prompt caching nasadilo ve svých API a snížilo tím náklady až o 50 %. Prompty se navíc zpracují rychleji.

Odstraňuje méně důležité neurony nebo spojení v modelu. Model se tím zmenší a klesnou nároky na výpočetní výkon.

Studie ukazují, že opatrný pruning zmenší model, a tím i spotřebu energie, až o 90 %, a výkon modelu přitom skoro neklesne.

Tahle metoda zrychluje generování textu. Menší a rychlejší „draft“ model navrhne několik tokenů dopředu a větší „verifikační“ model je pak ověří a případně upraví.

Tokeny se zpracují paralelně, takže inference výrazně zrychlí, aniž by se model musel přeškolovat.

Open-source knihovna, která optimalizuje inferenci velkých jazykových modelů pomocí algoritmu PagedAttention. Ten efektivně spravuje paměť tak, že klíče a hodnoty rozdělí do menších bloků.

Tím dosáhne až 24násobné propustnosti oproti tradičním knihovnám, a architekturu modelu přitom měnit nemusí.

Systémové změny a technologické inovace jsou pro snížení dopadu AI klíčové. Velkou roli ale hrajeme i my jako jednotlivci a jako společnost. Každý z nás může přispět k udržitelnějšímu digitálnímu prostředí:

Tyhle přístupy, ať už na úrovni celého oboru, nebo v našich vlastních krocích, ukazují, že obor bere dopady AI na životní prostředí vážně a míří k odpovědnějším a udržitelnějším technologiím. Udržitelnost u umělé inteligence není jen technický úkol, je to sdílená odpovědnost. A každý promyšlený krok se počítá.

Jaké další inovativní přístupy vidíte jako klíčové pro snížení ekologické stopy AI do budoucna?