Když se AI učí, spotřebuje tolik energie jako město. Vědci už teď přemýšlejí, co s tím

28. březen 2024

S rozvojem umělé inteligence podle odborníků rostou i požadavky na výkon počítačů. Podle nedávného výzkumu nizozemského autora by už v roce 2027 mohly ročně spotřebovat tolik energie jako celé Nizozemsko – pokud by ovšem vývoj šel dopředu stejným tempem. Další odborníci ale upozorňují, že budoucnost může přinést i úspornější alternativy.

„Tohle je DGX stanice určená pro učení a vybavování neuronových sítí,“ ukazuje Pavel Kordík z Fakulty informačních technologií ČVUT na jeden z přístrojů. Má vysoký výpočetní výkon a díky tomu se i patřičně zahřívá. Potřebuje tedy výkonné chlazení.

„Jsou tam čtyři grafické karty a má i poměrně hodně paměti – poskytuje dobrý výkon pro trénování neuronových sítí, které vyžadují vyšší miliardy parametrů,“ doplňuje expert.

O rozvoji umělé inteligence podle Pavla Kordíka vypovídá také zájem o výkonné procesory. Jejich výrobcům se daří, je slyšet na fakultě.

Čtěte také

V současnosti nejvíc práce zastanou grafické procesory původně vyvinuté pro obrazová data. „Umožňují paralelní zpracování velkého počtu operací,“ vysvětluje Pavel Kordík.

Hladová inteligence

Nejvíce energie ale spotřebují systémy umělé inteligence ještě předtím, než jsou k dispozici uživatelům. Potřebují se totiž naučit obrovské množství dat. „Tak velký jazykový model, jako je třeba ChatGPT, spotřebuje při učení tolik energie jako středně velké město za rok,“ přirovnává Pavel Kordík.

„Aby nám velké jazykové modely rozuměly, musí mít hodně parametrů, tedy kapacitu na to, aby pochopily vaši otázku a dokázaly nějak rozumně odpovědět. Když má model víc než deset miliard parametrů, tak se podobá lidem ve schopnostech řešit složitější úlohy.“

Umělá inteligence

Dostupné jazykové modely jsou často takzvaně statické – už se neučí nové věci, proto by měly spotřebovávat méně energie než při učení. Pouhá konverzace s nimi proto nemusí být tak energeticky náročná. Spotřeba se však zvýší, když umělá inteligence vytváří obrázky nebo videa.

Matematická komprese a 3D čipy

Vývoj sledují i v americké Virginii, kde je nejhustší síť datových center na světě. Zástupci organizace Ochránců přírody BBC odhadují, že za 15 let se spotřeba zdvojnásobí. Podle Pavla Kordíka ale na druhou stranu odborníci hledají také cesty k tomu, aby procesory byly úspornější. Možností je několik.

DALL-E 3

„Existují techniky, které umožní kompresi modelů, takže třeba velký jazykový model poběží na mobilním telefonu. To jsou věci, které ještě před půl nebo třičtvrtě rokem byly nepředstavitelné. Zároveň se vyvíjí i specializovaný hardware procesorů, které ukládají jednotlivé komponenty ve třech rozměrech,“ přibližuje.

Takovéto „prostorové“ zpracování procesoru umožňuje rychlejší a energeticky méně náročné přesuny informací. Tyto čipy pak budou aspoň o trochu podobnější stavbě lidského mozku, který se tvůrci umělé inteligence snaží napodobit.

autor: Martin Srb | zdroj: Český rozhlas
Spustit audio

Související