Ile energii zużywa AI? Nowe narzędzie pokazuje to w czasie rzeczywistym
Czy zastanawiałeś się, ile prądu zużywa sztuczna inteligencja, gdy z niej korzystasz? Julien Delavande, inżynier z Hugging Face, postanowił to sprawdzić i stworzył narzędzie, które pomaga oszacować to zużycie.
Rosnące zapotrzebowanie na energię przez AI
Modele AI pobierają energię za każdym razem, gdy są uruchamiane. Działają na procesorach graficznych (GPU) i specjalistycznych układach, które wymagają dużej mocy, aby obsłużyć skomplikowane obliczenia. Choć trudno dokładnie zmierzyć ich pobór prądu, eksperci przewidują, że rosnące zapotrzebowanie na technologie AI znacząco zwiększy globalne zużycie energii w najbliższych latach.
Kontrowersje wokół ekologii AI
Niektórzy producenci uciekają się do nieekologicznych rozwiązań, aby zaspokoić potrzeby energetyczne AI. Narzędzie Delavande’a ma zwrócić uwagę na ten problem i skłonić użytkowników do refleksji.
„Nawet niewielkie oszczędności energii, pomnożone przez miliony zapytań, mogą mieć ogromny wpływ na środowisko. Wybór modelu AI lub długość odpowiedzi mają znaczenie” – napisali twórcy w oficjalnym oświadczeniu.
Jak działa narzędzie?
⚡️ „Zastanawiałeś się, ile energii zużywa ChatGPT, gdy do niego piszesz? Stworzyliśmy wersję Chat UI, która pokazuje to w czasie rzeczywistym. Czy wszystkie chatboty powinny to wyświetlać?” – napisał Delavande na Twitterze. pic.twitter.com/tBL0Pw51PW
Narzędzie współpracuje z Chat UI – otwartoźródłowym interfejsem dla modeli takich jak Meta Llama 3.3 70B czy Google Gemma 3. Szacuje ono zużycie energii w trakcie wysyłania i odbierania wiadomości, podając wyniki w Watogodzinach lub Dżulach. Dla lepszego zobrazowania, porównuje je z pracą mikrofalówki czy żarówek LED.
Przykładowe zużycie energii
Według obliczeń narzędzia, wygenerowanie typowego e-maila za pomocą Llama 3.3 70B zużywa około 0,1841 Wh – tyle, co 0,12 sekundy pracy mikrofalówki lub 0,02 sekundy działania tostera.
Dlaczego to ważne?
Warto pamiętać, że są to tylko szacunki – Delavande nie twierdzi, że są idealnie dokładne. Mimo to narzędzie przypomina, że każde działanie w sieci, w tym korzystanie z chatbotów, ma swoją cenę.
„Dzięki projektom takim jak AI energy score chcemy zwiększyć transparentność w społeczności open source. Może kiedyś zużycie energii będzie widoczne jak etykiety na produktach spożywczych!” – dodali twórcy.