
Nye nyheder
AI’s skjulte klimasynder: Kinesisk model udfordrer amerikansk energiforbrug
Næste generations AI-modeller, anført af kraftfulde systemer som ChatGPT-4, er langt mere energikrævende end deres forgængere og udgør en stigende miljømæssig udfordring. Ifølge Greenlys undersøgelse er energiforbruget steget markant med ChatGPT-4, der indeholder hele 1.800 milliarder parametre mod forgængerens 175 milliarder – en tyvedobling. Greenly lever af at fremstille CO2-regnskaber for virksomheder i hele verden. I et hypotetisk scenarie, hvor en virksomhed håndterer 1 million e-mails om måneden, estimerer Greenly, at ChatGPT-4 genererer et CO₂-aftryk på 7.138 tons over et år, fordelt på træning og brug. Det svarer til 4.300 returrejser mellem Paris og New York. Selv en simpel tekstbaseret forespørgsel sluger lige så meget energi som 16% af en smartphone-opladning, viser et studie fra Carnegie Mellon University og Hugging Face. Brugen af billedgenereringsværktøjer som DALL-E er endnu værre og udleder 60 gange mere CO₂ end tekstgenerering. DeepSeek: Et grønnere alternativ fra Kina? Den kinesiske AI-model DeepSeek hævder at levere en ydeevne på niveau med vestlige modeller, men med et markant lavere energiforbrug. Det skyldes deres “Mixture-of-Experts” (MoE) arkitektur, som kun aktiverer de nødvendige under-modeller for hver forespørgsel. DeepSeek brugte kun en tiendedel af de GPU-timer, der var nødvendige for at træne Metas Llama 3.1, på trods af at Llama 3.1 benyttede nyere chips. Træningen af DeepSeek foregik på blot 2.000 NVIDIA H800-chips, mens ChatGPT-4 krævede 25.000 og Meta’s Llama 3.1 brugte 16.000. DeepSeeks fodaftryk reduceres yderligere af, at H800-chippen er mindre energikrævende end de NVIDIA-chips, som blandt andet ChatGPT benytter. Selvom en mere effektiv udnyttelse af computerressourcer kan mindske …. (læs mere her)