En mycket slösaktig industri

Systembranschen som helhet bryr sig inte om makt. Jag vet att det är ett djärvt uttalande, men jag tror att det är sant. Halvledarindustrin är lindrigt oroad, men bara indirekt. De bryr sig om ström eftersom termiska problem begränsar funktionaliteten som de kan klämma fast på ett chip eller i en förpackning.

Vissa användare, som datacenteroperatörer, hävdar att de bryr sig om ström eftersom det påverkar mängden infrastruktur och kylning de behöver, men deras ord är något ihåliga eftersom jag aldrig har sett dem ifrågasätta energieffektiviteten hos någon av de program som de kör på hårdvaran. De skickar den kostnaden vidare, och eftersom deras konkurrenter gör detsamma, finns det inga egentliga problem. De har fortfarande stordriftsfördelar som ofta gör det billigare än att ha interna datacenter.

I bästa fall är strömproblemet för en halvledare, utöver vad som kan begränsa deras chip, också relativt. Om en konkurrent skulle erbjuda ett chip som förbrukade hälften av strömmen kan kunderna vara villiga att spendera lite mer för det, eller att favorisera det jämfört med en mer strömkrävande lösning. Men hur mycket mer skulle de betala? Och är det värt investeringen? Batteritiden är en sekundär fråga om funktionalitet, och i fallet med en Apple-produkt, stil.

I många av mina intervjuer nyligen har jag hört en underförstådd avsky från ett ökande antal människor om storleken på energislöseriet. Jag har skrivit artiklar för att försöka lyfta fram det slöseriet, men det enda de flesta kommer att prata om är teknikerna som finns tillgängliga för att minska strömmen tillräckligt så att chips inte brinner upp. De går inte längre än så. Ingen kommer att ta itu med det verkliga energislöseriet som sker. Som ett enkelt exempel, när skärmarna på min stationära dator går i viloläge, varför fortsätter GPU:n att återge en bild? Det måste finnas en backfeed för att säga om data som genererades faktiskt används. Så länge rambufferten bibehålls, eller kan återskapas i tid, är allt annat slöseri och GPU:n förbränner en betydande del av min totala datorkraft.

Mjukvara är fortfarande den största boven, eftersom mjukvaruföretag alltid hävdar att produktivitet är det viktigaste. I min senaste uppsättning intervjuer sa en person att en smart telefon förmodligen skulle hålla fem gånger längre om programvaran skrevs med ett effektivt språk. Andra har sagt att mjukvaruingenjörer inte kommer att använda verktyg som gör det möjligt för dem att analysera prestanda eller kraft om de inte körs med, eller nära, realtidshastigheter. De är inte heller villiga att betala för något som kan ge det. I grund och botten har de inget incitament att förbättra sin mjukvara utöver att välja lämpliga algoritmer eller koncentrera sig på tighta loopar. Även då verkar få få det rätt och tar inte hänsyn till effektiv datalayout eller något liknande.

Jag vet från tidigare erfarenheter som mjukvaruansvarig inom EDA-branschen hur ineffektiva även lågnivåprogramvarupaket är. Medan jag vid den tiden bara var intresserad av prestanda, förbjöd jag mitt ingenjörsteam att använda ungefär hälften av standard C-biblioteket. Rutiner som malloc och printf försök att vara så generella att de innehåller enorma mängder svullnad, som lätt kan undvikas. De var tvungna att förse mig med bevis på varför de skulle få ett undantag, vilket var sällsynt. Istället satsade vi lite tid på att skapa rutiner som var skräddarsydda efter våra behov och som gick många gånger snabbare. Det skulle också ha resulterat i mycket mindre kraft.

Jag känner andra EDA-företag som gjorde liknande saker, men det var för 20 år sedan, och jag är inte säker på om det fortfarande görs idag. Jag tvivlar på det, men kommentera gärna om liknande saker fortsätter att göras.

Utanför våra arbetsmiljöer säger allt fler människor att de är måna om miljön. De orden är också något ihåliga. Ja, de kanske köper en elbil eller gör några ändringar, men de använder också gärna saker som ChatGPT, som förbrukar enorma mängder ström, eller gratis programvara som sociala medieplattformar. De ifrågasätter aldrig den verkliga miljökostnaden för dessa. Bara för att miljöskadorna är något dolda gör det inte att det är acceptabelt.

Vi är beroende av gratis programvara och miljön får betala priset. Vi uppmuntras att använda metoder som kartlägger programvara på enorma maskiner i stället för att utveckla bättre algoritmer. Jag vill ha kraftalternativ i programvara som gör att jag kan stänga av onödig grafik eller alltför snygga gränssnitt. Ge mig det billiga och sparsamma alternativet.

Mycket av utvecklingen inom AI är för ändamål som inte främjar mänskligheten eller ger en nettovinst. Även om vissa ifrågasätter AI-etiken, ifrågasätter jag också om vi har råd med miljöpåverkan som är förknippad med dessa enorma datamodeller.

Kanske håller jag på att bli trött på min gamla ålder, men jag börjar tröttna på att teknikvärlden är tvåsidig. Det är dags att vi verkligen börjar oroa oss för makt – även om det kostar mer.