O industrie extrem de risipitoare

Industria sistemelor în ansamblu nu este preocupată de putere. Știu că este o afirmație îndrăzneață, dar cred că este adevărată. Industria semiconductoarelor este ușor preocupată, dar numai indirect. Le pasă de putere, deoarece problemele termice limitează funcționalitatea pe care o pot stoarce pe un cip sau într-un pachet.

Unii utilizatori, cum ar fi operatorii de centre de date, pretind că le pasă de putere, deoarece aceasta afectează cantitatea de infrastructură și de răcire de care au nevoie, dar cuvintele lor sunt oarecum goale, deoarece nu i-am văzut niciodată să pună la îndoială eficiența energetică a vreunui software pe care rulează. hardware-ul. Ei transmit acest cost mai departe și, pentru că concurenții lor fac același lucru, nu există nicio problemă reală. Ei au în continuare economii de scară care de multe ori îl fac mai ieftin decât deținerea de centre de date interne.

În cel mai bun caz, preocuparea de putere pentru un semiconductor, dincolo de ceea ce poate limita chipul lor, este de asemenea relativă. Dacă un concurent ar oferi un cip care consumă jumătate din putere, clienții ar putea fi dispuși să cheltuiască puțin mai mult pentru el sau să-l favorizeze în comparație cu o soluție mai consumatoare de energie. Dar cât ar plăti mai mult? Și merită investiția? Durata de viață a bateriei este o preocupare secundară față de funcționalitate și, în cazul unui produs Apple, stil.

În multe dintre interviurile mele recent, am auzit un dezgust implicit din partea unui număr tot mai mare de oameni cu privire la amploarea risipei de energie. Am scris articole încercând să evidențieze această risipă, dar singurul lucru despre care vor vorbi cei mai mulți oameni este tehnicile disponibile pentru a reduce puterea suficient, astfel încât cipurile să nu ardă. Ei nu merg mai departe de atât. Nimeni nu va aborda adevărata risipă de energie care se întâmplă. Ca exemplu simplu, când ecranele de pe computerul meu desktop intră în stare de repaus, de ce GPU-ul continuă să redă o imagine? Trebuie să existe un feed back pentru a spune dacă datele care au fost generate sunt efectiv utilizate. Atâta timp cât frame-buffer-ul este menținut sau poate fi regenerat în timp util, atunci totul este risipă și GPU-ul arde printr-o parte semnificativă din puterea totală a computerului meu.

Software-ul rămâne cel mai mare vinovat, deoarece companiile de software susțin întotdeauna că productivitatea este cel mai important lucru. În ultimul meu set de interviuri, o persoană a spus că un telefon inteligent ar dura probabil de 5 ori mai mult dacă software-ul ar fi scris folosind un limbaj eficient. Alții au spus că inginerii de software nu vor folosi instrumente care le permit să analizeze performanța sau puterea dacă nu rulează la viteze în timp real sau aproape de acestea. Nici ei nu sunt dispuși să plătească pentru nimic care poate oferi asta. Practic, ei nu au niciun stimulent să-și îmbunătățească software-ul dincolo de alegerea algoritmilor adecvați sau de a se concentra pe bucle strânse. Chiar și atunci, puțini par să înțeleagă bine și să nu ia în considerare aspectul eficient al datelor sau ceva de genul acesta.

Știu din experiența anterioară ca manager de software în industria EDA cât de ineficiente sunt chiar și pachetele software de nivel scăzut. În timp ce la acea vreme eram interesat doar de performanță, am interzis echipei mele de ingineri să folosească aproximativ jumătate din biblioteca standard C. Rutine ca malloc și printf încercați să aveți un scop atât de general încât să conțină cantități masive de balonare, care poate fi ușor evitată. Trebuiau să-mi ofere dovezi de ce ar trebui să li se acorde o excepție, ceea ce era rar. În schimb, am investit o cantitate mică de timp creând rutine care au fost adaptate nevoilor noastre și au rulat de multe ori mai repede. Acest lucru ar fi dus, de asemenea, la mult mai puțină putere.

Cunosc alte companii EDA care au făcut lucruri similare, dar asta a fost acum 20 de ani și nu sunt sigur dacă asta se mai face și astăzi. Mă îndoiesc de asta, dar vă rugăm să comentați dacă lucruri similare continuă să se facă.

În afara mediilor noastre de lucru, un număr tot mai mare de oameni spun că sunt preocupați de mediu. Aceste cuvinte sunt, de asemenea, oarecum goale. Da, s-ar putea să cumpere o mașină electrică sau să facă unele modificări, dar sunt, de asemenea, bucuroși să folosească lucruri precum ChatGPT, care consumă cantități uriașe de energie, sau software gratuit, cum ar fi platformele de social media. Ei nu pun la îndoială niciodată adevăratul cost de mediu al acestora. Doar pentru că daunele de mediu sunt oarecum ascunse nu o face acceptabilă.

Suntem dependenți de software-ul liber, iar mediul plătește prețul. Suntem încurajați să folosim metodologii care mapează software-ul pe ferme uriașe de mașini în loc să dezvoltăm algoritmi mai buni. Vreau opțiuni de alimentare în software care să-mi permită să dezactivez graficele inutile sau interfețele prea sofisticate. Dă-mi varianta ieftină și frugală.

O mare parte din dezvoltarea IA are loc în scopuri care nu promovează omenirea și nu oferă un beneficiu net. În timp ce unii pun la îndoială etica IA, mă întreb și dacă ne putem permite impactul asupra mediului asociat cu aceste modele masive de date.

Poate că devin obosit la bătrânețe, dar m-am săturat că lumea tehnologiei are două fețe. Este timpul să începem cu adevărat să fim preocupați de putere – chiar dacă ea costă mai mult.