Un'industria altamente dispendiosa

L'industria dei sistemi nel suo insieme non si preoccupa del potere. So che è un'affermazione audace, ma credo che sia vera. L'industria dei semiconduttori è leggermente interessata, ma solo indirettamente. Si preoccupano dell'alimentazione perché i problemi termici stanno limitando la funzionalità che possono spremere su un chip o in un pacchetto.

Alcuni utenti, come gli operatori di data center, affermano di preoccuparsi dell'alimentazione perché influisce sulla quantità di infrastruttura e raffreddamento di cui hanno bisogno, ma le loro parole sono alquanto vuote perché non li ho mai visti mettere in discussione l'efficienza energetica di nessuno dei software su cui girano l'hardware. Trasmettono quel costo e poiché i loro concorrenti fanno lo stesso, non c'è alcun problema reale. Hanno ancora economie di scala che spesso lo rendono più economico rispetto all'avere data center interni.

Nella migliore delle ipotesi, anche la preoccupazione per la potenza di un semiconduttore, al di là di ciò che può limitare il suo chip, è relativa. Se un concorrente dovesse offrire un chip che consuma metà dell'energia, i clienti potrebbero essere disposti a spendere un po' di più per averlo oa preferirlo rispetto a una soluzione più assetata di energia. Ma quanto pagherebbero in più? E vale l'investimento? La durata della batteria è una preoccupazione secondaria rispetto alla funzionalità e, nel caso di un prodotto Apple, allo stile.

In molte delle mie interviste recenti, ho sentito un implicito disgusto da parte di un numero crescente di persone per l'entità dello spreco di energia. Ho scritto articoli cercando di evidenziare questo spreco, ma l'unica cosa di cui la maggior parte delle persone parlerà sono le tecniche disponibili per ridurre la potenza in modo tale che i chip non si brucino. Non vanno oltre. Nessuno affronterà il vero spreco di energia che sta accadendo. Per fare un semplice esempio, quando gli schermi del mio computer desktop vanno in stop, perché la GPU continua a eseguire il rendering di un'immagine? Deve esserci un back feed per dire se i dati che sono stati generati vengono effettivamente utilizzati. Finché il frame buffer viene mantenuto o può essere rigenerato in modo tempestivo, tutto il resto è sprecato e la GPU consuma una parte significativa della potenza totale del mio computer.

Il software rimane il principale colpevole, perché le società di software affermano sempre che la produttività è la cosa più importante. Nella mia ultima serie di interviste, una persona ha affermato che uno smartphone probabilmente durerebbe 5 volte di più se il software fosse scritto utilizzando un linguaggio efficiente. Altri hanno affermato che gli ingegneri del software non utilizzeranno strumenti che consentano loro di analizzare le prestazioni o la potenza se non funzionano a velocità in tempo reale o vicine. Né sono disposti a pagare per qualcosa che possa fornirlo. Fondamentalmente, non hanno alcun incentivo a migliorare il proprio software oltre a scegliere algoritmi appropriati o concentrarsi su loop stretti. Anche allora, pochi sembrano farlo bene e non prendono in considerazione un layout efficiente dei dati o qualcosa del genere.

So per esperienza passata come software manager nel settore EDA quanto siano inefficienti anche i pacchetti software di basso livello. Sebbene all'epoca fossi interessato solo alle prestazioni, proibii al mio team di ingegneri di utilizzare circa la metà della libreria C standard. Routine come malloc ed printf cercano di essere così generici da contenere enormi quantità di gonfiore, che possono essere facilmente evitati. Dovevano fornirmi prove sul motivo per cui avrebbero dovuto fare un'eccezione, il che era raro. Invece, abbiamo investito una piccola quantità di tempo creando routine che fossero adattate alle nostre esigenze e funzionassero molte volte più velocemente. Ciò avrebbe anche comportato molta meno potenza.

Conosco altre società EDA che hanno fatto cose simili, ma è stato 20 anni fa e non sono sicuro che lo facciano ancora oggi. Ne dubito, ma per favore commenta se cose simili continuano a essere fatte.

Al di fuori dei nostri ambienti di lavoro, un numero crescente di persone afferma di essere preoccupato per l'ambiente. Quelle parole sono anche un po' vuote. Sì, possono acquistare un'auto elettrica o apportare alcune modifiche, ma sono anche felici di utilizzare cose come ChatGPT, che consuma enormi quantità di energia, o software gratuiti come piattaforme di social media. Non mettono mai in discussione il vero costo ambientale di quelli. Solo perché il danno ambientale è in qualche modo nascosto non lo rende accettabile.

Siamo dipendenti dal software libero e l'ambiente ne sta pagando il prezzo. Siamo incoraggiati a utilizzare metodologie che mappano il software su enormi fattorie di macchine invece di sviluppare algoritmi migliori. Voglio opzioni di alimentazione nel software che mi consentano di disattivare la grafica non necessaria o interfacce eccessivamente fantasiose. Dammi l'opzione economica e frugale.

Gran parte dello sviluppo dell'IA è per scopi che non promuovono l'umanità o forniscono un vantaggio netto. Mentre alcuni mettono in dubbio l'etica dell'IA, mi chiedo anche se possiamo permetterci l'impatto ambientale associato a questi enormi modelli di dati.

Forse sto diventando stanco della mia vecchiaia, ma mi sto stancando del mondo della tecnologia che ha due facce. È giunto il momento di iniziare a preoccuparci veramente del potere, anche se costa di più.