매우 낭비적인 산업

시스템 산업 전체는 권력에 관심이 없습니다. 나는 그것이 대담한 진술이라는 것을 알고 있지만 그것이 사실이라고 믿습니다. 반도체 산업은 약간 우려하지만 간접적일 뿐입니다. 열 문제로 인해 칩이나 패키지에 집어넣을 수 있는 기능이 제한되기 때문에 전력에 관심이 있습니다.

데이터 센터 운영자와 같은 일부 사용자는 전력이 필요한 인프라와 냉각의 양에 영향을 미치기 때문에 전력에 관심이 있다고 주장하지만, 그들이 실행하는 소프트웨어의 전력 효율성에 대해 의문을 제기하는 것을 본 적이 없기 때문에 그들의 말은 다소 공허합니다. 하드웨어. 그들은 그 비용을 전가하고 경쟁업체도 똑같이 하기 때문에 실질적인 문제는 없습니다. 그들은 여전히 ​​내부 데이터 센터를 보유하는 것보다 더 저렴하게 만드는 규모의 경제를 가지고 있습니다.

기껏해야 칩을 제한할 수 있는 것 이상으로 반도체에 대한 전력 문제도 상대적입니다. 경쟁사가 절반의 전력을 소비하는 칩을 제공하는 경우 고객은 전력 소모가 더 많은 솔루션에 비해 약간 더 많은 비용을 지불하거나 선호할 수 있습니다. 하지만 얼마나 더 지불할까요? 그리고 투자할 가치가 있는가? 배터리 수명은 기능과 Apple 제품의 경우 스타일에 대한 부차적인 관심사입니다.

최근 많은 인터뷰에서 점점 더 많은 사람들이 전력 낭비의 규모에 대해 혐오감을 암시하는 것을 들었습니다. 나는 그 낭비를 강조하기 위해 기사를 썼지만 대부분의 사람들이 이야기할 유일한 것은 칩이 타지 않도록 전력을 충분히 줄일 수 있는 기술에 관한 것입니다. 그 이상은 가지 않습니다. 아무도 발생하고 있는 실제 전력 낭비를 다루지 않을 것입니다. 간단한 예로 데스크탑 컴퓨터의 화면이 절전 모드로 전환될 때 GPU가 계속 이미지를 렌더링하는 이유는 무엇입니까? 생성 중인 데이터가 실제로 사용되고 있는지 여부를 알려주는 백 피드가 필요합니다. 프레임 버퍼가 유지되거나 적시에 재생될 수 있는 한 다른 모든 것은 낭비이며 GPU는 전체 컴퓨터 성능의 상당 부분을 소모합니다.

소프트웨어 회사는 항상 생산성이 가장 중요하다고 주장하기 때문에 소프트웨어는 여전히 가장 큰 원인입니다. 마지막 인터뷰에서 한 사람은 소프트웨어가 효율적인 언어를 사용하여 작성되면 스마트폰이 아마도 5배 더 오래 지속될 것이라고 말했습니다. 다른 사람들은 소프트웨어 엔지니어가 실시간 속도로 또는 그에 근접하게 실행되지 않는 경우 성능이나 전력을 분석할 수 있는 도구를 사용하지 않을 것이라고 말했습니다. 그들은 그것을 제공할 수 있는 어떤 것에 대해서도 기꺼이 지불하지 않을 것입니다. 기본적으로 그들은 적절한 알고리즘을 선택하거나 긴밀한 루프에 집중하는 것 외에는 소프트웨어를 개선할 인센티브가 없습니다. 그럼에도 불구하고 제대로 이해하고 효율적인 데이터 레이아웃이나 그와 유사한 것을 고려하지 않는 사람은 거의 없는 것 같습니다.

저는 EDA 업계에서 소프트웨어 관리자로 일했던 과거 경험을 통해 낮은 수준의 소프트웨어 패키지가 얼마나 비효율적인지 알고 있습니다. 당시 나는 성능에만 관심이 있었지만 엔지니어링 팀이 표준 C 라이브러리의 절반 정도를 사용하지 못하도록 했습니다. 같은 루틴 Malloc 과 printf 쉽게 피할 수 있는 엄청난 양의 부풀림을 포함하도록 너무 범용적이 되도록 시도합니다. 그들은 예외를 인정받아야 하는 이유에 대한 증거를 제게 제공해야 했습니다. 이는 드문 경우였습니다. 대신, 우리는 필요에 맞게 조정되고 몇 배 더 빠르게 실행되는 루틴을 만드는 데 약간의 시간을 투자했습니다. 그것은 또한 훨씬 적은 힘을 가져 왔을 것입니다.

나는 비슷한 일을 한 다른 EDA 회사를 알고 있지만 그것은 20년 전 일이며 오늘날에도 여전히 그렇게 하고 있는지 확실하지 않습니다. 의심스럽긴 한데 계속 비슷한 일이 있으면 댓글 부탁드립니다.

작업 환경 외에도 점점 더 많은 사람들이 환경에 대해 우려하고 있습니다. 그 말들도 다소 공허하다. 예, 그들은 전기 자동차를 사거나 약간의 변경을 할 수 있지만 엄청난 양의 전력을 소비하는 ChatGPT 또는 소셜 미디어 플랫폼과 같은 무료 소프트웨어를 사용하는 것을 좋아합니다. 그들은 그것들의 진정한 환경 비용에 대해 결코 의문을 제기하지 않습니다. 환경 피해가 다소 감춰져 있다고 해서 받아들일 수 있는 것은 아닙니다.

우리는 자유 소프트웨어에 중독되어 있으며 환경이 그 대가를 치르고 있습니다. 우리는 더 나은 알고리즘을 개발하는 대신 소프트웨어를 기계의 거대한 농장에 매핑하는 방법론을 사용하도록 권장받고 있습니다. 불필요한 그래픽이나 지나치게 멋진 인터페이스를 끌 수 있는 소프트웨어의 전원 옵션을 원합니다. 저렴하고 검소한 옵션을 제공하십시오.

AI 개발의 대부분은 인류를 발전시키거나 순익을 제공하지 않는 목적을 위한 것입니다. 어떤 사람들은 AI의 윤리에 의문을 제기하지만, 나는 또한 이러한 대규모 데이터 모델과 관련된 환경적 영향을 감당할 수 있는지에 대해서도 의문을 제기합니다.

나이가 들면서 지쳐가고 있을지 모르지만 기술 세계가 양면적인 것에 지쳤습니다. 비용이 더 많이 들더라도 전력에 대해 진정으로 걱정하기 시작할 때입니다.