이메일을 쓰든 휴가를 계획하든,  미국인의 약 4분의 1은  하루에 여러 번 인공지능과 상호작용한다고 답했고, 28%는 하루에 한 번 정도 사용한다고 답했습니다.  

하지만 많은 사람들이 자신의 검색이 환경에 미치는 영향을 잘 알지 못할 수도 있습니다. 예를 들어,  국제 에너지 기구(IEA) 에 따르면 ChatGPT를 사용한 검색은 Google 검색보다 10배 많은 전력을 소비합니다 . 또한 AI 모델 구동에 필수적인 데이터 센터는  2023년 미국에서 소비된 전체 전력의 4.4%를 차지했으며  , 2028년에는 미국 전체 전력의 약 6.7~12%를 소비할 것으로 예상됩니다. 이 수치는 앞으로도 계속 증가할 것으로 예상됩니다. 전 세계 데이터 센터 수는 2012년 50만 개에서  2024년 9월 기준 800만 개 이상으로 증가했습니다 .  

Frontiers 에 발표된 새로운 연구는  이  문제에 대한 관심을 높이는 것을 목표로 합니다. 연구진은 언어 모델이 텍스트를 처리하고 생성하는 데 사용하는 최소 데이터 단위인 "토큰"의 수를 분석하여 특정 프롬프트가 다른 프롬프트보다 최대 50배 더 ​​많은 이산화탄소를 배출할 수 있다는 사실을 발견했습니다.

AI 모델마다 사용하는 매개변수의 개수가 다르며, 매개변수가 많을수록 성능이 더 좋은 경우가 많습니다 . 이 연구는 70억 개에서 720억 개에 달하는 매개변수를 가진 14개의 대규모 언어 모델(LLM)을 대상으로 다양한 주제에 걸쳐 동일한 1,000개의 벤치마크 질문을 던졌습니다. 매개변수는 모델이 학습 과정에서 학습하여 결과를 생성하는 데 사용하는 내부 변수입니다.  

더 복잡한 작업을 수행할 수 있는 추론 기반 모델은 평균적으로 문제당 543.5개의 "사고" 토큰(추론 LLM이 답변을 생성하기 전에 생성하는 추가 데이터 단위)을 생성했습니다. 이는 문제당 37.7개의 토큰만 필요로 하는 간결한 모델과 비교되는 수치입니다. 사용된 토큰이 많을수록 답변의 정확성 여부와 관계없이 배출량이 증가했습니다.  

주제의 내용은 배출량에 영향을 미쳤습니다. 고등학교 역사처럼 간단한 주제에 대한 질문은 긴 추론 과정을 요구하는 추상 대수학이나 철학처럼 배출량이 최대 6배나 적었습니다.

현재 많은 모델이 본질적으로 "정확도와 지속가능성 간의 상충 관계"를 가지고 있다고 연구자들은 말합니다. 연구자들이 가장 정확하다고 평가한 모델인 추론 기반 코기토(Cogito) 모델은 더 간결한 답변을 생성하는 유사 규모의 모델보다 CO₂ 배출량이 세 배 더 많았습니다. 따라서 현재 AI 모델 환경에서 근본적인 과제는 에너지 효율과 정확도를 모두 최적화하는 것입니다. 뮌헨 응용과학대학교(Hochschule München Applied Sciences University)의 연구원인 막시밀리안 다우너(Maximilian Dauner)는 보도자료를 통해 "CO₂ 배출량을 500g 미만으로 유지한 모델 중 1,000개의 질문에 대한 정답 정확도가 80%를 넘지 못했습니다."라고 밝혔습니다.