생성적 AI의 성장으로 인해 점점 더 많은 양의 물과 전기가 필요하다는 것은 비밀이 아닙니다. 그러나 워싱턴 포스트(Washington Post) 와 캘리포니아 대학교 리버사이드(University of California, Riverside) 연구원의 새로운 연구는 OpenAI의 챗봇이 가장 많은 작업을 수행하기 위해 얼마나 많은 리소스가 필요한지 보여줍니다. 기본 기능.
물 사용량 측면에서 ChatGPT가 100단어 이메일을 작성하는 데 필요한 양은 주 및 OpenAI의 가장 가까운 데이터 센터에 대한 사용자의 근접성에 따라 다릅니다. 특정 지역에 물이 덜 보급되고 전기 요금이 저렴할수록 데이터 센터가 대신 전기로 구동되는 에어컨 장치에 의존할 가능성이 높아집니다. 예를 들어 텍사스에서 챗봇은 100단어 이메일 하나를 생성하는 데 필요한 약 235밀리리터만 소비합니다. 반면 워싱턴에서 작성된 동일한 이메일에는 이메일당 1,408밀리리터(거의 1.5리터)가 필요합니다.
데이터 센터는 생성 AI 기술의 등장으로 더 커지고 더 밀집되어 있으며, 공기 기반 냉각 시스템이 이를 따라잡기 어려울 정도입니다. 이것이 바로 많은 AI 데이터 센터가 서버 스택을 지나 엄청난 양의 물을 펌핑하여 열 에너지를 끌어낸 다음 수집된 열이 방출되는 냉각탑으로 나가는 액체 냉각 방식으로 전환한 이유입니다.
ChatGPT의 전기적 요구 사항도 재채기할 만한 것이 아닙니다. The Washington Post에 따르면 ChatGPT를 사용하여 100단어 이메일을 작성하면 12개 이상의 LED 전구를 한 시간 동안 작동할 수 있을 만큼 충분한 전류가 흐릅니다. 미국인의 10분의 1이라도 ChatGPT를 사용하여 1년 동안 일주일에 한 번씩 해당 이메일을 작성한다면 이 프로세스는 워싱턴 DC의 모든 가구가 20일 동안 사용하는 것과 동일한 양의 전력을 사용하게 됩니다. DC에는 대략 670,000명의 인구가 살고 있습니다.
이는 조만간 해결될 문제가 아니며, 나아지기 전에 훨씬 더 악화될 가능성이 높습니다. 예를 들어 Meta는 최신 Llama 3.1 모델을 훈련시키기 위해 2,200만 리터의 물이 필요했습니다. 법원 기록에 따르면 오리건 주 댈러스에 있는 Google 데이터 센터는 마을에서 사용 가능한 전체 물의 거의 4분의 1을 소비하는 것으로 밝혀졌으며, xAI의 새로운 Memphis 슈퍼 클러스터 는 이미 150MW의 전력을 요구하고 있습니다. 이는 최대 30,000가구에 전력을 공급할 수 있는 양입니다. — 지역 유틸리티인 Memphis Light, Gas and Water에서 제공됩니다.