GPT-4로 100 단어를 생성하는 데 필요한 물의 양은?

 

생성형 AI가 급속히 발달하고 응용 범위도 넓어지면서 AI가 소모하는 막대한 에너지에 대한 우려도 같이 커지고 있습니다. 하지만 우리가 간과하기 쉬운 사실 중에 하나가 전력을 생산하고 데이터 센터를 식히는데도 상당한 양의 물이 필요하다는 것입니다.

​

최근 탐스하드웨어는 워싱턴 포스트와 캘리포니아 대학 리버사이드 캠퍼스의 연구를 인용해 미국의 각 지역별로 GPT-4를 이용해 100단어 정도의 이메일을 작성하는 데 필요한 물의 양을 계산했습니다. 필요한 물의 양은 데이터 센터까지의 거리와 발전소의 거리, 발전 형태에 따라 다를 수밖에 없는데, 텍사스주의 경우 245ml로 가장 낮은 편에 속했으며 워싱턴 주는 가장 높아 1408ml의 물이 필요한 것으로 나타났습니다.

​

이미지나 영상이 아닌 단순한 짧은 문장을 형성하는데도 이렇게 많은 물이 필요하다면 생성형 AI 전체 수요를 충당하기 위한 물과 전력이 상당히 많이 필요할 것이라는 점을 짐작할 수 있습니다. 메타의 경우 LLaMA-3 모델을 훈련시키는데, 2200만 리터의 물을 소모하는 상황입니다. 이 상황은 주요 IT 기업들이 엄청난 GPU로 이뤄진 대규모 AI 데이터 센터를 건설하면 더 악화될 수 있습니다.

​

이런 점을 생각하면 AI 데이터 센터를 위해 가급적 물을 소모하지 않는 태양광이나 풍력 같은 신재생 에너지 발전을 적극 보급해야 할 것 같지만, 발전량이 불규칙하거나 밤에는 발전이 어려운 특징 때문에 24시간 막대한 전기를 소모하는 데이터 센터에는 적합하지 않다는 것이 문제입니다. 최근 시도되는 데이터 센터용 원자력 발전 역시 냉각수가 많이 필요합니다.

​

결국 생성형 AI의 응용이 확산될수록 에너지 효율성이 더 중요한 문제로 부각될 것으로 생각됩니다.

​

​

참고

​

​

https://www.tomshardware.com/tech-industry/artificial-intelligence/using-gpt-4-to-generate-100-words-consumes-up-to-3-bottles-of-water-ai-data-centers-also-raise-power-and-water-bills-for-nearby-residents