Скільки води використовує ШІ?

Б'юся об заклад, ви чули все: від «ШІ випиває пляшку води кожні кілька запитань» до «це фактично кілька крапель». Правда більш тонка. Водний слід ШІ сильно коливається залежно від того, де він працює, якої довжини ваша підказка та як центр обробки даних охолоджує свої сервери. Тож так, головна цифра існує, але вона ховається всередині низки застережень.

Нижче я розкриваю чіткі, готові до прийняття рішень цифри, пояснюю, чому оцінки розходяться, і показую, як будівельники та звичайні користувачі можуть зменшити витрати води, не перетворюючись на ченців сталого розвитку.

Статті, які вам, можливо, буде цікаво прочитати після цієї:

🔗 Що таке набір даних ШІ
Пояснює, як набори даних дозволяють навчати машинне навчання та розробляти моделі.

🔗 Як штучний інтелект прогнозує тенденції
Показує, як штучний інтелект аналізує закономірності для прогнозування змін та майбутніх результатів.

🔗 Як виміряти продуктивність ШІ
Розбиває основні показники для оцінки точності, швидкості та надійності.

🔗 Як розмовляти зі штучним інтелектом
Керує ефективними стратегіями підказок для покращення ясності, результатів та узгодженості.

Скільки води використовує ШІ? Короткі цифри, які ви можете використовувати 📏

• Типовий діапазон на запит сьогодні: від субмілілітрів для медіанного текстового запиту на одній основній системі до десятків мілілітрів для довшої відповіді з більшою обчислювальною потужністю на іншій. Наприклад, облік виробничих даних Google повідомляє про медіанний текстовий запит ~0,26 мл (з урахуванням повних накладних витрат на обслуговування) [1]. Оцінка життєвого циклу Mistral визначає, що відповідь помічника з 400 токенами становить ~45 мл (граничний висновок) [2]. Контекст і модель мають велике значення.

• Навчання моделі на межі можливостей: може сягати мільйонів літрів , переважно від охолодження та води, що використовується для виробництва електроенергії. У широко цитованому академічному аналізі оцінюється приблизно 5,4 мільйона літрів для навчання моделі класу GPT, включаючи приблизно 700 000 літрів, спожитих на місці для охолодження, та обґрунтовується необхідність розумного планування для зниження водомісткості [3].

• Центри обробки даних загалом: великі об'єкти в середньому обслуговують сотні тисяч галонів на день у великих операторів, з вищими піками в деяких кампусах залежно від клімату та дизайну [5].

Будемо відвертими: ці цифри спочатку здаються суперечливими. Так і є. І для цього є вагомі причини.

Метрики використання води на основі штучного інтелекту ✅

Гарна відповідь на запитання «Скільки води використовує ШІ?» повинна містити кілька позначок:

1. Чіткість меж.
   Чи включає це лише для охолодження на місці , чи також воду за межами місця, електростанціями для виробництва електроенергії? Найкраща практика розрізняє забір води та споживання води та охоплює 1-2-3, подібно до обліку вуглецю [3].

2. Чутливість до розташування. Вартість
   води на кВт⋅год залежить від регіону та структури мережі, тому одне й те саме запитування може мати різний вплив на воду залежно від місця його використання – ключова причина, чому в літературі рекомендується планування з урахуванням часу та місця [3].

3. Реалізм робочого навантаження.
   Чи відображає число середні показники виробничих потужностей , включаючи простої та накладні витрати центру обробки даних, чи лише пікову роботу прискорювача? Google наголошує на повному обліку системи (простій, процесори/DRAM та накладні витрати центру обробки даних) для висновків, а не лише на математиці TPU [1].

4. Технологія охолодження
   Випарне охолодження, рідинне охолодження із замкнутим циклом, повітряне охолодження та нові безпосередньо до мікросхеми кардинально змінюють інтенсивність використання води. Microsoft впроваджує розробки, спрямовані на усунення використання охолоджувальної води для певних об'єктів наступного покоління [4].

5. Час доби та сезон.
   Тепло, вологість та стан електромережі впливають на ефективність використання води в реальному житті; одне впливове дослідження пропонує планувати основні роботи тоді та там, де інтенсивність водопостачання нижча [3].

Пояснення щодо забору води та споживання води 💡

• Забір = вода, взята з річок, озер або водоносних горизонтів (деяка вода повертається).

• Споживання = вода, яка не повертається, оскільки вона випаровується або входить до складу процесів/продуктів.

Градирні споживають воду переважно шляхом випаровування. Виробництво електроенергії може споживати великі обсяги (іноді споживаючи її частину), залежно від установки та методу охолодження. Надійні показники кількості води, які повідомляє штучний інтелект [3].

Куди йде вода у ШІ: три відра 🪣

1. Сфера застосування 1 – охолодження на місці.
   Видима частина: вода випаровувалася в самому центрі обробки даних. Вибір конструкції, такий як випаровування проти повітряного або замкнутого рідинного циклу, встановлює базовий рівень [5].

2. Сфера 2 – виробництво електроенергії.
   Кожен кВт⋅год може містити приховану водяну мітку; суміш та місце розташування визначають сигнал літрів на кВт⋅год, який успадковує ваше робоче навантаження [3].

3. Сфера 3 – ланцюг поставок
   . Виробництво мікросхем залежить від надчистої води. Ви не побачите цього в метриці «на запит», якщо межа явно не включає втілені впливи (наприклад, повний LCA) [2][3].

Постачальники в цифрах, з нюансами 🧮

• Підказки Google Gemini.
  Метод обслуговування з повним стеком (включаючи простої та накладні витрати на об'єкт). Медіанне значення текстової підказки становить ~0,26 мл води та ~0,24 Вт·год енергії; цифри відображають виробничий трафік та комплексні межі [1].

• Життєвий цикл Mistral Large 2.
  Рідкісний незалежний аналіз життєвого циклу (з ADEME/Carbone 4) показує ~281 000 м³ для навчання + раннього використання та граничний результат ~45 мл для з 400 токенами [2].

• Амбіції Microsoft щодо безводного охолодження.
  Центри обробки даних наступного покоління розроблені таким чином, щоб не споживати воду для охолодження , спираючись на підходи безпосередньо до мікросхеми; адміністративне використання все ще потребує певної кількості води [4].

• Загальний масштаб центрів обробки даних
  Великі оператори публічно повідомляють про сотні тисяч галонів на день в середньому на окремих об'єктах; клімат та дизайн впливають на ці цифри вгору або вниз [5].

• Попередній академічний рівень.
  Базовий аналіз «спраглого штучного інтелекту» оцінював мільйони літрів для навчання моделей класу GPT, і що 10–50 середніх відповідей можуть приблизно дорівнювати об'ємом 500 мл – це сильно залежить від того, коли/де вони запускаються [3].

Чому оцінки так сильно розходяться 🤷

• Різні межі.
  Деякі цифри враховують лише охолодження на місці ; інші додають електроенергію, воду ; LCA можуть враховувати виробництво чіпсів . Яблука, апельсини та фруктовий салат [2][3].

• Різні робочі навантаження
  Короткий текстовий запит не є довгим мультимодальним/кодовим виконанням; пакетна обробка, паралельність та цільові показники затримки змінюють використання [1][2].

• Різні кліматичні умови та мережі
  Випарне охолодження в жаркому, посушливому регіоні ≠ повітряно-рідинне охолодження в прохолодному, вологому. Інтенсивність води в мережі сильно варіюється [3].

• Методології постачальників:
  Google опублікував загальносистемний метод обслуговування; Mistral опублікував офіційний LCA. Інші пропонують точкові оцінки з розрідженими методами. Гучне «одну п'ятнадцяту чайну ложку» на запит потрапило в заголовки газет, але без детальної інформації про межі це неможливо порівняти [1][3].

• Рухома ціль.
  Охолодження швидко розвивається. Microsoft проводить пілотне впровадження безводного охолодження на певних об'єктах; його впровадження зменшить споживання води на місці, навіть якщо електропостачання вище за течією все ще передає сигнал води [4].

Що ви можете зробити сьогодні, щоб зменшити водний слід штучного інтелекту 🌱

1. Оптимальний розмір моделі.
   Менші моделі, налаштовані на конкретні завдання, часто відповідають точності, споживаючи при цьому менше обчислювальних ресурсів. Оцінка Mistral підкреслює сильну кореляцію між розміром і займаною площею, а також публікує граничні показники висновків, щоб ви могли розмірковувати про компроміси [2].

2. Обирайте регіони з обережним використанням води.
   Віддавайте перевагу регіонам з прохолоднішим кліматом, ефективним охолодженням та мережами з нижчою водоємністю на кВт⋅год; робота «спрагленого штучного інтелекту» показує, що з урахуванням часу та місця допомагає [3].

3. Зміщення робочих навантажень у часі.
   Плануйте навчання/інтенсивний пакетний логічний висновок для годин, що ефективно використовують воду (прохолодніші ночі, сприятливі умови мережі) [3].

4. Зверніться до свого постачальника за прозорими показниками:
   попит на воду за запитом , визначення меж, а також те, чи включають цифри вільні потужності та накладні витрати на об'єкт. Політичні групи наполягають на обов'язковому розкритті інформації, щоб зробити можливим порівняння фактичних даних [3].

5. Технологія охолодження має значення.
   Якщо ви використовуєте обладнання, оцініть охолодження із замкнутим циклом/прямим підключенням до чіпа ; якщо ви використовуєте хмару, віддавайте перевагу регіонам/постачальникам, які інвестують у конструкції з водяним освітленням [4][5].

6. Використання сірих вод та варіантів повторного використання.
   Багато кампусів можуть замінити непитні джерела або переробляти воду в межах циклів; великі оператори описують балансування джерел води та варіантів охолодження для мінімізації чистого впливу [5].

Короткий приклад для наочності (не універсальне правило): перенесення навчальної роботи з ночівлею з спекотного, сухого регіону в середині літа до прохолоднішого, вологішого регіону навесні – та її проведення в години поза піковими навантаженнями, прохолодніші години – може змінити як споживання води на місці поза межами об'єкта (з мережі). Саме такий практичний, низькодраматичний графік може розкрити можливості [3].

Порівняльна таблиця: швидкий вибір для зниження витрат води на ШІ 🧰

(«Ціна» за своєю суттю м’яка — розгортання різняться.)

Глибоке занурення: барабанний бій політики стає все гучнішим 🥁

Інженерні органи закликають до обов'язкового розкриття інформації про енергію та воду в центрах обробки даних, щоб покупці та громади могли оцінити витрати та вигоди. Рекомендації включають визначення обсягу робіт, звітність на рівні об'єктів та рекомендації щодо розміщення, оскільки без порівняльних показників, що враховують місцезнаходження, ми сперечаємося в темряві [3].

Глибоке занурення: не всі центри обробки даних використовують дані однаково 🚰

Існує стійкий міф, що «повітряне охолодження не використовує воду». Не зовсім. Системи, що використовують багато повітря, часто потребують більше електроенергії , яка в багатьох регіонах містить приховану воду з мережі; навпаки, водяне охолодження може скоротити енергоспоживання та викиди за рахунок води на місці. Великі оператори чітко балансують ці компроміси на кожному об'єкті окремо [1][5].

Глибоке занурення: швидка перевірка реальності на вірусні твердження 🧪

Ви могли бачити сміливі твердження, що одне запитання дорівнює «пляшці води» або, з іншого боку, «лише кільком краплям». Краща постава: скромність з математикою . Сьогоднішні достовірні підставки для книг становлять ~0,26 мл для медіанного запитання на виробництво з повним обсягом обслуговування [1] та ~45 мл для відповіді помічника з 400 токенами (граничний висновок) [2]. Широко поширене «одну п'ятнадцяту чайної ложки» не має публічної межі/методу; ставтеся до нього як до прогнозу погоди без міста [1][3].

Міні-FAQ: Скільки води використовує ШІ? знову ж таки, простою англійською 🗣️

• Отже, що мені сказати на зустрічі?
  «Згідно з підказкою, кількість ковтків може варіюватися від крапель до кількох ковтків , залежно від моделі, тривалості та місця проведення. Тренування проводяться в басейнах , а не в калюжах». Потім наведіть один або два приклади вище.

• Чи є ШІ унікально поганим?
  Він унікально концентрований : потужні чіпи, упаковані разом, створюють велике навантаження на охолодження. Але центри обробки даних також є тим місцем, де найефективніші технології, як правило, першими потрапляють на поверхню [1][4].

• Що, якби ми просто перевели все на повітряне охолодження?
  Ви могли б скоротити на місці , але збільшити споживання за межами об'єкта за рахунок електроенергії. Досвідчені оператори зважують обидва [1][5].

• А як щодо майбутніх технологій?
  Конструкції, що уникають охолодження води у великих масштабах, стануть переломним моментом для Scope 1. Деякі оператори рухаються в цьому напрямку; електроенергія вище за течією все ще переносить сигнал води, поки не зміняться мережі [4].

Заключні зауваження - Занадто довго, я не читав 🌊

• На запит: уявіть собі обсяг від субмілілітра до десятків мілілітрів , залежно від моделі, довжини запиту та місця його виконання. Медіанний запит ~0,26 мл на одному основному стеку; ~45 мл для відповіді з 400 токенами на іншому [1][2].

• Навчання: мільйони літрів для передових моделей, що робить планування, розміщення та технології охолодження критично важливими [3].

• Що робити: підбирати моделі правильного розміру, вибирати регіони з урахуванням водопостачання, переносити важкі роботи на прохолодніші години, надавати перевагу постачальникам, які доводять наявність конструкцій з водяним освітленням, та вимагати прозорих меж [1][3][4][5].

Трохи хибна метафора на завершення: ШІ — це спраглий оркестр — мелодія обчислюється, але барабани охолоджуються та поливають водою. Налаштуйте гурт, і публіка все одно чутиме музику без увімкнення розбризкувачів. 🎻💦

Посилання

1. Блог Google Cloud – Скільки енергії споживає штучний інтелект Google? Ми провели розрахунки (методологія + ~0,26 мл медіанного запиту, повні накладні витрати на обслуговування). Посилання
   (Технічна робота у форматі PDF: Вимірювання впливу на навколишнє середовище надання штучного інтелекту в масштабі Google ). Посилання

2. Mistral AI – Наш внесок у глобальний екологічний стандарт для ШІ (LCA з ADEME/Carbone 4; ~281 000 м³ навчання + раннє використання; ~45 мл на відповідь із 400 токенів , граничний висновок). Посилання

3. Лі та ін. – Зменшення «спраги» ШІ: розкриття та вирішення проблеми таємного водного сліду моделей ШІ (навчання мільйонів літрів , з урахуванням часу та місця , відмова від води порівняно зі споживанням). Посилання

4. Microsoft – Центри обробки даних наступного покоління не споживають воду для охолодження (проекти з прямим підключенням до мікросхеми, спрямовані на безводне охолодження на певних об'єктах). Посилання

5. Центри обробки даних Google – Сталий підхід до роботи (компроміси в охолодженні для кожного об'єкта; звітність та повторне використання, включаючи регенеровані/сірі води; типове щоденне використання на рівні об'єкта на порядки величини). Посилання

Знайдіть найновіший штучний інтелект в офіційному магазині помічників зі штучним інтелектом

Про нас