ШІ занадто дорогий. Amazon, Uber і OpenAI почали скорочувати витрати на токени

Про це пише видання Gizmodo.

Хвиля захоплення штучним інтелектом, яка останніми роками охопила Кремнієву долину, зіткнулася з економічними обмеженнями. Останніми тижнями великі компанії були змушені визнати, що витрати на токени вийшли з-під контролю.

Читайте также: Льодовики тут ні до чого. Підвищення рівня моря прискорюється через нагрівання океанів — дослідження

Зокрема, Amazon закрила внутрішній конкурс, який заохочував співробітників використовувати якомога більше ШІ. Працівникам нагадали не застосовувати штучний інтелект лише заради самого використання. Uber, за повідомленнями, обмежила витрати співробітників на токени до 1500 доларів на місяць після того, як компанія вичерпала річний бюджет на ШІ ще на початку року.

Гендиректор OpenAI Сем Альтман також визнав під час одного з нещодавніх заходів, що використання токенів стало великою проблемою для компаній, які очікували значного зростання продуктивності після впровадження штучного інтелекту.

Ще кілька місяців тому в галузі панувала думка, що чим активніше працівники використовують ШІ, тим кращими будуть результати для них і роботодавців. Популярною стала ідея так званого«максимального використання токенів», яку пов’язували з підготовкою до майбутнього, де навички роботи зі штучним інтелектом стануть обов’язковими.

Втім, технологія завжди була дорогою, а витрати на навчання нових моделей та їхню роботу продовжують зростати. Особливо це стосується агентів ШІ — систем, які можуть виконувати завдання майже без участі людини. Одне з досліджень, опублікованих у квітні, показало, що такі агенти використовують у тисячу разів більше токенів, ніж інші системи штучного інтелекту.

Основний фінансовий тягар лягає на компанії та користувачів. Через це деякі розробники навіть почали використовувати безкоштовні чат-боти сторонніх сервісів, щоб уникнути витрат на дорогі моделі. Тим часом GitHub оголосив про нову систему оплати, за якою користувачі платитимуть залежно від кількості використаних токенів. Перші відгуки на це рішення виявилися переважно негативними.

У відповідь на проблему витрат Microsoft і Google почали просувати так звані edge-рішення. Йдеться про моделі, які працюють безпосередньо на пристрої користувача, а не в хмарних дата-центрах.

Читайте также: Золото та обсидіан. В Єгипті знайшли рідкісний похоронний інвентар часів фараонів

Повноцінні великі моделі на кшталт GPT-5 чи Claude Opus 4.8 не можуть працювати на звичайних ноутбуках через величезні потреби в обчислювальних ресурсах. Проте компанії вважають, що для більшості повсякденних завдань достатньо компактніших моделей. Це дозволяє скоротити витрати на токени та зробити використання ШІ дешевшим.

Попри це, хмарні дата-центри залишаються основою бізнесу Microsoft і Google. Однак розвиток локальних моделей свідчить про те, що компанії фактично визнають: для багатьох користувачів витрати на найпотужніші системи штучного інтелекту не виправдовують отриману користь.

Паралельно Microsoft і Google намагаються знизити занепокоєння громадськості щодо споживання води дата-центрами, яку використовують для охолодження графічних процесорів.

Під час конференції Microsoft Build генеральний директор компанії Сатья Наделла заявив, що річне споживання води новими дата-центрами Microsoft приблизно відповідає тому, скільки використовує один ресторан.

Наступного дня Google повідомила про намір до 2030 року повертати природі більше води, ніж витрачатиме на охолодження дата-центрів. Компанія також наголосила, що дата-центри у США використовують менш як 1% від обсягу води, яку американці щороку витрачають на полив газонів.

Читайте также: Без карт місцевості. Роботи зможуть працювати на невідомих об’єктах завдяки новій технології lidar