Казахстанские компании чаще используют облачные серверы с GPU


Согласно отчету компании Grand View Research, объем мирового рынка облачного ИИ к 2030 году достигнет 647,6 млрд долларов с темпом роста 39,6% в период с 2023 по 2030 год. Ключевыми факторами роста эксперты называют спрос на интеллектуальные виртуальные помощники, внедрение ИИ для повышения качества обслуживания клиентов и рост объема больших данных. 

Рынок Казахстана не отстает от мировых тенденций. Государственные структуры активно развивают электронное правительство (Egov), цифровой банк Kaspi работает над проектами, которые связаны с рекомендательными системами и биометрией, на рынке появляются стартапы, например, GoatChat.ai, в рамках которого предприниматели создают ИИ-приложение на основе GPT-4. Все эти процессы были бы невозможны без мощных и масштабируемых вычислительных ресурсов. 

Еще пять лет назад Казахстанские компании в основном работали на базе стандартных серверов с CPU, которые обрабатывали данные последовательно. Однако когда появилась необходимость в сложной аналитике, обучении нейросетей и внедрении машинного зрения, производительности центральных процессоров стало не хватать.

«Изначально GPU использовали для создания графики, но позднее их возможность к параллельной обработке данных позволила ритейлерам, разработчикам, ученым быстрее работать с массивами сырых неструктурированных данных. Но возникла проблема — высокая стоимость оборудования. Графический ускоритель может стоить 5 млн тенге, из-за чего не каждая компания готова вкладываться в его приобретение и обслуживание», — поделился Денис Щепин, генеральный директор ITGLOBAL.COM в Казахстане. 

 Помимо высокой стоимости, вендоры ежегодно выпускают на рынок новые модели GPU, которые превосходят своих предшественников по производительности. Поэтому дорогостоящая покупка может уже через год стать устаревшим аппаратным обеспечением, которое не сможет удовлетворить растущие потребности бизнеса.

«Сейчас вычисления на GPU стали доступнее благодаря облачным технологиям. Увидев потребность на рынке РК, провайдеры стали предлагать клиентам AI Cloud — это облачный сервис, который развернут на базе серверов с графическими ускорителями. Компании не несут никаких капитальных затрат, но могут пользоваться всеми преимуществами графических ускорителей для автоматизации и оптимизации вычислительных процессов», — отметил Денис Щепин, генеральный директор ITGLOBAL.COM в Казахстане. 

Также Денис Щепин подчеркнул, что использование AI и облачных сервисов с GPU значительно снижает порог входа на рынок для заинтересованных компаний и, согласно закону перехода количественных изменений в качественные, существенно повышается шанс на создание действительно важных технологий в области применения ИИ.

GPU Cloud Compute — это вид публичного облака на базе VMware, где виртуальные машины работают с графическими ускорителями NVIDIA A800, тензорными ядрами и 80 GB оперативной памяти. Заказчики оплачивают сервис по модели Pay-as-you-go, то есть только за те ресурсы, которые выданы ВМ.