AWS объявила о доступности ИИ-платформы Amazon Bedrock
Amazon Bedrock объявляет о доступности больших языковых моделей для пользователей AWS, что позволит предприятиям использовать базовые ИИ-модели.
Amazon Web Services объявила об доступности сервиса Bedrock, анонсированного в апреле этого года. Amazon Bedrock представляет собой управляемый сервис, предлагающий высокопроизводительные базовые модели (FM) как от Amazon, так и от ведущих провайдеров, включая AI21 Labs, Anthropic, Cohere, Meta, Stability AI. Кроме того, это широкий набор возможностей для создания клиентами собственных приложений на основе генеративного ИИ и их настройки с использованием собственных данных.
По словам Amazon, в ближайшие недели в Bedrock появится большая языковая модель (LLM) Llama 2 от Meta с 13 и 70 млрд параметров. Кроме того, в рамках недавно объявленного стратегического сотрудничества все будущие FM от Anthropic будут доступны в Amazon Bedrock с ранним доступом к уникальным функциям для кастомизации моделей и их тонкой настройки. Широкий выбор моделей, включая собственные модели Amazon Titan Embeddings, даст клиентам возможность найти нужное решение для каждого варианта применения и дообучить модель для достижения лучших результатов.
Поскольку Amazon Bedrock является бессерверным сервисом, клиентам не нужно управлять какой-либо инфраструктурой. CloudWatch поможет в отслеживании использования Bedrock и создании дашбордов, а CloudTrail — в мониторинге API и устранении проблем при интеграции с другими системами. Bedrock позволяет создавать приложения, соответствующие общему регламенту ЕС по защите данных (GDPR) или выполнять конфиденциальные рабочие нагрузки, регулируемых Законом США о переносимости и подотчетности медицинского страхования (HIPAA).
Представители компании Amazon добавляют, что многие крупные ISV (Independent Software Vendor) компании положительно отзываются о Bedrock. По их словам, теперь компаниям не нужно самим хостить LLM и искать дорогие GPU инстансы. В Bedrock — все готово и обслуживается AWS, доступно из приложения по API. Оплата производится по факту использования и количеству запросов.
При этом, данные остаются о компаний. Ни AWS, ни партнеры не используют эти данные для обучения. Сами же компании могут использовать векторную базу для обогащения результатов данными. Также доступен fine tuning модели AWS Titan на основе данных компании, который доступ только ей самой.