Amazon объявляет конкурс по безопасным инновациям в области генеративного ИИ

Компания Amazon объявила о проведении Amazon Trusted AI Challenge – глобального университетского конкурса, призванного стимулировать безопасные инновации в области технологий генеративного ИИ. В этом году конкурс посвящен ответственному ИИ и, в частности, безопасности кодирования больших языковых моделей (LLM).

"Цель Amazon Trusted AI Challenge – увидеть, как инновационные идеи студентов помогут сформировать будущее, в котором генеративный ИИ будет последовательно развиваться таким образом, чтобы поддерживать доверие, а также продемонстрировать эффективные методы защиты LLM от злоупотреблений для повышения их безопасности", – сказал Рохит Прасад, старший вице-президент и главный научный сотрудник Amazon AGI.

Студенты университетов будут соревноваться в турнире в качестве команд разработчиков моделей или “красных команд”, чтобы улучшить пользовательский опыт ИИ, предотвратить злоупотребления и дать пользователям возможность создавать более безопасный код. Команды разработчиков моделей будут встраивать функции безопасности в модели, генерирующие код, а "красные" команды будут разрабатывать автоматизированные методы тестирования этих моделей. Каждый раунд позволит командам доработать свои модели и методы на основе многоразового взаимодействия, выявляя сильные и слабые стороны.

Amazon отберет до 10 команд для участия в конкурсе, который начнется в ноябре 2024 года и продлится до конца учебного года. Каждая из 10 отобранных команд получит спонсорскую поддержку в размере $250 000, а команды-победители смогут выиграть еще $700 000 в качестве денежного приза.

Более подробную информацию о конкурсе, включая правила и структуру турнира, можно найти на странице Amazon Trusted AI Challenge.