Amazon объявляет конкурс по безопасным инновациям в области генеративного ИИ
![Amazon объявляет конкурс по безопасным инновациям в области генеративного ИИ](/content/images/size/w2000/2024/07/---------517-.png)
Компания Amazon объявила о проведении Amazon Trusted AI Challenge – глобального университетского конкурса, призванного стимулировать безопасные инновации в области технологий генеративного ИИ. В этом году конкурс посвящен ответственному ИИ и, в частности, безопасности кодирования больших языковых моделей (LLM).
Студенты университетов будут соревноваться в турнире в качестве команд разработчиков моделей или “красных команд”, чтобы улучшить пользовательский опыт ИИ, предотвратить злоупотребления и дать пользователям возможность создавать более безопасный код. Команды разработчиков моделей будут встраивать функции безопасности в модели, генерирующие код, а "красные" команды будут разрабатывать автоматизированные методы тестирования этих моделей. Каждый раунд позволит командам доработать свои модели и методы на основе многоразового взаимодействия, выявляя сильные и слабые стороны.
Amazon отберет до 10 команд для участия в конкурсе, который начнется в ноябре 2024 года и продлится до конца учебного года. Каждая из 10 отобранных команд получит спонсорскую поддержку в размере $250 000, а команды-победители смогут выиграть еще $700 000 в качестве денежного приза.
Более подробную информацию о конкурсе, включая правила и структуру турнира, можно найти на странице Amazon Trusted AI Challenge.