Amazon генеративті AI-да қауіпсіз инновациялар үшін конкурс жариялайды
Amazon компаниясы генеративті AI технологияларындағы қауіпсіз инновацияларды ынталандыруға арналған Amazon Trusted AI Challenge жаһандық университет байқауын жариялады. Биылғы байқау жауапты AI-ға және, атап айтқанда, үлкен тіл үлгілерін (LLM) кодтау қауіпсіздігіне бағытталған.
“Amazon Trusted AI Challenge байқауының негізгі мақсаты – студенттердің инновациялық идеялары арқылы болашаққа қадам жасау. Яғни, олар генеративті AI арқылы сенімділікті сақтайтын және LLM-ді теріс пайдаланудан қорғаудың тиімді әдістерін ойлап табады”, - деді вице-президент әрі Amazon AGI бас ғылыми қызметкері Рохит Прасад.
Университет студенттері AI пайдаланушы тәжірибесін жақсарту үшін,2 топқа бөлінеді. Турнир модельдеушілер немесе «қызыл командалар» болып жарысады. Модельдеу топтары код жасаушы үлгілерге қауіпсіздік мүмкіндіктерін құрастырады, ал қызыл топтар сол үлгілерді сынаудың автоматтандырылған әдістерін әзірлейді.
Әрбір раунд командаларға артылықшылығымен кемшіліктерін анықтай отырып, үлгілері мен әдістерін жетілдіруге мүмкіндік береді.
Amazon 2024 жылдың қарашасынан басталып, оқу жылының соңына дейін өтетін жарысқа қатысу үшін 10 командаға дейін таңдайды. Таңдалған 10 команданың әрқайсысы демеушілік ретінде $250,000 алады, ал жеңімпаз командалар қосымша $700,000 ақшалай сыйлық ұтып алуға мүмкіндіктері бар.