Көрүлдү: 2790
АКШнын Нью-Йорк шаарында жайгашкан Колумбия университетинин бүтүрүүчүсү Алтынбек Исмаилов менен АКШнын Калифорния штатындагы Беркли шаарында жайгашкан Калифорния университетинин бүтүрүүчүсү Салия Асанова Anthropic компаниясы тарабынан уюштурулган AI Hack Challenge эл аралык конкурсунун жеңүүчүлөрүнүн катарына киришти. Баг-баунти программасынын алкагында катышуучулар Claude 3.5 Sonnet AI-моделинин коргоо механизмдерин кыйгап өтүүгө аракеттеништи, ал эми иштеп чыгуучулар системанын туруктуулугун тесттен өткөрүштү.
А. Исмаилов менен С. Асанова бузуунун универсалдуу методун биринчилерден болуп колдонуп, башкы байгени алышты. Жалпысынан уюштуруучулар катышуучуларга коргоону ийгиликтүү ашып өткөндүгү үчүн 55 000 доллар төлөп беришти.
Конкурс системанын алсыз жерлерин айкындоого мүмкүндүк берди, ал эми анын жыйынтыктары иштеп чыгуучуларга жасалма интеллекттин коопсуздугун жакшыртууга жардам берет.
Конкурс эки этапта өткөрүлгөн. Негизги этапта абдан катаал болуп саналган жана кээде зыянсыз суроо-талаптарды блоктоп койгон коргоо системасынын алгачкы версиясы тесттен өткөрүлгөн. Финалдык этапта классификаторлордун жаңыланган версиясы жалган баш тартуулардын санын азайтып, системаны бир кыйла майнаптуу кылган.
Белгилей кетсек, Салия Асанова "Эл үмүтү" президенттик стипендиясынын ээси болуп саналат.