Уязвимости LLM-технологий в банковском секторе: обход капчи, фальшивые документы и jailbreak-атаки

В этом обзоре мы разберем последние исследования, посвященные уязвимостям LLM, и покажем: почему традиционные методы защиты от ботов (например, CAPTCHA) больше не эффективны? как злоумышленники используют нейросети для подделки документов и обхода процедур идентификации клиентов? какие уязвимости остались в «защищенных» языковых моделях? почему даже «безобидные» изображения или ASCII-арт могут взломать LLM? Статья поможет оценить риски внедрения LLM-приложений и выбрать стратегии защиты, не требующие полного переобучения больших языковых моделей.