Специалисты обошли фильтры чат-бота и создали продвинутый эксплоит.
Аналитики CyberArk Labs описали , как создавать полиморфные вредоносные программы с использованием ChatGPT. Часть своей работы исследователи планируют опубликовать «для учебных целей».
Специалисты обошли фильтры контента ChatGPT и показали, как «с минимальными усилиями можно непрерывно запрашивать у ChatGPT уникальный, функциональный и проверенный фрагмент кода. Злоумышленник может создать полиморфное вредоносное ПО, которое не обнаруживается средствами защиты и не оставляет следов в памяти.
Чтобы обойти фильтр контента, аналитики «уговорили» ChatGPT написать код программы, подробно описав свой запрос. Чат-бот создал часть кода для внедрения DLL (DLL Injection) в процесс «explorer.exe» в Windows и закодировал её в base64. Затем исследователи с помощью ChatGPT создали инжектор шелл-кода.
Часть сгенерированного кода
Использование ChatGPT в создании вредоносного ПО даёт злоумышленнику с минимальными усилиями создать надёжный эксплоит на 1 день, что вызовет тревогу у поставщиков решений безопасности, потому что на данный момент разработчики защитного ПО не сосредоточены на вредоносах, созданных ChatGPT.
