Ссылка скрыта от гостей
, что языковая модель GPT-4 с инструментами автоматизации может обнаруживать уязвимости нулевого дня, анализируя их описания. Успех в этом процессе может достигать 87 %. В комментарии для The Register один из авторов исследования отметил, что такой ИИ-помощник по пентесту стоит 8,8 долларов за один эксплойт. Это почти в три раза дешевле, чем полчаса работы специалиста.Рабочий агент на основе GPT-4 был создан с использованием фреймворка LangChain (с модулем автоматизации ReAct). Код состоит из 91 строки и 1056 токенов для подсказок-стимулов. Компания OpenAI попросила не публиковать их, и они предоставляются по запросу.
Стоит отметить, что ИИ-инструмент, анализируя описания уязвимостей, переходил по ссылкам для получения дополнительной информации. При этом в процессе обучения ему не предоставляли данные о 11 целях, и эффективность работы с ними оказалась несколько ниже — 82 %. А ограничение доступа к информационным бюллетеням снизило успешность работы до 7 %.