R.life со ссылкой на SM-News, передает со слов ИТ специалиста по безопасности, как он смог взломать с помощью созданного универсального джейлбрейка модель, используя которую, злоумышленники могли бы получить доступ ко всякого рода информации и, соответсвенно, совершали бы кибератаки.
Так, как отмечает Wired, представив свою новоразрабтанную модель GPT-4, компания Open AI, была с самого начала обеспокоена тем, что у данной нейросетевой программы слабая защищённостью над которой так долго работали ее сотрудники, обрабатывая данные. Однако, за несколько часов система безопасности данной языковой модели нейросети была взломана специалистом по безопасности ИТ Алексом Поляковым. Он, создав своеобразную технику обхода программ безопасности, и взломав сеть, обойдя такие языковые модели как Claude , Bard, Bing, смог взломать и GPT-4.
При этом, специалисты так же отметили, что такая простота взлома данных моделей, может нести реальную угрозу увеличения количества кибератак и легкого доступа к данным пользователей.