OpenAI повідомила про більш ніж двадцять кібератак, створених за допомогою їхньої генеративної моделі штучного інтелекту ChatGPT. У звіті підтверджується, що ШІ використовувався для цільових фішингових атак, розробки та налагодження шкідливого ПЗ, а також інших зловмисних дій.

Що відомо

Першу з двох підтверджених атак було зареєстровано аналітиками Cisco Talos у листопаді 2024 року. Китайські хакери використовували ChatGPT для проведення фішингової кампанії під назвою SweetSpecter. Атака включала відправку ZIP-файлу зі шкідливим вмістом; при його завантаженні та відкритті на системі користувача запускався ланцюжок дій для зараження системи. OpenAI виявила, що «SweetSpecter» був створений за допомогою декількох облікових записів, що використовують ChatGPT для розробки скриптів та виявлення вразливостей за допомогою інструментів на основі великих мовних моделей.

Друга кібератака з використанням ШІ була проведена іранським угрупуванням під назвою « CyberAv3ngers ». Хакери використовували ChatGPT для експлуатації вразливостей та крадіжки паролів користувачів з комп’ютерів на базі MacOS. Третя атака, очолювана іншою іранською «Storm-0817», була спрямована на розробку шкідливого програмного забезпечення для Android за допомогою ChatGPT. Їх вірус збирав списки контактів, витягував журнали дзвінків та історію браузера, отримував точне розташування пристрою та мав доступ до файлів на заражених пристроях.

Хоча всі ці атаки використовували існуючі методи розробки шкідливого ПЗ, у звіті зазначається, що немає вказівок на те, що ChatGPT створив нові програми. Тим не менш, ці випадки демонструють, наскільки легко зловмисники можуть обдурити генеративні сервіси ШІ для створення інструментів для атак.

OpenAI заявила, що продовжить удосконалювати свій ШІ, щоб запобігти використанню подібних методів. В даний час компанія працює з внутрішніми командами з безпеки та обіцяє продовжувати ділитися своїми висновками з колегами з індустрії та дослідницькою спільнотою, щоб запобігти повторенню подібних ситуацій.

Компанія також наголосила на важливості того, щоб інші великі гравці з власними платформами генеративного ШІ впроваджували заходи захисту для запобігання подібним атакам. Усвідомлюючи складність запобігання таким інцидентам, компанії мають впроваджувати превентивні заходи, а не усувати наслідки після факту.

Источник: itechua.com