Google попереджає про нову фазу зловживання штучним інтелектом — кіберзлочинці почали використовувати великі мовні моделі для створення та самостійного переписування шкідливого програмного забезпечення.

У своєму звіті Google зазначає, що вперше зафіксовано зразок коду, який використовує можливості ШІ під час виконання, змінюючи власну поведінку, щоб уникнути виявлення. Це, за словами компанії, ознака початку “нової операційної фази зловживання AI”. Про це пише PC Gamer.

Malware, що “мислить”: експериментальний зразок Promptflux

Одним із прикладів нового типу загроз став Promptflux — шкідливе ПЗ, яке під час роботи звертається до моделі Gemini, аби переписати власний вихідний код і зберегти нову, “заплутану” версію у системних папках.

Цей механізм дозволяє шкідливому коду еволюціонувати та ставати складнішим для виявлення. На щастя, наразі Promptflux перебуває на експериментальній стадії й не використовується у реальних атаках, проте його поява викликає серйозне занепокоєння серед експертів із безпеки.

Інші виявлені випадки “AI-зловживання”

Google також повідомила про чотири нові зразки шкідливих програм, що використовують великі мовні моделі у своїй роботі:

• Fruitshell — встановлює віддалене з’єднання, що дозволяє виконувати довільні команди на зараженому пристрої, обходячи LLM-захист.
• Promptlock — генерує шкідливі скрипти для викрадення даних або шифрування файлів, має експериментальний статус.
• Promptsteal — використовує API мовних моделей для створення команд, які збирають і викрадають конфіденційні дані.
• Quietvault — краде паролі та інші облікові дані, зберігаючи їх у відкритих сховищах, наприклад, GitHub.

Ці приклади демонструють, що штучний інтелект дедалі частіше стає інструментом не лише для розробників, а й для зловмисників.

“AI проти AI”: як Google реагує на загрозу

У компанії запевняють, що завдяки роботі підрозділу DeepMind уже вжито заходів для посилення безпеки: моделі Google отримали оновлені класифікатори, які мають відмовляти у виконанні шкідливих запитів і блокувати подібні сценарії.

Источник: double.news