У Fortnite з’явився Дарт Вейдер з можливістю живого спілкування, і це миттєво стало проблемою. Нового NPC забезпечили голосом та інтелектом, він реагує на гравців за допомогою ШІ від Google, а озвучка побудована на базі записів Джеймса Ерла Джонса, оригінального голосу ситха.

Вейдер вміє підтримувати розмову через текст або голосовий чат, інтерпретуючи фрази гравців і видаючи відповіді тим самим голосом. Це реалізовано за допомогою моделі Gemini, але, як виявилося, ні модель, ні розробники не були готові до типових для геймерського середовища провокацій.

Уже через півтори години після виходу оновлення Вейдер почав лаятися, а трохи пізніше — повторювати гомофобні образи, які активуються специфічними запитаннями.

Користувачі навчили ШІ використовувати ненормативну лексику й обходити базові фільтри модерації за допомогою сленгу та натяків.

Epic Games того ж дня випустила хотфікс і пообіцяла, що подібних інцидентів не повториться. Дарту Вейдеру заборонили обговорювати сексуальні теми, насильство над дітьми, донат у грі, а також вимовляти цілий список матюків. Крім того, були згадані батьківські налаштування, які дають змогу обмежити можливість взаємодії з ШІ-персонажем.

Источник: unian.ua