За даними видання Financial Times, користувачі Grok почали створювати та поширювати зображення Асато у січні. Вона стверджує, що за допомогою ШІ були згенеровані її зображення в бікіні, а також відверте відео, де показано підготовку до сексуального насильства. Після цього користувачі продовжили поширювати, обговорювати та створювати нові зображення на платформі X, яка належить xAI.

Справа може стати першим гучним судовим тестом у Великій Британії щодо відповідальності компаній за контент, який користувачі генерують за допомогою їхніх ШІ-інструментів.

У позові депутатка заявляє, що компанія порушила законодавство щодо захисту персональних даних і неправомірного використання приватної інформації. На її думку, це може зробити xAI відповідальною, хоча безпосередньо контент створювали користувачі сервісу.

Асато вимагає фінансової компенсації та судового рішення, яке зобов’яже компанію дотримуватися британського законодавства. Вона заявила, що сподівається посилити захист прав людей від великих технологічних компаній, які, на її думку, мали впровадити запобіжники до того, як їхні інструменти завдали шкоди жінкам і дітям.

У січні xAI повідомила про запровадження обмежень на створення Grok відвертих зображень. Однак під час перевірок ці обмеження виявилися відносно простими для обходу.

Можливість Grok створювати дипфейки без згоди людей вже привернула увагу регуляторів. Наразі діяльність xAI розслідують у Європейському Союзі, Великій Британії та штаті Каліфорнія. Окрім цього, проти xAI або X подали позови влада міста Юалтимор, група підлітків та Ashley St. Clair.

Усе це відбувається на тлі підготовки SpaceX, яка нещодавно стала власником xAI та X, до виходу на біржу. Автори матеріалу зазначають, що поки складно оцінити, чи вплинуть судові позови та розслідування на ці плани, однак подальші зміни в роботі Grok, ймовірно, залежатимуть від регуляторів або судових рішень.