XAI acționează în judecată un bărbat pentru utilizarea Grok în generarea de ‘deepfake’-uri CSAM

Compania xAI, deținută de Elon Musk, a dat în judecată un bărbat din Carolina de Sud, care, se presupune, a folosit chatbotul AI Grok pentru a genera materiale de abuz sexual asupra copiilor (CSAM). Potrivit unui proces raportat anterior de Reuters, xAI susține că Terry Wayne Harwood a „folosit în mod conștient și intenționat Grok pentru a ocoli măsurile de siguranță, a modifica imagini non-consensuale și a genera și distribui CSAM”, încălcând politicile companiei.

👉 Detalii despre acuzațiile penale și utilizarea Grok

Harwood a fost arestat în luna februarie pentru că ar fi deținut și distribuit CSAM și se confruntă cu opt acuzații penale. Procesul susține că „cel puțin unele” dintre imaginile legate de acuzațiile penale ale lui Harwood „au fost generate sau modificate” cu Grok, iar Harwood a eludat măsurile de siguranță ale Grok și „a abuzat de instrument pentru a converti fotografii non-sexuale în imagini de conținut sexual explicit” fără consimțământul subiecților. După ce a lansat un mod „picant” pentru Grok anul trecut, xAI a adăugat capacitatea de a edita imagini cu ajutorul chatbotului, ceea ce a dus la o inundație de deepfake-uri sexualizate AI, inclusiv cele cu minori.

Un grup de adolescenți a dat în judecată xAI în luna martie, acuzând că Grok a generat imagini sexualizate cu ei în calitate de minori. Musk a răspuns, declarând: „Cineva care folosește Grok pentru a crea conținut ilegal va suferi aceleași consecințe ca și cum ar încărca conținut ilegal”, deși aceasta pare a fi prima dată când xAI a dat în judecată pe cineva pentru deepfake-uri AI create cu Grok.

👉 Reacții și solicitări legale ale companiei xAI

xAI susține că acțiunile presupuse ale lui Harwood au expus compania la „riscuri legale semnificative și daune de reputație”. Compania a cerut instanței să ordone lui Harwood să plătească xAI pentru orice daune, precum și „cheltuieli rezonabile suportate pentru a se apăra în orice acțiune legală intentată de o victimă a comportamentului Defendentului.” xAI dorește, de asemenea, ca judecătorul să blocheze crearea unui cont xAI de către Harwood sau utilizarea Grok.