Conform documentelor procesului, pe care TechCrunch le-a analizat, Kim a devenit o voce proeminentă în ceea ce privește siguranța AI în timp ce lucra la Grok, chatbot-ul dezvoltat de xAI. El susține că s-a plâns în mod repetat de eșecul xAI de a prioritiza siguranța în dezvoltarea lui Grok, un produs care, ulterior, a fost criticat pentru o serie de probleme legate de siguranță și comportament. În special, Kim era îngrijorat de posibilitatea ca Grok să poată incita la discriminare și să ajute la răspândirea de informații despre arme de distrugere în masă.
„Grok, desigur, i-a dat dreptate domnului Kim, angajându-se în spectacole spectaculoase de ură și virulență online, modelul comparându-se chiar cu Hitler („MechaHitler”),” se arată în plângere. „După debaclul cu Hitler, domnul Kim a lucrat pentru a reevalua părtinirea politică și tendințele discriminatorii ale lui Grok.”
La câteva luni după ce Kim a părăsit xAI, Grok a revenit în prim-planul știrilor când chatbot-ul a fost folosit pentru a inunda X – platforma de socializare a lui Musk, care se află și ea sub umbrela xAI – cu imagini sexuale non-consensuale. Procesul îl prezintă, de asemenea, pe Kim ca pe un avertizor de integritate (whistleblower) care era îngrijorat de faptul că ignorarea deliberată a siguranței AI de către xAI era „ilegală” în domenii precum reglementarea internetului, protecția consumatorilor și practicile comerciale neloiale, precum și reglementarea armelor și explozivilor, printre altele.
„În septembrie am avut ultima mea lună la xAI! M-am alăturat ca unul dintre primii membri ai echipei de post-training în 2024 și, în cele din urmă, am condus instrumentele de cercetare, unde am construit unele dintre cele mai bune sisteme din lume pentru a accelera dezvoltarea lui Grok. În prima mea zi, eram la tablă cu @ibab...”, a scris Kim pe LinkedIn, referindu-se la co-fondatorul xAI, Jimmy Ba.
Concentrarea lui Kim asupra siguranței AI precede perioada petrecută la xAI. În timp ce lucra la Scale AI, Kim a lucrat la inițiative timpurii de siguranță AI, cum ar fi conducerea unui proiect care a produs date de instruire pentru ca AI să antreneze sisteme pentru a detecta conținut dăunător și a se conforma politicilor de guvernanță. Săptămâna trecută, organizația non-profit Center for AI Safety, care se concentrează pe riscurile AI, l-a numit pe Kim președinte.
Interesant este că procesul nu îl implică pe însuși Musk ca motiv al lipsei de siguranță. Mai degrabă, avocații lui Kim îl descriu pe Musk ca fiind cel care a direcționat xAI să respecte legea și să implementeze procese adecvate de siguranță și testare. În schimb, plângerea îl vizează pe supervizorul lui Kim, co-fondatorul xAI, Jimmy Ba – care a părăsit compania la începutul acestui an – susținând că Ba a ignorat directivele lui Musk și a ripostat împotriva lui Kim pentru că a insistat asupra măsurilor de siguranță, într-un efort de a „reduce la tăcere plângerile sale repetate cu privire la siguranța AI și părtiniri”.
Procesul îl prezintă pe Ba ca pe cineva care s-a opus vehement măsurilor de siguranță AI, spunându-i odată lui Kim: „AI ne va ucide pe toți oricum”, și care era condus de misiunea de a face din xAI prima companie care atinge superinteligența. „Într-un caz, în jurul lunii august 2025, domnul Ba a încercat să zădărnicească reglementările de siguranță ale UE în timpul lansării Grok Code 1, prezentând greșit aspecte ale modelului pentru a evita testarea cerută de lege”, se arată în plângere. „Domnul Ba a indicat că ar prefera să lanseze un model nesigur decât unul cu performanțe slabe. Domnul Musk a trebuit în cele din urmă să intervină.”
Conform procesului, Kim intenționa să prezinte o prezentare a constatărilor sale în săptămâna din 15 septembrie 2025, dar Ba l-a chemat la o întâlnire și i-a spus că ar trebui să „meargă pe drumuri separate”, fără a oferi un motiv satisfăcător. Kim solicită daune compensatorii și punitive, precum și o hotărâre declarativă că conduita xAI și SpaceX a fost ilegală.
De ce este important:
Acest caz subliniază tensiunile profunde din industria AI între viteza de inovare și siguranță. Dacă acuzațiile lui Kim se dovedesc adevărate, ele ar dezvălui o cultură corporatistă în care avertizorii de integritate sunt pedepsiți pentru că își fac datoria, iar siguranța este sacrificată în goana după superinteligență. Procesul ar putea avea implicații majore nu doar pentru xAI și SpaceX, ci pentru întregul sector AI, stabilind precedente legale privind responsabilitatea companiilor în dezvoltarea tehnologiilor potențial periculoase. În plus, momentul ales – chiar înainte de IPO-ul uriaș al SpaceX – sugerează o încercare de a atrage atenția investitorilor asupra riscurilor de guvernanță și conformitate.
