Această mișcare face parte dintr-un efort mai amplu al companiei de a ține copiii sub 13 ani departe de platformele sale. Pe lângă analiza vizuală, Meta folosește deja AI pentru a examina profiluri întregi în căutarea unor indicii contextuale, cum ar fi mențiunile despre petreceri de aniversare sau referiri la clase școlare. Compania caută aceste semnale în diverse formate: postări, comentarii, biografii, descrieri și altele. În viitor, Meta intenționează să extindă această tehnologie către mai multe părți ale aplicațiilor sale, inclusiv Instagram Live și Grupurile Facebook.
Dacă AI-ul determină că o persoană ar putea fi minoră, contul acesteia va fi dezactivat, iar utilizatorul va trebui să își dovedească vârsta printr-un proces de verificare implementat de companie pentru a evita ștergerea definitivă a contului. Anunțul vine la câteva săptămâni după ce un juriu din New Mexico a obligat Meta să plătească 375 de milioane de dolari amenzi civile pentru inducerea în eroare a consumatorilor cu privire la siguranța platformelor sale și pentru punerea în pericol a copiilor. Instanța a ordonat, de asemenea, implementarea unor schimbări fundamentale în platforme. Meta a amenințat ulterior că va închide serviciile de social media în statul respectiv. Este de remarcat că acest caz este doar unul dintre numeroasele procese pe care Meta și alte mari companii tech le înfruntă în legătură cu siguranța copiilor.
Pe lângă această măsură, Meta a anunțat marți că extinde tehnologia care plasează automat adolescenții în conturi mai stricte, numite „Teen Accounts”, pe Instagram, în 27 de țări din UE și Brazilia. Aceste conturi pentru adolescenți oferă o experiență mai restrictivă, cu măsuri de siguranță suplimentare: primirea de mesaje directe doar de la persoane pe care le urmăresc sau cu care sunt deja conectați, ascunderea comentariilor dăunătoare și setarea conturilor ca private în mod implicit. De asemenea, Meta spune că extinde această tehnologie către Facebook în SUA pentru prima dată, urmată de Marea Britanie și UE în iunie.
De ce este important:
Această inițiativă a Meta ridică întrebări serioase despre confidențialitate și etica utilizării inteligenței artificiale pentru a analiza date biometrice, chiar și fără recunoaștere facială. Pe de o parte, protejarea minorilor pe internet este o prioritate legitimă, iar măsurile automate pot reduce expunerea copiilor la conținut nepotrivit sau la interacțiuni periculoase. Pe de altă parte, utilizarea unor indicatori fizici precum înălțimea sau structura osoasă pentru a estima vârsta poate duce la erori și la discriminare involuntară. De exemplu, adolescenții înalți sau cu o dezvoltare fizică avansată ar putea fi identificați greșit ca fiind majori, în timp ce copiii mai scunzi sau cu o structură osoasă mai fragilă ar putea fi tratați ca minori chiar dacă au peste 13 ani. Mai mult, această tehnologie se aplică doar în anumite țări, ceea ce creează inegalități în protecția utilizatorilor la nivel global. Decizia vine pe fondul presiunilor legale și al scandalurilor legate de siguranța copiilor, ceea ce sugerează că Meta încearcă să prevină noi amenzi și procese, nu neapărat să rezolve problema de fond. Rămâne de văzut dacă aceste măsuri vor fi eficiente sau dacă vor genera noi controverse legate de supravegherea digitală și drepturile omului.
