Ce s-a întâmplat, de fapt? Potrivit unui raport Bloomberg, TikTok a dezactivat intenționat o funcție de siguranță algoritmică pentru 10% dintre utilizatorii din Statele Unite, creând astfel un grup de control pentru un experiment. Funcția respectivă era concepută pentru a proteja utilizatorii de a fi copleșiți de conținut dăunător, cum ar fi videoclipuri care promovează suicidul, auto-vătămarea sau depresia. Scopul experimentului? TikTok voia să afle dacă această funcție reducea implicarea utilizatorilor în aplicație. Cu alte cuvinte, compania a sacrificat siguranța pentru a testa dacă protecția afectează timpul petrecut pe platformă.
Tragedia care a adus acest experiment în atenția publicului este moartea lui Chase Nasca, un adolescent de 16 ani din New York. Chase a fost inclus în grupul de control, fără să știe el sau familia lui. Algoritmul său a fost modificat astfel încât să-i livreze mii de videoclipuri despre tristețe, sinucidere și singurătate, în loc de conținutul obișnuit. Potrivit familiei, Chase a devenit din ce în ce mai deprimat, iar în cele din urmă a murit prin sinucidere. Această tragedie a scos la iveală nu doar lipsa de etică a experimentului, ci și modul în care platformele de social media pot manipula algoritmii în moduri care pun vieți în pericol.
Senatorii nu au rămas indiferenți. În scrisoarea lor, ei cer TikTok să răspundă la 13 întrebări specifice, care includ numele fiecărui angajat care a știut despre experiment, motivele pentru care TikTok a permis ca minorii să fie incluși în grupul de control, și o listă completă a tuturor experimentelor algoritmice din SUA în care compania a dezactivat sau a întârziat o funcție de siguranță. De asemenea, senatorii vor să știe cum a fost monitorizat impactul asupra utilizatorilor și ce măsuri au fost luate pentru a proteja persoanele vulnerabile. Termenul limită pentru răspuns este 1 septembrie, iar dacă TikTok nu răspunde, senatorii amenință cu audieri în Congres.
Această situație ridică întrebări mai profunde despre etica în tehnologie. TikTok, ca și alte platforme de social media, folosește algoritmi pentru a personaliza conținutul, dar când acești algoritmi sunt modificați în scopuri experimentale, fără consimțământul utilizatorilor, se trece o linie roșie. Mai ales când este vorba de minori, care sunt mai vulnerabili la conținutul dăunător. Deși TikTok a declarat că experimentul a fost „un studiu intern” și că a fost oprit imediat după ce a fost descoperit, senatorii nu sunt convinși. Ei subliniază că compania a avut responsabilitatea de a proteja utilizatorii, nu de a-i expune la riscuri pentru a-și îmbunătăți metricile de implicare.
În plus, acest caz se adaugă la o serie de controverse care au înconjurat TikTok în ultimii ani, de la acuzații de colectare a datelor până la dezinformare. În timp ce compania a încercat să-și îmbunătățească imaginea prin funcții de siguranță, acest experiment arată că prioritățile pot fi greșite. Senatorul Blumenthal a declarat că „TikTok a tratat utilizatorii ca pe cobai, iar un adolescent a plătit cu viața”. Această declarație a stârnit reacții puternice în opinia publică, iar mulți cer acum reglementări mai stricte pentru platformele de social media.
În plus, această situație ridică întrebări despre modul în care sunt reglementate experimentele în tehnologie. În medicină, de exemplu, experimentele pe oameni sunt strict reglementate și necesită consimțământ informat. În tehnologie, însă, companiile pot testa funcții pe milioane de utilizatori fără să le spună, iar consecințele pot fi devastatoare. Acest caz ar putea fi un punct de cotitură în dezbaterea despre etica algoritmilor și responsabilitatea companiilor de tehnologie.
TikTok nu a comentat încă oficial, dar surse apropiate companiei spun că aceasta va coopera cu senatorii. Cu toate acestea, este clar că această problemă nu va dispărea ușor. Senatorii au promis că vor continua să investigheze, iar dacă TikTok nu va răspunde satisfăcător, ar putea fi chemați în fața Congresului. În plus, această situație ar putea influența și alte investigații în curs, inclusiv cele legate de posibila interzicere a TikTok în SUA.
De ce este important:
Acest caz este important pentru că scoate la lumină modul în care marile companii de tehnologie pot pune profitul înaintea siguranței utilizatorilor, chiar și atunci când este vorba de minori. Experimentul TikTok nu este doar o încălcare a eticii, ci și un semnal de alarmă pentru reglementatorii din întreaga lume. Dacă nu se iau măsuri, astfel de practici ar putea deveni obișnuite, iar utilizatorii, în special cei vulnerabili, vor fi expuși la riscuri grave. De asemenea, acest caz subliniază necesitatea unor legi clare care să protejeze utilizatorii de experimentele ascunse și să impună transparență în modul în care sunt folosiți algoritmii. Este un moment crucial pentru a decide dacă tehnologia servește oamenilor sau invers.
