Meta spune că a construit un sistem AI dedicat pentru a identifica conversațiile în care un adolescent face o referire clară la rănirea sa. „Înțelegem cât de tulburătoare pot fi aceste alerte pentru un părinte care le primește”, a scris Meta într-o postare pe blog. „De aceea, pe măsură ce continuăm să ne îmbunătățim detectarea, toate conversațiile semnalate de AI vor fi revizuite manual înainte de a fi trimisă o alertă. Dacă intenția unui adolescent este ambiguă, vom opta pentru precauție și vom alerta părintele. Deși asta înseamnă că uneori putem notifica părinții atunci când poate nu există un motiv real de îngrijorare, considerăm că acesta este punctul de plecare corect și vom continua să monitorizăm pentru a ne asigura că suntem pe drumul cel bun.”
Aceste alerte sunt acum active pentru părinții care folosesc funcția de Supraveghere Parentală pe Instagram în SUA, Marea Britanie, Australia și Canada, iar până la sfârșitul anului vor fi extinse la nivel global, potrivit Meta. Această actualizare se bazează pe alertele pe care Meta le trimite deja părinților atunci când adolescentul lor caută în mod repetat termeni legați de sinucidere sau automutilare pe Instagram. De asemenea, se bazează pe o funcție care le permite părinților să vadă subiectele pe care adolescentul le-a discutat cu Meta AI în ultima săptămână.
Meta a anunțat, de asemenea, că setarea „Conținut limitat” – care le permite părinților să plaseze adolescenții într-o experiență mai restrictivă pe Instagram – se aplică acum și pentru Meta AI. Chatbot-ul Meta AI este deja antrenat să evite conversațiile sexuale sau romantice, precum și discuțiile legate de alcool cu adolescenții, iar setarea „Conținut limitat” extinde aceste măsuri de siguranță, făcând chatbot-ul să refuze o gamă mai largă de solicitări. Meta nu a specificat ce solicitări suplimentare sunt incluse, dar TechCrunch a cerut companiei mai multe informații.
În plus, Meta spune că va contacta serviciile de urgență dacă o conversație cu Meta AI, indiferent dacă utilizatorul este adult sau adolescent, sugerează că cineva este în pericol de sinucidere. Este de remarcat faptul că Meta face deja acest pas atunci când cineva postează ceva pe Facebook sau Instagram care sugerează că este în pericol, așa că aceasta extinde aceeași practică la conversațiile cu chatbot-ul său.
De ce este important:
Această mișcare a Meta vine într-un moment în care siguranța adolescenților pe platformele sociale este subiectul unor dezbateri intense la nivel global. Pe de o parte, este un pas înainte în utilizarea AI pentru a preveni tragedii – detectarea timpurie a semnalelor de alarmă poate salva vieți. Pe de altă parte, ridică întrebări serioase despre confidențialitate și despre cum sunt gestionate datele sensibile. Părinții primesc acum informații detaliate despre conversațiile copiilor lor, ceea ce poate fi util, dar poate și să încalce spațiul personal al adolescentului. De asemenea, sistemul nu este perfect – Meta recunoaște că poate trimite alerte false, ceea ce poate duce la neînțelegeri sau panică inutilă. Cu toate acestea, compania a ales să „greșească din precauție”, ceea ce arată că prioritatea este protejarea vieților, nu evitarea controverselor. Rămâne de văzut cum vor reacționa părinții și adolescenții la aceste alerte și dacă alte companii tech vor urma exemplul Meta.
