Cum „teoria jocurilor inversată” ar putea ține agenții de IA sub control: o abordare economică a siguranței algoritmilor
Cercetătorii explorează „teoria jocurilor inversată” (mechanism design) pentru a controla agenții de IA puternici, proiectând sisteme de incentivuri care fac trădarea iracțională, în loc să încerce să descifreze „gândurile” modelelor. De la verificări încrucișate între modele la simulări de procese judiciare interne, abordarea economică promite o nouă linie de apărare, dar se lovește de realitatea pieței: laboratoarele sunt incentivate să lanseze modele rapide, nu neapărat sigure.
🕒 15 ore în urmă
