Postarea lui Hotz vine ca reacție la o serie de planuri mari de aliniere a AI-ului, cel mai recent fiind documentul „AI 2040: Plan A” al Institutului AI Futures. Acel document imaginează o lume în care cercetătorii din întreaga lume aleg colectiv să încetinească dezvoltarea AI-ului timp de 14 ani, de dragul umanității. Desigur, nu toți cei care l-au citit sunt de acord cu premisele sau concluziile. Hotz se află în tabăra celor care nu sunt de acord.
În postarea sa, Hotz susține că scenariul „fast-takeoff” – ipoteza în care AI-ul capătă rapid abilități supraomenești – nu are prea mult sens. Recunosc că sunt de acord cu o mare parte din ce spune aici! Pentru Hotz, cea mai bună abordare pentru alinierea și siguranța AI-ului este să ne concentrăm pe modele locale de AI, controlate de utilizatori și strâns aliniate cu interesele acestora. Este o idee interesantă, mai ales că îmi amintește cât de mult din AI-ul actual este construit în jurul serviciilor centralizate, precum Claude și ChatGPT. Există motive legate de infrastructură pentru care serviciile AI s-au dezvoltat astfel: este scump să găzduiești aceste modele mari de ultimă generație, iar majoritatea oamenilor nu le folosesc suficient de mult pe parcursul zilei pentru a justifica un AI cu adevărat personal. Dar acești factori devin mai puțin importanți pe măsură ce tehnologia avansează. O parte din ceea ce a fost atât de captivant la OpenClaw a fost această abordare experimentală, de tip „fă-o singur”, și ar fi minunat să vedem mai multe produse AI care să încerce să recaptureze acest spirit.
Dar Hotz este un provocator prin natura sa, așa că nu se oprește aici. El compară AI-ul aliniat utilizatorului cu o armă(!), care nu se plânge dacă o folosești să-ți omori mama vitregă. (Simt că există și alte reguli împotriva acestui lucru?) Un AI cu adevărat aliniat ar putea comanda echipament de laborator de metamfetamină de pe Amazon Prime și ți-ar arăta cum să-l folosești, dacă asta ai vrea și ai cere, spune el. (Din nou, nu cred că AI-ul ar fi factorul limitativ aici.) Hotz afirmă chiar că ar muri pentru a apăra acest principiu, deși este greu de imaginat seria de evenimente care ar duce la asta.
„Fie trăim într-o lume cu libertate, fie nu”, scrie Hotz. Dacă acestea sunt opțiunile, lumea libertății sună mai bine! Totuși, nu știu. Nu este vorba doar despre libertate, nu? Orice structură care implică mulți oameni (societăți, piețe, corporații etc.) necesită echilibrarea intereselor, legarea nevoilor individuale într-o rețea de preferințe interdependente și sisteme de responsabilitate. Și oricine lansează produse tech de masă ar trebui să se gândească la această rețea în ansamblu, ceea ce înseamnă să ia în serios interesele soților și părinților vitregi încă neomorâți din lume. Libertatea pe care o experimentează Hotz este, de fapt, un spațiu de potențiale viitoruri făcute posibile de efortul colectiv; acele viitoruri ar dispărea peste noapte dacă am începe cu toții să ne comportăm ca niște mici Napoleoni cu putere AI.
Ca să parafrazez memul, trăim într-o societate. A avea un AI local dispus să lupte cu lumea corporatistă în beneficiul meu sună totuși cool! Abia aștept o unitate de testare.
De ce este important:
Discuția deschisă de George Hotz nu este doar o simplă provocare intelectuală. Ea atinge o întrebare fundamentală pentru viitorul inteligenței artificiale: cât de departe trebuie să meargă alinierea AI-ului cu utilizatorul? În timp ce unii pledează pentru o dezvoltare prudentă și centralizată, alții, precum Hotz, susțin o libertate absolută a utilizatorului, chiar și atunci când aceasta intră în conflict cu legile și normele sociale. Această dezbatere este crucială pentru că modelează modul în care vom proiecta, reglementa și implementa sistemele AI în următorii ani. Dacă alegem calea libertății absolute, riscăm să creăm unelte periculoase în mâinile oricui. Dacă alegem calea controlului strict, riscăm să limităm inovația și autonomia personală. Găsirea unui echilibru între aceste două extreme va defini nu doar tehnologia, ci și societatea în care vom trăi.
