Am stat de vorbă cu Socher pe Zoom imediat după lansare, iar discuția noastră a dezvăluit nu doar ambițiile tehnice ale echipei, ci și viziunea lor asupra viitorului. „Auzim mult despre recursivitate în zilele noastre”, mi-a spus el, zâmbind. „Pare un obiectiv comun în diferite laboratoare. Dar abordarea noastră este unică: folosim deschiderea nelimitată (open-endedness) pentru a ajunge la auto-îmbunătățirea recursivă, ceva ce nimeni nu a reușit încă.”
Ce înseamnă, de fapt, acest concept? În termeni simpli, majoritatea sistemelor AI actuale pot fi îmbunătățite – de exemplu, poți cere unui model să optimizeze un alt sistem sau să scrie un text mai bun. Dar asta nu este auto-îmbunătățire recursivă. „Este doar o îmbunătățire obișnuită”, explică Socher. „Noi vrem ca întregul proces – de la generarea ideilor de cercetare, la implementare și validare – să fie complet automat. Mai întâi, AI-ul va automatiza ideile de cercetare în domeniul său, apoi, treptat, orice fel de idei, chiar și în domenii fizice. Dar puterea reală apare atunci când AI-ul lucrează asupra lui însuși, dezvoltând un fel de conștiință de sine a propriilor limitări.”
Unul dintre co-fondatori, Tim Rocktäschel, a condus anterior echipele de open-endedness și auto-îmbunătățire de la Google DeepMind. El a lucrat la modelul Genie 3, un exemplu perfect de deschidere nelimitată: poți să îi spui orice concept, orice lume, orice agent, iar el le creează interactiv. „În evoluția biologică, animalele se adaptează la mediu, iar altele contra-adaptează. Acest proces poate continua miliarde de ani, iar lucruri interesante apar mereu. Așa am dezvoltat ochii, de exemplu”, spune Socher.
Un alt exemplu este „rainbow teaming”, o tehnică dezvoltată tot de Rocktäschel. Dacă ai auzit de „red teaming” – încercarea de a face un AI să spună lucruri periculoase, cum ar fi cum să construiești o bombă – atunci rainbow teaming duce ideea mai departe. În loc ca un om să petreacă ore întregi găsind exemple de lucruri pe care AI-ul nu ar trebui să le spună, se folosește un al doilea AI care atacă primul din unghiuri multiple, generând milioane de iterații. „Cele două AI-uri co-evoluează: unul atacă, celălalt se apără, iar apoi îl poți inocula pe primul, făcându-l din ce în ce mai sigur. Această idee este acum folosită în toate laboratoarele mari”, adaugă Socher.
Dar cât de departe putem merge? „Unele lucruri nu vor fi niciodată complet rezolvate. Poți deveni mereu mai inteligent, mai bun la programare și matematică. Există limite teoretice ale inteligenței, dar sunt astronomice. Suntem foarte departe de ele”, spune el.
Întrebat dacă marile laboratoare (OpenAI, Google DeepMind) vor ajunge la auto-îmbunătățirea recursivă făcând ceea ce fac acum, Socher evită să comenteze direct, dar subliniază diferența: „Noi îmbrățișăm cu adevărat conceptul de open-endedness, iar echipa noastră este complet concentrată pe această viziune. Cercetăm și publicăm în acest domeniu de un deceniu. Tim Shi a construit Cresta până la statutul de unicorn. Josh Tobin a fost unul dintre primii angajați OpenAI și a condus echipele Codex și deep research. Nu mă consider doar un laborator – vreau să devenim o companie viabilă, cu produse pe care oamenii le iubesc și care au un impact pozitiv asupra umanității.”
Când vine vorba de produse, Socher promite că nu va dura ani, ci doar câteva trimestre până când vom vedea ceva concret. „Echipa a făcut atât de multe progrese încât s-ar putea să scurtăm termenele pe care ni le-am propus inițial.”
Una dintre ideile centrale ale auto-îmbunătățirii recursive este că, odată ce un astfel de sistem există, singura resursă importantă devine puterea de calcul. Cu cât rulezi sistemul mai repede, cu atât se îmbunătățește mai rapid, iar activitatea umană externă nu mai contează. Întrebat dacă aceasta este lumea spre care ne îndreptăm, Socher răspunde: „Puterea de calcul nu trebuie subestimată. În viitor, o întrebare crucială va fi: cât de multă putere de calcul vrea umanitatea să aloce pentru a rezolva ce probleme? Avem cancerul ăsta și virusul acela – pe care vrei să îl rezolvi mai întâi? Câtă putere de calcul îi dai? Devine o problemă de alocare a resurselor, una dintre cele mai mari întrebări ale lumii.”
Recursive Superintelligence nu este doar un alt startup de AI. Este o încercare de a construi o mașinărie care să se perfecționeze singură, fără ajutorul nostru. Dacă reușesc, s-ar putea să asistăm la o schimbare de paradigmă în tehnologie, dar și la întrebări etice și practice uriașe. Cum controlăm o inteligență care se îmbunătățește singură? Cine decide ce probleme să rezolve? Și, poate cel mai important, suntem pregătiți să cedăm controlul?
De ce este important:
Acest articol evidențiază un pas major în evoluția inteligenței artificiale: trecerea de la sisteme care sunt îmbunătățite de oameni la sisteme care se îmbunătățesc singure. Recursive Superintelligence nu este doar un alt startup; este o încercare de a atinge unul dintre cele mai ambițioase obiective ale cercetării AI – auto-îmbunătățirea recursivă. Dacă reușește, ar putea accelera descoperirile științifice, de la medicină la energie, dar ar putea și să ridice probleme fundamentale legate de control, etică și alocarea resurselor. Înțelegerea acestor evoluții este crucială pentru oricine vrea să fie pregătit pentru viitorul tehnologic.
