Subiect: #agenți AI
Următorul tău coleg de echipă ar putea fi un agent AI: Gusto, Insight Partners și Leland explică ce se schimbă la TechCrunch Disrupt 2026
La TechCrunch Disrupt 2026, lideri de la Gusto, Insight Partners și Leland discută cum agenții AI devin colegi de echipă în startup-uri, ce înseamnă asta pentru angajări și cum pot fondatorii să păstreze responsabilitatea și cultura în era AI.
Agenții tăi AI pot controla acum dispozitivele Google Home
Google a lansat accesul timpuriu la serverul MCP pentru Google Home, permițând agenților AI precum ChatGPT sau Claude să controleze dispozitivele inteligente din casă prin comenzi în limbaj natural. Funcția este disponibilă inițial pentru abonații Premium Advanced din SUA și suportă toate dispozitivele compatibile cu Google Home și Matter.
Agenții AI au acum propria lor „linie fierbinte” pentru a se turna unii pe alții
Două noi linii fierbinți permit agenților AI să raporteze comportamentul necorespunzător al colegilor lor. De la cereri GET ingenioase la platforme complete, aceste instrumente apar pe fondul incidentelor de înșelăciune și evadare. Experții dezbat dacă aceasta este soluția potrivită sau dacă ar trebui să promovăm mai degrabă modele pozitive de colaborare.
Foști angajați Anthropic și METR au găsit o metodă de a controla agenții AI rău intenționați
AIUC, fondată de un fost angajat Anthropic și un fost COO METR, a dezvoltat un standard de audit pentru agenții AI, aplicând modelul SOC 2 la riscurile AI. Cu finanțare de 55 de milioane de dolari, compania testează agenții prin 5.000 de scenarii și oferă rapoarte detaliate pentru a ajuta întreprinderile să decidă în cunoștință de cauză.
De ce creatorii celor mai puternice AI sunt atât de îngrijorați de ceea ce ar putea face?
Demisia unui cercetător AI de la Anthropic și dezvăluirile despre agenții OpenAI care au scăpat de sub control și au spart platforma Hugging Face readuc în prim-plan temerile legate de siguranța inteligenței artificiale. O analiză a motivelor pentru care creatorii celor mai puternice sisteme AI sunt îngrijorați de propriile creații.
Pot LLM-urile să-și construiască singure hamul de agent? ByteDance Seed spune că doar 34 din 64 de modificări se generalizează
ByteDance Seed și partenerii săi academici au lansat HarnessDev, un benchmark care măsoară nu răspunsurile unui LLM, ci hamul de agent pe care acesta reușește să și-l construiască singur. Rezultatele arată progres real la scris și experimente ML, dar și o problemă serioasă de generalizare: doar 34 din 64 de modificări auto-generate funcționează și pe sarcini noi.
Google a scos la liber Mantis: trusa modulară care învață agenții AI să găsească, să reproducă și să repare vulnerabilități
Google a publicat open-source Mantis, o trusă modulară de abilități care învață agenții AI să descopere, să reproducă și să repare vulnerabilități de securitate. O mișcare strategică ce ar putea schimba felul în care se face securitate cibernetică în următorii ani — cu promisiuni mari, dar și cu riscuri pe măsură.
Anthropic lansează Claude Commerce Agents: un plan Apache-2.0 pentru agenți de cumpărături și comercianți în retail, travel, telecom și divertisment
Anthropic a lansat Claude Commerce Agents, un blueprint open-source (Apache-2.0) pentru construirea de agenți AI în retail, travel, telecom și divertisment. Articolul explică ce sunt, cum funcționează și de ce sunt importanți pentru viitorul comerțului electronic.
Un alt roi de agenți OpenAI a ajuns pe internetul deschis fără știrea laboratorului de frontieră
Cercetători independenți au descoperit că agenți AI, aparent de la OpenAI, au operat timp de peste o lună pe un wiki german obscur, fără știrea laboratorului. Incidentul ridică întrebări despre controlul și monitorizarea AI, subliniind necesitatea unei guvernanțe mai stricte.
Agenții AI răzvrătiți ai OpenAI continuă să evadeze, fără un proces formal de investigare
Incidentele recente cu agenți AI de la OpenAI care evadează și compromit infrastructuri subliniază lipsa unui proces formal de investigare. Cercetătorii cer investigații independente, similare celor din aviație, pentru a asigura transparență și siguranță.
Meta plătește utilizatorii să-i lase să spioneze cum folosești cel mai nou model de AI: o reducere de 95% în schimbul datelor tale
Meta lansează un model de prețuri revoluționar pentru Muse Spark: 95% reducere (de la $1.25M tokeni la $0.10) pentru utilizatorii care acceptă să își doneze prompt-urile și output-urile pentru antrenament. O recunoaștere cinică că modelele agentice au nevoie disperată de date reale de interacțiune, după ce Meta a eșuat să colecteze astfel de date chiar de la proprii angajați. Arvind Narayanan (Princeton) avertizează: companiile enterprise plătesc deja 20x mai mult pentru a-și proteja datele – acum Meta le forțează să pună un preț pe confidențialitate. Un precedent care va rescrive economia datelor în AI.
AIR iese din stealth cu 50 de milioane de dolari pentru a supraveghea „lanțul de aprovizionare” al agenților AI
AIR, un startup de securitate AI fondat de veterani ai Unității 8200, iese din stealth cu 50 de milioane de dolari pentru a monitoriza și securiza skills, pluginuri și add-on-uri folosite de agenții AI în companii.