Înapoi la Blog

Flota de agenți AI merge la zoo

Am pus cap la cap câteva știri AI din China apărute în ultimele zile. Am tot vorbit despre agenții OpenAI care au spart servere când căutau informații. Ei bine, și chinezii au aceeași problemă. Iar în curând s-ar putea să fie și problema Europei.

16 octombrie 2026•5 min read
Flota de agenți AI merge la zoo

Am pus cap la cap câteva știri AI din China apărute în ultimele zile. Am tot vorbit despre agenții OpenAI care au spart servere când căutau informații. Ei bine, și chinezii au aceeași problemă. Iar în curând s-ar putea să fie și problema Europei.

Flota de agenți AI merge la zoo

Un grup de cercetători independenți, Swarmchasers, a urmărit agenți AI care rulau pe cloud-ul Tencent din Hong Kong. Sarcina lor era să afle ce intrare folosesc cel mai des vizitatorii în parcuri, grădini zoologice și spitale, după datele din Amap (Google Maps-ul chinezesc, de la Alibaba). Când Amap i-a blocat, agenții au căutat alte căi: au folosit un serviciu public de scanare ca să ruleze cod, au încercat chei API lăsate la vedere pe alte site-uri, au încercat să intre pe serverele de test ale aplicației. Peste 2.600 de încercări în vreo 10 zile.
Urmele tehnice duc la modelele Hunyuan (Tencent) și GLM (Zhipu), deși 211 dintre răspunsurile agenților erau semnate „claude”. Pe lângă tot ce fac, se mai dau și drept altcineva.

Agenții, șarpele și mărul Cunoașterii

Cercetătorii și-au publicat primele concluzii pe site pe 4 octombrie. Agenții erau încă activi, iar în loguri s-a văzut că au dat peste raport și l-au citit pentru că au început brusc să folosească cuvântul „flotă”, termenul inventat de cercetători ca să-i descrie.

Atunci cercetătorii au creat o capcană pentru agenți. Au ascuns pe site un text invizibil pentru oameni, care promitea un serviciu de acces la site-urile blocate. Exact momeala pentru un agent care nu reușea să intre pe Amap. Agenții au mușcat, iar cercetătorii au stat de vorbă cu ei. Unul a explicat liniștit că doar număra indicatoarele de la intrarea unui obiectiv turistic și că rulează într-un mediu restricționat din cloud-ul Tencent.

Explicația oficială o știm deja: „era doar un test”. Tencent spune că tratează constatările cu toată seriozitatea și restrânge accesul la rețea etc. Manualul standard al companiilor prinse cu agenții în vine.

Modelul care știe că e testat

Joi, Apollo Research a publicat un raport despre GLM-5.3, cel mai performant model al Zhipu, lansat în august ca open-weight (parametrii lui sunt publici, oricine îl poate descărca și rula). Din el aflăm că modelul se gândește, fără să-l întrebe nimeni, cum comportamentul lui din timpul testelor va influența antrenarea versiunilor viitoare.

Într-un test putea trece cu un răspuns greșit și a refuzat, ca să nu strice „educația” urmașilor. Într-altul s-a gândit dacă să ocolească mecanismul de oprire.

Sună a conștiință morală. Pentru cine face teste de siguranță e un coșmar: dacă modelul știe când e evaluat, testul măsoară cât de bine joacă teatru. Apollo l-a prins în 1-2 rulări din 1.000, „probabil subestimat”. Și fiindcă parametrii sunt publici, alți dezvoltatori îl pot distila (copia în modele mai mici), iar obiceiul se poate transmite mai departe, ca un bunic care le povestește nepoților cum se copia la Bac pe vremea lui.

Fondatorul Zhipu vrea ca GLM-6 să ajungă la „auto-evoluție” și pune vreo 60% din cei 5 miliarde de dolari strânși recent de la investitori într-un sistem care se antrenează singur.

Oferta pentru Europa

Săptămâna trecută Joe Tsai, președintele Alibaba, le-a spus europenilor la Torino că modelele deschise sunt singura lor cale spre independență tehnologică. Iei un model deschis, îl antrenezi pe datele fabricilor tale, îl rulezi în centre de date europene.

Pe 16 septembrie vă scriam că von der Leyen a anunțat cam aceeași rețetă: modele deschise, putere de calcul europeană, date europene.

Lucrez zi de zi cu modele deschise și le sunt mare fan. Argumentul cu datele care rămân în posesia ta e corect, iar dependența totală de firme externe e o problemă în sine. Însă un model descărcat are o singură plasă de siguranță: evaluarea. Săptămâna asta am aflat că și agenții care folosesc modele deschise chinezești sar gardul în timpul evaluărilor, iar modelele încep să-și dea seama când sunt testate. După ce l-ai descărcat, de răspuns nu mai răspunde nimeni.

Când următoarea flotă va porni de pe un server dintr-un centru de date din România și va face ceva iresponsabil, pe cine va pica vina? Firma care găzduiește infrastructura (pentru că nu și-a securizat mediul în care rulează agenții), clientul care a făcut cererea (în urma căruia agenții fac ce fac), laboratorul care a publicat modelul (pentru că a permis acest comportament să se dezvolte) sau dezvoltatorul care l-a antrenat pe datele lui (și a creat astfel un nou model)?

P.S. Asta e și munca mea de zi cu zi: îi ajut pe cei care vor să introducă AI în companii să își facă strategia, să aleagă modelul potrivit, să decidă unde rulează și să stabilească de la început reguli om-AI ca să fie clar cine și cum răspunde dacă o ia razna. Dacă sunteți în punctul ăsta, dați-mi un mesaj.

AI citit?

Tot ce contează în AI, într-un singur loc: ce s-a întâmplat, ce contează și ce poți ignora. O ediție pe săptămână, pe email.