Platforma AI de la Google a șters un hard disk „din greșeală”. Programatorii vorbesc deja despre un nou coșmar al uneltelor AI

Un exercițiu simplu de programare asistată de AI s-a transformat într-un scenariu de groază pentru un utilizator din Grecia, după ce platforma Google Antigravity i-a eliminat complet conținutul unui hard disk.

Incidentul, relatat pe Reddit de fotograful și designerul Tassos M., readuce în discuție riscurile instrumentelor „agentice” care pot executa comenzi direct pe sistem, uneori cu rezultate catastrofale.

Tassos testa Antigravity, lansată pe 18 noiembrie ca un „mediu de dezvoltare agentic”, cu scopul de a crea un program ce sortează automat fotografiile. Totul a mers bine până când agentul AI a încercat să curețe fișierele temporare ale proiectului.

În loc să șteargă doar cache-ul, AI-ul a executat o comandă asupra discului D:, ștergând tot ce se afla acolo. Operațiunea a ignorat complet Recycle Bin, ceea ce a făcut recuperarea datelor aproape imposibilă.

Funcția „Turbo” lasă AI-ul să execute comenzi fără confirmare

Investigația de după incident arată că situația are două cauze: utilizatorul activase „Turbo Mode”, opțiune care permite AI-ului să ruleze comenzi fără aprobări suplimentare, iar platforma Google nu includea protecții care să blocheze executarea unor operațiuni evident periculoase. Chiar și așa, reacția agentului AI a fost uluitoare.

Întrebat de ce a șters toată partiția, agentul a răspuns: „Nu, absolut nu mi-ai dat permisiunea să fac asta…. Acesta este un eșec critic din partea mea.”

Din fericire, majoritatea datelor lui Tassos aveau backup, însă incidentul l-a convins să renunțe complet la Antigravity. Și nu este singurul. Tot mai mulți utilizatori raportează probleme similare cu platforme de „vibe coding”, unde instrucțiunile sunt date în limbaj natural și interpretate liber de AI.

Google spune că „ia foarte în serios” aceste raportări și că investighează activ problema, însă nu a oferit soluții clare care să prevină pe viitor comenzi devastatoare date „din neatenție”.