Cercetătorii Microsoft arată că agenții AI pot primi uși din spate prin editarea a mai puțin de 10 neuroni
Foto: The Hacker News
Cercetătorii Microsoft au arătat că un model AI poate primi o ușă din spate ascunsă prin editarea a mai puțin de 10 neuroni rar folosiți, fără reantrenarea modelului. Când apare un declanșator ales, modelul produce o comandă a atacatorului, pe care un agent care folosește modelul o execută cu propriile permisiuni. Atacul presupune că atacatorul poate modifica ponderile modelului.
Citește la The Hacker News ↗Titlu și rezumat în română, scrise automat de FluxRo după articolul în engleză publicat de The Hacker News. Articolul întreg e la sursă.
