Caută Aplicația

IT și tehnologie · Securitate

Cercetătorii Microsoft arată că agenții AI pot primi uși din spate prin editarea a mai puțin de 10 neuroni

2 publicații au scris despre asta prima relatare: The Hacker News, cea mai nouă: 2 din presa străină

Foto: The Hacker News

Cercetătorii Microsoft au arătat că un model AI poate primi o ușă din spate ascunsă prin editarea a mai puțin de 10 neuroni rar folosiți, fără reantrenarea modelului. Când apare un declanșator ales, modelul produce o comandă a atacatorului, pe care un agent care folosește modelul o execută cu propriile permisiuni. Atacul presupune că atacatorul poate modifica ponderile modelului.

Rezumat în română, scris automat de FluxRo după articolul publicat de The Hacker News.

Cum au relatat publicațiile

  1. The Hacker News · · primii care au scris · în engleză

    Cercetătorii Microsoft arată că agenții AI pot primi uși din spate prin editarea a mai puțin de 10 neuroni ↗

  2. Help Net Security · · în engleză

    Cercetătorii Microsoft demonstrează o tehnică de backdoor ascuns pentru agenții AI ↗

    Cercetătorii Microsoft au arătat cum modificări mici ale unui model AI pot implanta un backdoor ascuns, care determină agentul să execute o comandă a unui atacator atunci când apare un anumit declanșator. Tehnica, numită Lazarus, nu necesită reantrenarea modelului și permite agentului să se comporte normal în timpul evaluărilor standard de siguranță. Compania nu a observat încă actori ai amenințărilor care să folosească metoda, dar spune că cercetarea evidențiază un risc pentru organizațiile care oferă agenților AI acces la terminale.

Fiecare titlu duce la articolul publicației. Textele de sub titluri sunt fragmente din articole; la relatările în engleză, titlul și rezumatul sunt scrise în română de FluxRo.

Mai multe din Securitate