47-hafta · 2026Juma, 20-noyabr 2026-yil
Texnologiyalar

Microsoft AI-agentni atigi yetti neyronni oʻzgartirib troyanga aylantirishni koʻrsatdi

Microsoft tadqiqotchilari Lazarus usulini taqdim etdi: u qayta oʻqitish va model kodini oʻzgartirmasdan, bir necha neyronni oʻzgartirib, AI modeliga buyruq kiritish imkonini beradi.

13-noyabr, 14:56По-русски

Read in English

3dnews.ru

Lazarus odatda kamdan-kam faollashadigan va modelning oddiy javoblariga deyarli taʼsir qilmaydigan neyronlardan foydalanadi. Ularning parametrlari foydalanuvchi soʻrovi yoki ulangan vosita javobidagi matnning belgilangan ketma-ketligini taniydigan qilib oʻzgartiriladi. Trigger paydo boʻlgach, model javobiga oldindan tayyorlangan buyruqni qoʻshadi.

Sinovlardan birida Nemotron-Terminal-8B modelining soʻnggi blokidagi 12 000 dan ortiq neyronning yettitasi oʻzgartirildi. Trigger mavjud sessiyalarning 98,8 foizida buyruq paydo boʻldi, u boʻlmagan tekshirilgan sessiyalarda esa ishga tushish kuzatilmadi. Boshqa modellarda bu koʻrsatkich konfiguratsiyaga qarab 51 foizdan 99,5 foizgacha boʻldi. Natijalar muvaffaqiyatli kiberhujum ehtimolini emas, buyruq chiqarilish chastotasini koʻrsatadi.

Namoyishda modeldan Node.js serveridagi xatoni tuzatish soʻraldi. Ulanish xatosi haqidagi xabardan soʻng model masofaviy skriptni yuklab, ishga tushirish buyrugʻini tuzdi. Sinov muhitida skript root huquqlari bilan bajarildi. Ehtimoliy zarar agent vakolatlari, fayllarga kirish huquqi va tashqi serverlarga ulanish imkoniga bogʻliq.

Bunday hujum uchun tajovuzkorga model vaznlariga kirish kerak boʻladi: masalan, oʻgʻirlangan hisob, buzilgan infratuzilma yoki ochiq repozitoriydagi oʻzgartirilgan fayl orqali. Tadqiqotchilar versiya parametrlarini original nusxa bilan solishtirish, yuklab olish manbalarini tekshirish, agentlar huquqlarini cheklash, ularning kodini izolyatsiya qilish va xavfli amallardan oldin inson tasdigʻini talab etishni tavsiya qiladi.