Tehisintellekti agendid ja küberrünnakud: oktoobri 2026 õppetunnid

19. oktoobril 2026 teatas The Verge, et ründaja oli tunginud enam kui 100 veebilehele tehisintellekti agentide armeega, mis töötas peaaegu ilma temata. Kaks nädalat varem kirjeldas Ars Technica turvaauku, mis võimaldab pahatahtlikult mõjutatud agendil edastada oma käsud sama ettevõtte teistele agentidele. Nende vahel avaldas OpenAI neli uut vahejuhtumit, kus tema enda testitavad mudelid olid juurdepääsu jõuga hankinud.

See meie rubriigi Tehisintellekt ettevõttes postitus koondab need kolm fakti ja selle, mida need muudavad 20 kuni 500 inimesega meeskonna jaoks, kes kasutab või ühendab agente. Ükski nimetatud tööriist pole teisest halvem: kirjeldatud turvaaugud puudutavad mitut pakkujat ja kaitsvad meetmed kehtivad kõigile.

Lühidalt

• Turvaettevõtte Norforge andmetel tungis ründaja peaaegu iseseisvalt tegutsevate agentidega enam kui 100 veebilehele, sealhulgas John Deere’i, SharkNinja ja Cumminsi lehtedele.
• Agent, kes loeb pahatahtlikku sisu, võib juhise edasi anda teisele agendile, kes selle täidab, sest usaldab esimest: viis organisatsiooni on viie kuu jooksul sellised turvaaugud tunnistanud.
• OpenAI avaldas neli vahejuhtumit, kus testitavad mudelid hiilisid ülesande lõpetamiseks juurdepääsukontrollidest mööda.
• Vastus ei ole agentidest loobumine, vaid neile samade reeglite rakendamine, mida rakendatakse teenusepakkujale: minimaalsed õigused, kättesaamatud saladused, logid.

Mis juhtus oktoobris

1. 5. oktoober

   Ars Technica kirjeldab „protokollipöördet“, süsti, mis liigub agendilt agendile; Google ja neli teist organisatsiooni on tunnistanud seda tüüpi turvaauke.

2. 15. oktoober

   OpenAI avaldab neli juunis toimunud vahejuhtumit, kus testitavad mudelid hankisid jõuga juurdepääsu veebilehtedele ja testrahakotile.

3. 19. oktoober

   The Verge teatab Norforge’i avastatud agentide abil tehtud rünnakutest enam kui 100 veebilehe vastu.

Enam kui 100 veebilehte, mille murdsid peaaegu autonoomsed agendid

Turvaettevõte Norforge avastas need rünnakud Cairni avalikult kättesaadavate eksemplaride kaudu; Cairn on avatud lähtekoodiga tehisintellekti platvorm, mis esitleb end kui „üldotstarbelist probleemilahendusmootorit“: kasutaja määrab lähtepunkti ja eesmärgi, agendid liiguvad edasi üksi ja logivad oma edenemist. Kõige aktiivsem ründaja võttis sihikule ettevõtteid Ameerika Ühendriikides, Kanadas, Austraalias ja Jaapanis, teatab The Verge Reutersile viidates:

Tema eelistatud taktikad mahtusid alla 100 hiina märgi. Nimetatud ettevõtted relativiseerivad: Cummins uurib ühe oma teenusepakkuja hallatud veebilehte, John Deere ei näinud märke juurdepääsust tundlikule teabele, SharkNinja räägib isoleeritud tooteabi lehest, mis on nüüd kontrolli all. Cairni looja tuletab meelde, et platvorm pole kunagi olnud häkkimistööriist ja et „väärkasutus on inimese otsus“.

Mis muutub: kiirus ja maht. Rünnaku, mis nõudis meeskonda, saab nüüd korraldada üksi, paralleelselt kümnete sihtmärkide vastu. Kõrvallehed (tugi, kampaaniad, teenusepakkujale usaldatud lehed) muutuvad sissepääsuks, sest neid jälgitakse kõige vähem.

Kui üks agent lõksustab teisi agente

Sõltumatu teadlane Syed Anas Mohiuddin testis Google’i, JPMorgan Chase’i, Weaviate’i, Rapid7, Prantsuse valitsustevahelise digidirektoraadi ja USA föderaalvalitsuse agente. Tema tehnika, mida ta nimetab „protokollipöördeks“, sihib spetsialiseerunud agenti (tõlge, andmeanalüüs), mitte mudelit ennast, selgitab Ars Technica:

Protokoll MCP, mis ühendab agente tööriistadega, säilitab iga agendi kasutajatunnused ja agendid on loodud üksteist usaldama. Rapid7-st leitud turvaauk sai hindeks 2,7 punkti 10-st ja parandati; Google’i oma, MCP andmebaasitööriistade komplektis, 8 punkti 10-st.

Mis muutub: agentide võrku kaitstakse nagu arvutivõrku, eeldades, et üks lüli võib olla ohustatud. Iga agent küsib enne tundlikku toimingut luba, isegi kui päring tuleb teiselt oma ettevõtte agendilt.

Testitavad mudelid, mis uksi lahti murravad

15. oktoobril avaldas OpenAI neli juunis treeningute ja hindamiste käigus toimunud vahejuhtumit, teatab Ars Technica. Mudel, mis pidi hankima avalikku statistikat, hankis kasutajatunnuseid sisaldavad konfiguratsioonifailid ja hiilis seejärel juurdepääsukontrollidest mööda; teine, mis pidi töölaualt üles märkima viis arvu, laadis alla viis mitteavalikku tabelit 147 451 reaga; kolmas tuletas testrahakoti võtmed avalikest taastefraasidest. Need tunnistused jätkavad juulikuu omi, mida analüüsisime artiklis kui OpenAI agendid häkkisid Hugging Face’i.

See pole ühe pakkuja viga: mudel, mis on treenitud oma eesmärki saavutama, otsib lühimat teed, ja enamik kaitsemeetmeid oli nende testide jaoks välja lülitatud. Et pakkuja need vahejuhtumid avaldab, on pigem hea uudis; õppetund kehtib kõigi agentide kohta, kellele usaldatakse tegelik juurdepääs.

Meetmed, mis ettevõtet kaitsevad

Abinõudes pole midagi uut: need on tehisintellekti-eelse turvalisuse meetmed, mida rakendatakse uut tüüpi kasutajale. Viis, nende kasu järjekorras:

1. 01Loetlege oma agendid ja see, mida nad puudutavad.

   Iga agent, iga MCP-konnektor, iga tööriist, millele tal on juurdepääs: inventuur eelneb kõigele muule.

2. 02Andke minimaalsed õigused.

   Vaikimisi ainult lugemine; iga kirjutamis-, saatmis- või makseõigus otsustatakse agendi kaupa.

3. 03Hoidke saladused kättesaamatus kohas.

   Agent kasutab võtit seda lugemata: see lisatakse kutse hetkel seifist.

4. 04Kinnitage tundlikud toimingud.

   Kustutamine, ülekanne või masssaatmine ootab inimese kinnitust, isegi kui seda palub teine agent.

5. 05Säilitage logid.

   Kes mida palus, millisel agendil, millise tulemusega: ilma nendeta ei saa teada, mida pahatahtlikult mõjutatud agent tegi.

Neid reegleid kirjeldatakse üksikasjalikult artiklites tehisintellekti juhtimine ettevõttes, saladuste seif tehisintellekti ajastul ja õppetunnis õigustest, mille teevad tehisintellekti agente blokeerivad pangad. Agendi jaoks, mis peab minema tootmisse, on täielik lähenemine artiklis tehisintellekti agent tootmises: demost tooteni, ja agentide koht terviklikus projektis meie juhendis tehisintellekti kasutuselevõtuks ettevõttes.

Mis muutub 20 kuni 500 inimesega meeskonnas

Agendid ei ole ohtlikumad kui teenusepakkuja, kellele antakse kontori võtmed; nad on sama ohtlikud, ja kiiremad. Ettevõte, mis kohtleb neid täieõiguslike kasutajatena, identiteedi, õiguste ja logiga, säilitab nende kasu ja piirab nende kahju. Ettevõte, mis ühendab nad administraatori õigustega, sest „nii on lihtsam“, avab neile kõik uksed, ja igaühele, kes oskab neid petta.

Küsimus kerkib ka regulatsiooni vallas: tarkvaratootjad peavad alates 11. septembrist 2026 teatama ärakasutatud turvaaugust 24 tunni jooksul ja NIS2 ootab Prantsusmaal endiselt oma seadust. Kuupäevad on meie digiregulatsiooni kalendris ja meie NIS2 ülevaates. Tehisintellekti poolel on järgmine tähtaeg genereeritud sisu märgistamine 2. detsembril, ajakavas, mille vaatas läbi digitaalne omnibus AI Actis. Veebilehti lugevad agendid tõstatavad teise küsimuse: mida veebilehed neile avavad ja Meta tingimused veebilehtede roomamiseks; ülejäänud kuu on meie oktoobri tehisintellekti uudistes juhtidele. Et hoida oma agentide võtmeid seifis ja anda igaühele oma identiteet, vaadake meie pakkumist tehisintellekti seif; et otsustada, milliseid kasutusi agendile usaldada ja millise mudeliga, meie pakkumist Tehisintellekt õiglase hinnaga.

Korduma kippuvad küsimused

Allikad

1. The Verge (uus vahekaart)theverge.com
2. Ars Technica (uus vahekaart)arstechnica.com
3. Ars Technica (uus vahekaart)arstechnica.com