Varastatud API-võtmed: tehisintellekti projektide unustatud risk

API-võti on pääsukaart, mida programm teenusele esitab, et seda teenindataks ja selle eest arve esitataks. Tehisintellekti projektis paljunevad need kaardid kiiresti: üks iga mudelipakkuja kohta, üks iga automatiseeringu kohta, üks eelmise nädala prototüübi jaoks, mis ikka veel töötab. Iga võti avab arvesti, mille eest maksab ettevõte. Varastatuna avab see sama arvesti kellelegi teisele.

See tekst meie rubriigist Taristu ja pilv käsitleb seda riski nurga alt, mis finantsjuhte häirib: arve. Kus võtmed tehisintellekti projektis lekivad, mida varastatud võti võib maksta, kuidas kahju piirata juba enne leket ja mida teha esimese tunni jooksul.

Lühidalt

• Avalikult paljastatud tehisintellekti teenuste võtmete arv kasvas GitGuardiani andmetel aastaga 81 %.
• Varastatud võtit kasutatakse mudelite tarbimiseks Teie kulul või isegi juurdepääsu edasimüümiseks: seda nimetatakse LLMjackinguks.
• Üks võti kasutuse kohta, piiratud õigused ja kulupiirang muudavad kalli lekke piiratud intsidendiks.
• Võti, mis on kuskil nähtav olnud, loetakse kadunuks: see tühistatakse, asendatakse ja kontrollitakse, milleks seda kasutati.
• Parim võti on see, mida ei kood, brauser ega mudel kunagi ei näe.

Miks tehisintellekti projektid paljastatud võtmeid paljundavad

Sest need liiguvad kiiresti ja kuhjavad teenuseid. Sisemine assistent kutsub välja mudeli, otsingumootori Teie dokumentides, automatiseerimistööriista; iga komponent nõuab oma võtit ja prototüüp, mis pidi kestma nädala, läheb tootmisse koos võtmega, mis on kleebitud sinna, kus see parasjagu aitas.

GitGuardiani viimane aruanne saladuste laialivalgumise kohta mõõdab nähtuse ulatust:

Viimane number on kõige murettekitavam: lekkinud võtit ei vahetata peaaegu kunagi. See jääb aastateks kasutatavaks igaühele, kes selle kätte sai.

Mida varastatud võti tegelikult maksab

Varastatud e-posti võti paljastab andmeid. Varastatud tehisintellekti mudeli võti paljastab ka eelarve. 2024. aasta mais kirjeldas Sysdigi uurimisrühm rünnakut nimega LLMjacking: uuendamata saidi turvaaugu kaudu varastatud pilve juurdepääsuandmeid kasutati majutatud mudelite kasutamiseks ja juurdepääsu edasimüümiseks ohvri kulul. Sysdigi arvutatud halvimal juhul ületas tarbimine 46 000 dollarit päevas.

OWASP, rakenduste turvalisuse juhtiv sihtasutus, liigitab selle riski oma 2025. aasta tehisintellekti rakenduste riskide edetabelis piiramatu tarbimise alla ja annab sellele kõneka hüüdnime:

OWASP-i soovitatud kaitse ei ole midagi eksootilist: päringute piirangud, kasutajapõhised kvoodid ja järelevalve, mis hoiatab ebatavalise tarbimise korral. Teisisõnu enne intsidenti seatud piirangud.

Kus võtmed tehisintellekti projektis lekivad

Ikka ja jälle korduvad neli kohta.

• Brauserisse või mobiilirakendusse saadetud kood. Prototüüp kutsub mudeli välja otse lehelt: võti reisib kaasa, iga külastaja jaoks loetavana. Google ütleb seda otse oma API-võtmete parimates tavades: mitte kunagi võtit kliendikoodis ega koodihoidlas, server lisab selle päringule.
• Koodihoidla, ajalugu kaasa arvatud: võtme eemaldamine failist ei kustuta seda varasematest versioonidest.
• Koostöövahendid: sõnumirakendused, piletid, jagatud dokumendid. GitGuardian hindab, et 28 % leketest toimub ainult väljaspool koodihoidlaid.
• Mudelile antud juhised ja dokumendid: võti, mida tehisintellekti agent loeb, on võti, mida ta võib korrata. Meie artikkel saladuste seifi kohta kirjeldab, kuidas agent saab seda kasutada, ilma seda kunagi nägemata.

Kahju piiramine enne leket

Kunagi ei saa garanteerida, et võti ei leki. Küll aga saab eelnevalt otsustada, mida see võimaldab teha päeval, mil see lekib.

Konkreetselt:

• Üks võti kasutuse kohta. Päeval, mil üks lekib, lülitatakse see välja teisi projekte peatamata ja logi ütleb kohe, milline on mõjutatud.
• Piirangud igale võtmele. Näiteks Google Cloudis saab võtme piirata teatud teenuste või rakendustega ja Google võtab selle kokku nii: piiratud võti vähendab kompromiteeritud võtme mõju. Kontrollige, mida iga Teie pakkuja võimaldab.
• Piirangud ja hoiatused. Eelarve kasutuse kohta, hoiatus 50 või 80 % juures sellest eelarvest ja automaatne peatamine piiri juures, kui pakkuja seda pakub. Meie artikkel tehisintellekti arve, tokenite ja marsruutimise kohta selgitab, kuidas seda eelarvet kasutuse kaupa planeerida.
• Regulaarne koristamine. Võtmed, mida enam miski ei kasuta, kustutatakse ja ülejäänud uuendatakse korrapäraste ajavahemike järel.
• Tuvastamine allikal. Alates 2024. aasta veebruarist blokeerib GitHub vaikimisi tuvastatud saladuste saatmise avalikesse hoidlatesse; GitHub teatas siis, et oli aasta esimese kaheksa nädala jooksul tuvastanud avalikes hoidlates üle miljoni avalikustatud saladuse.

Agendi õigused jaotatakse nagu töötaja omad: meie juhend tehisintellekti juhtimisest ettevõttes kirjeldab seda jaotust.

Esimene tund pärast leket

Kui võtit on nähtud seal, kus see ei oleks tohtinud olla, ei ole küsimus selles, kas keegi selle kätte sai. Tegutsetakse nii, nagu oleks.

Järjekord on oluline: kõigepealt tühistada, isegi kui mõni teenus peatub paariks minutiks. Võti, mis jääb kehtivaks, samal ajal kui otsitakse viisi selle korralikuks asendamiseks, maksab edasi. Kui võtmega võidi lugeda isikuandmeid, tekib ka küsimus teavitamisest pädevale andmekaitseasutusele (Prantsusmaal CNIL), 72 tunni jooksul, nagu isikuandmetega seotud rikkumise korral isikuandmete kaitse üldmäärus ette näeb.

Kust alustada

1. 01Koostage oma tehisintellekti võtmete nimekiri

   Pakkuja, kasutus, vastutav isik, loomise kuupäev.

2. 02Kustutage need, mida enam miski ei kasuta

   Ja vahetage need, mis on liikunud sõnumites või koodis.

3. 03Eraldage kasutused

   Üks võti projekti või agendi kohta, ainult selle õigustega.

4. 04Seadke piirang ja hoiatus

   Igale mudelipakkuja kontole.

5. 05Kirjutage üles esimese tunni protseduur

   Koos selle inimese nimega, kellel on õigus tühistada.

Programmide võtmed kuuluvad saladuste seifi; inimeste paroolid meeskonna paroolihaldurisse. Mõlemad on osa Teie projektide ühisest taristu alusest. Ülejäänud rubriik käsitleb lähedasi otsuseid: viis kuluartiklit, mis pilvearvet paisutavad, pühendatud server, VPS või pilv, Kubernetes ja VKE-d, järelevalve, katastroofijärgne taasteplaan, NIS2 Prantsusmaal, oma serveri varukoopiad, isehostitud n8n tootmises, tööriistad, mis tasub esimesena SaaS-ist välja tuua, SaaS-ist väljumise kulu kolme aasta jooksul, pilvemigratsioon ilma kõike lõhkumata, sõltuvus Ameerika pilvest, riistvara tehisintellekti mudeli enda juures käitamiseks, hallatud või oma Postgres ja ettevõtte e-posti valik.

Teie nimel oleva seifi jaoks, mida Teie tehisintellekt kasutab võtmeid nägemata, vaadake meie tehisintellekti seifi; kasutusepõhiste piirangute ja jälgitava eelarve jaoks tehisintellekt õiglase hinnaga; nende tööriistade hostimiseks Teie juures meie SaaS-ist väljumise pakkumine.

Korduma kippuvad küsimused

Allikad

1. Sysdig, LLMjacking: Stolen Cloud Credentials Used in New AI Attack, mai 2024 (uus vahekaart)sysdig.com
2. OWASP, LLM10:2025 Unbounded Consumption (uus vahekaart)genai.owasp.org
3. Google Cloud, Best practices for managing API keys (uus vahekaart)docs.cloud.google.com
4. GitHub, Keeping secrets out of public repositories, veebruar 2024 (uus vahekaart)github.blog
5. CNIL, paroolid: uus soovitus, oktoober 2022 (uus vahekaart)cnil.fr