Privaatne tehisintellekt ettevõttes: neli kontrollitaset

Privaatne tehisintellekt ettevõttes ei ole toode, mida ostetakse: see on kontrolli määr selle üle, mis teie andmetega juhtub. Väljendite „privaatne tehisintellekt“, „suveräänne tehisintellekt“ või „suletud tehisintellekt“ taga loeb ainult üks küsimus: kui töötaja või automatiseerimine pöördub mudeli poole, kuhu andmed lähevad ja kellel on neile juurdepääs? See võrdlus meie rubriigist Ettevõtte tehisintellekt, privaatne ja õiglase hinnaga eristab nelja taset ja annab seejärel valimiseks raamistiku.

Lühidalt

• ChatGPT ja Claude’i mudeleid ei saa teie juurde paigaldada: kas need seotakse lepinguga või käitatakse avatud mudelit masinal, mida ise kontrollitakse.
• Leping reguleerib, mida teenusepakkuja teie andmetega teeb, mitte seadusi, mis tema suhtes kehtivad.
• RAG saadab teie dokumentide väljavõtteid sinna, kus mudel töötab: see kuulub nende dokumentide tasemele, mida ta loeb.
• Raamistik, mis liigitab andmed (avalikud, sisemised, isikuandmed), ütleb, kuhu iga kasutus saata.

Kuhu teie andmed lähevad, tasemete kaupa

Eristame nelja taset:

Prantsusmaa andmekaitseasutus CNIL kirjeldab väljakutset oma küsimustes ja vastustes generatiivse tehisintellekti kohta (tsitaadid prantsuse keelest tõlgitud). API puhul on „süsteemi kontroll siis peaaegu täielikult teenusepakkuja käes“; kohapealne paigaldus võimaldab seevastu „piirata andmete kolmanda osapoole poolt väljavõtmise riske“, hinnaks käitamine, mille peab ise enda kanda võtma. Ükski tase ei sobi kõigeks ja üks ja sama ettevõte võib kasutada mitut.

Tase 1: muutmata API

See on enamiku projektide lähtepunkt: API-võti, turul olev mudel, teenusepakkuja üldtingimused. Suured tootjad võtavad oma ärilise pakkumise puhul kohustusi: Anthropicu andmete säilitamise lehekülg sätestab, et säilitatud andmeid ei kasutata kunagi mudelite treenimiseks ilma kliendi selgesõnalise loata.

See tase ei taga töötlemise asukohta. Anthropicu otse-API puhul valitakse 2026. aasta oktoobris järeldamise geograafia väärtuste „global“ (mis tahes piirkond) ja „us“ (Ameerika Ühendriigid) vahel, ilma Euroopa valikuta, ning säilitatud andmeid hoitakse Ameerika Ühendriikides, mis on ainus pakutav salvestuspiirkond. Avaliku sisu jaoks (tootelehed, artiklid, juba avaldatud lehed) piisab sageli sellest tasemest ja see on kõige odavam. Isikuandmete jaoks on vaja vähemalt järgmist taset.

Ja sellel tasemel pole midagi pistmist laiale avalikkusele mõeldud tellimusega, mille töötaja on avanud oma isikliku aadressiga. Selliste teenuste puhul soovitab CNIL „mitte kunagi jagada konfidentsiaalset teavet, nagu isikuandmeid või ettevõtte andmeid“.

Tase 2: lepinguga seotud API

Sama mudel, sama jõudlus, kolm lisalukku:

• Volitatud töötleja leping. Niipea kui teie päringud sisaldavad isikuandmeid, töötleb teenusepakkuja neid teie nimel, ja isikuandmete kaitse üldmääruse artikkel 28 nõuab lepingut, mis määrab, mida tal on nendega lubatud teha.
• Mittesäilitamine. Anthropicu juures taotletakse „null säilitamise“ kokkulepet müügimeeskonnalt ja sellel on erandeid.
• Töötluspiirkond. Suure pilve kaudu (Amazon Bedrock, Google Cloud) valitakse piirkondlik pöörduspunkt, mis tagab andmete liikumise kindla geograafilise piirkonna kaudu; Anthropicu hinnakiri märgib, et see maksab 10 % rohkem kui ülemaailmne pöörduspunkt. Siis saab volitatud töötlejaks pilveteenuse pakkuja ja jääb üle kontrollida, kas soovitud mudelit pakutakse valitud piirkonnas.

Selle taseme piir mahub ühte lausesse: leping reguleerib, mida teenusepakkuja teie andmetega teeb, see ei vabasta teda tema riigi seadustest. Kui taristu on väljaspool Euroopa Liitu või seda „käitab mitte-Euroopa teenusepakkuja“, nõuab CNIL lisaks andmete töötlemise reguleerimist nende saaja poolt. Kirjeldame neid kohustusi oma juhendis Tehisintellekt, isikuandmete kaitse üldmäärus ja AI Act: mida VKE peab tegema.

Tase 3: avatud mudel privaatses pilves Euroopas

Siin ei rendita enam teenust, vaid masinat. Mõned tootjad avaldavad oma mudelite „kaalud“ ehk mudeli enda: Prantsuse Mistral AI avaldab nii mitu oma mudelit, Ministral 3-st kuni Mistral Large 3-ni, Apache 2.0 litsentsi all. Need paigaldatakse Euroopa majutusteenuse pakkujalt renditud graafikakaardiga serverisse ja päringud ei lahku enam sellest taristust. Muutub kolm asja:

• Arve makstakse masina eest, olgu see töös või mitte: see on huvitav regulaarse mahu korral, palju vähem mõne päringu jaoks päevas.
• Kvaliteet sõltub mudelist, mida masin käitab. Mõistliku suurusega avatud mudelist võib piisata sorteerimiseks, väljavõtmiseks või kokkuvõtteks; seda hinnatakse oma näidete põhjal, enne kui talle ülesanne usaldatakse.
• Käitamine jääb teile: uuendused, jälgimine, varukoopiad. See on selle taseme tegelik kulu ja see ei ole ühelgi hinnakirjal.

Tase 4: kohapeal

Mudel töötab teie ruumidesse paigaldatud masinal. Kui süsteemile usaldatakse klientide või töötajate andmeid või tundlikku või strateegilist dokumentatsiooni (näiteks RAG-i jaoks), kirjutab CNIL, et „üldiselt tundub otstarbekam ja turvalisem“ eelistada kohapealset paigaldust, märkides samas, et selle paigaldamise ja käitamise kulu muudab sageli „lihtsamaks“ kaugmajutuse kasutamise.

Ja kuidas on lood RAG-iga?

RAG (otsinguga täiendatud genereerimine) annab mudelile iga küsimuse juures teie dokumentide väljavõtted, mis sellele vastavad. Otsene tagajärg: teie dokumentide väljavõtted lähevad sinna, kus mudel töötab. Teie lepingute RAG, mis on ühendatud 1. taseme API-ga, saadab iga küsimuse juures lepingute osi teenusepakkujale. Lisaks mudelile tuleb kontrollida kaht asja:

• vektorandmebaas, mis salvestab teie tükeldatud ja indekseeritud dokumente, peab olema mudeliga samal kontrollitasemel;
• „embedding’ute“ arvutamine, need numbrilised sõrmejäljed, millega õiged lõigud üles leitakse, käib sageli teise API kaudu: see on teine andmevoog, mis tuleb reguleerida.

CNIL täpsustab, et ettevõte, kes „otsustab ühendada süsteemi oma teadmusbaasiga (RAG)“, vastutab selle töötlemise eest niipea, kui baas sisaldab isikuandmeid. Ülejäänut kirjeldame oma artiklis RAG ettevõtte dokumentide jaoks.

Kuidas valida õige tase, ülesande kaupa

CNIL soovitab „lähtuda konkreetsetest vajadustest, et valida kõige sobivam süsteem, ja arvestada kaasnevate riskidega“. Lähtume seega raamistikust, mis liigitab andmeid, mitte tööriistu:

See raamistik on meie oma, mitte standard. Teenusepakkuja kohustust kontrollitakse valiku tegemisel, raamistikku arutatakse teie andmekaitseametnikuga ja see muutub, kui teie kliendilepingud nõuavad kindlat majutust.

Üks rakendus võib tasemeid segada: suunaja saadab iga päringu selle andmetele sobivale tasemele, turul oleva mudeli avaliku jaoks, kohaliku mudeli selle jaoks, mis puudutab inimesi. Reegel peab siis olema kirja pandud, testitud ja logitud, sest kogemata 1. tasemele saadetud tundlik andmeühik on intsident, mida tuleb sellisena käsitleda.

Mida need tasemed ei lahenda

Ükski tase ei muuda mudelit usaldusväärseks: teie juurde paigaldatud mudel eksib sama palju kui mõni teine ja tema vastuseid kontrollitakse samamoodi. Ükski ei asenda kasutusreegleid, mida CNIL soovitab kehtestada „sisemiste poliitikate või hartadega, mis määratlevad selgelt lubatud ja keelatud kasutused“. Taseme valik on vaid üks viiest otsusest meie juhendis tehisintellekti juurutamine ettevõttes, koos ülesande, mudeli, kulu ja nende reeglitega. Ja oma server ilma uuenduste ja varukoopiateta kaitseb vähem kui hästi hoitud 2. tase.

Kust alustada

Lähtepunkt mahub kolme sammu:

1. 01Loetleda.

   Pange kirja oma praegused kasutused, andmed, mida igaüks neist saadab, ja tase, millel see täna töötab.

2. 02Võrrelda.

   Pange oma kasutused raamistiku kõrvale: lõhe torkab silma.

3. 03Hinnata kulu.

   Enne kasutuse ümberpaigutamist arvutage, mida sihttase maksaks: ühelt poolt kasutuspõhised tokenid, teiselt poolt masin ja selle käitamine.

Et saada oma andmete tundlikkuse raamistik ja teada, millised kasutused võivad jääda sinna, kus nad on, vaadake meie pakkumist tehisintellekt õiglase hinnaga.

Korduma kippuvad küsimused

Allikad

1. Oma küsimustes ja vastustes generatiivse tehisintellekti kohta (uus vahekaart)cnil.fr
2. Andmete säilitamise lehekülg (uus vahekaart)platform.claude.com
3. Järeldamise geograafia (uus vahekaart)platform.claude.com
4. Isikuandmete kaitse üldmääruse artikkel 28 (uus vahekaart)cnil.fr
5. Anthropicu hinnakiri (uus vahekaart)platform.claude.com
6. Apache 2.0 litsentsi all (uus vahekaart)docs.mistral.ai
7. Cloud Act (uus vahekaart)law.cornell.edu