Automatiseeritud otsus: kas tehisintellekt võib üksi otsustada?

Tarkvara oskab sorteerida kandideerimisavaldusi, hinnata krediidiriski, kohandada hinda või märgistada töötaja „madala tulemuslikkusega“ töötajaks. Küsimus ei ole enam selles, kas ta on selleks võimeline, vaid kas sellist automatiseeritud otsust saab teha ilma inimeseta, kes selle kinnitab.

Mõlemal vastasleeril on tugev argument ja õigus on juba hakanud otsustama, nii Euroopas kui ka Californias. VKE jaoks, kes automatiseerib oma personalitööd või hindu, on küsimus väga konkreetne: teada, milliseid otsuseid jätta tarkvarale ja milliseid lasta kellelgi kinnitada.

Lühidalt

• Alates 2018. aastast annab isikuandmete kaitse üldmäärus õiguse, et teda ei allutataks üksnes automatiseeritud töötlusel põhinevale otsusele, välja arvatud reguleeritud erandid.
• Töölevõtmise, personalijuhtimise ja krediidi puhul hakkavad Euroopa tehisintellekti määruse suure riskiga süsteemide erikohustused kehtima alates 2. detsembrist 2027.
• Californias keelab 30. septembril 2026 allkirjastatud seadus alates 1. juulist 2027 karistada või vallandada üksnes automatiseeritud süsteemi alusel.
• VKE jaoks algab tegevus automaatsete otsuste inventuurist ja seejärel nende otsuste jälgitavast kinnitamisest, mis puudutavad inimest.

Seisukoht 1: algoritm on õiglasem kui kiirustav inimene

Automatiseeritud otsuste pooldajatel on head argumendid. Väsinud või kiirustav inimene ei hinda kahte identset toimikut ühtmoodi. Süsteem rakendab kõigile samu kriteeriume, igal kellaajal, ilma soosimise ja sümpaatiata. See suudab menetleda tuhandeid laenutaotlusi mõne sekundiga, milleks meeskonnal kuluks nädalaid, ja jätab jälje igast kasutatud kriteeriumist.

Nad lisavad, et inimeste eelarvamusi dokumenteeritakse harva, samas kui algoritmi omi saab mõõta: mudelit saab testida tuhandete väljamõeldud juhtumitega ja parandada seda, mis rööpast välja läheb, mida värbajaga kunagi ei tehta.

Seisukoht 2: elu puudutav otsus peab olema selgitatav

Vastaspoole argument mahub ühte lausesse: vallandatud töötaja või klient, kellele laenu ei anta, peab saama aru, miks, ja vaidlustada otsuse kellegi ees, kes saab seda muuta. Keelemudel ei oska alati selgitada, mis ta vastuseni viis, ja varasemate otsuste põhjal treenitud süsteem kordab nende otsuste eelarvamusi, neutraalsuse näilisusega.

See leer rõhutab ka vastutuse hajumise riski: kui „otsustas süsteem“, ei tunne enam keegi end vastutavana. Seisukoha 1 kiirustaval juhil on vähemalt nimi.

Mida õigus juba ütleb

Euroopas alates 2018. aastast. Isikuandmete kaitse üldmääruse artikkel 22 sätestab, siin ingliskeelses versioonis:

Tekst näeb ette kolm erandit: otsus on vajalik lepingu sõlmimiseks või täitmiseks, see on lubatud liidu või liikmesriigi õigusega või see põhineb isiku selgesõnalisel nõusolekul. Lepingu ja nõusoleku puhul peab ettevõte tagama vähemalt õiguse nõuda inimese sekkumist, väljendada oma seisukohta ja otsus vaidlustada; kui otsuse lubab seadus, peab see ise ette nägema asjakohased meetmed.

Euroopa tehisintellekti määrus. Tehisintellekti määruse III lisa liigitab suure riskiga süsteemide hulka need, mida kasutatakse kandidaatide värbamiseks ja valimiseks, need, mis teevad otsuseid edutamise või vallandamise kohta, need, mis jälgivad ja hindavad töötajate tulemuslikkust, ning need, mis hindavad inimeste krediidivõimelisust või määravad nende krediidiskoori, välja arvatud finantspettuste avastamine. Nende süsteemide erinõuded ja -kohustused hakkavad kehtima alates 2. detsembrist 2027: 8. juuli 2026. aasta määrus (EL) 2026/1744 lükkas selle tähtaja edasi, algselt oli see määratud 2. augustiks 2026. Tööandja, kes kasutab mõnda neist süsteemidest, peab siis enne selle kasutuselevõttu teavitama töötajate esindajaid ja asjaomaseid töötajaid (artikkel 26). Artiklis 86 näeb tekst ette ka otsusest mõjutatud isiku õiguse saada selgeid ja sisulisi selgitusi tehisintellektisüsteemi rolli kohta otsustusmenetluses ja tehtud otsuse peamiste elementide kohta.

Californias 2026. aasta septembri seadus. Kuberner allkirjastas 30. septembril 2026 „No Robo Bosses Acti“, nagu selle autor seda nimetas, ja seaduse SB 947 ametlik tekst näeb ette, et see kehtib alates 1. juulist 2027. See keelab tööandjal tugineda töötaja karistamisel või vallandamisel üksnes automatiseeritud otsustussüsteemile. Kui tööandja tugineb sellisele süsteemile peamiselt, peab inimene otsust kinnitama kasutatud andmete või muude elementide põhjal, näiteks töötaja hinnangute või personalitoimiku alusel; kui see ei õnnestu, ei tohi süsteemi väljundit kasutada. Töötaja saab ka otsuse teatavakstegemisel kirjaliku teate, milles öeldakse, et otsus põhines peamiselt süsteemil ja et inimene on seda kontrollinud.

Aga hinnad? Kõigile kuvatav hind ei ole üldjuhul isikuandmete kaitse üldmääruse mõistes üksikotsus. Isikupärastatud hind, mis arvutatakse inimesele tema profiili põhjal, on sellele lähemal ja kuulub ka tarbijaõiguse alla. See on kolmest valdkonnast kõige vähem selge.

Mida me sellest arvame

Arvame, et mõlemal seisukohal on ühes punktis õigus. Algoritm on sageli järjekindlam kui inimene ja see on tõeline argument selle kasutamiseks. Kuid järjekindlus ei ole õiglus: süsteem võib olla täiesti järjekindel eksimuses, tuhandete toimikute puhul korraga. Ja otsus, mida ei saa ei selgitada ega kellegi ees vaidlustada, ei ole vastuvõetav, kui see puudutab töökohta või laenu.

Reegel, mida kaitseme, mahub ühele reale: inimene kinnitab kõik, mis seob ettevõtet kellegi ees või puudutab raha. Süsteem valmistab ette, sorteerib, märgistab, pakub välja; nimeliselt määratud inimene otsustab ja oskab öelda, miks. Meie enda kulude sisestamise agent, mis on tootmises alates 2026. aasta juulist, järgib seda skeemi:

Sisemised ülesanded, millel pole inimesele tagajärgi, võivad seevastu käia automaatselt, valimipõhise ülevaatusega.

Mis paneks meid meelt muutma: süsteemid, mis suudavad iga otsust kontrollitaval viisil selgitada, sõltumatu kolmanda osapoole poolt auditeeritud, ja tõhus edasikaebamise võimalus inimese poole. Keelemudelitega me nii kaugel ei ole.

Mida see ettevõtte jaoks konkreetselt muudab

Tegevus koosneb viiest sammust:

1. 01Automatiseeritud otsuste inventuur.

   Loetlege, mida teie tööriistad juba üksi otsustavad: meeldetuletused, konto blokeerimised, potentsiaalsete klientide hindamine CRM-is, kandideerimisavalduste sorteerimine, antud allahindlused. Harjutus võib päevavalgele tuua automaatseid otsuseid, mida keegi polnud vormistanud.

2. 02Liigitamine kaalu järgi.

   Potentsiaalse kliendi prioriteedihinne ei kaalu sama palju kui laenust keeldumine või töötaja tulemuslikkuse hoiatus. See, mis inimest oluliselt mõjutab, käib läbi inimese kinnituse.

3. 03Kinnituse jälje säilitamine.

   Märkige üles, kes kinnitas, milliste andmete põhjal ja mis kuupäeval. Hästi peetud CRM-is on see väli ja ajalugu, mitte suurprojekt. Tööriista valikul võrdleb meie juhend valik Twenty, Dolibarri ja Odoo vahel kõiki kolme ning rubriik CRM ja kliendiandmed käsitleb ka olemasolevate andmete ülevõtmist.

4. 04Selgituse ja edasikaebamise ettenägemine.

   Valmistage iga tundliku otsuse jaoks ette vastus küsimusele „miks?“ ja lihtne viis selle vaidlustamiseks. Seda nõuab juba isikuandmete kaitse üldmäärus ja seda näeb tehisintellekti määrus ette suure riskiga kasutusviiside jaoks. Meie juhend AI Act ja isikuandmete kaitse üldmäärus VKE jaoks kirjeldab üksikasjalikult, mida need kasutusviisid neid juurutavale ettevõttele panevad.

5. 05Teavitamine enne juurutamist.

   Kui tööriist puudutab personalijuhtimist, teavitage esindajaid ja asjaomaseid töötajaid enne selle kasutuselevõttu ning koolitage seda kasutavaid juhte selle vigu märkama. Automatiseerimised, mis kaotavad ülesandeid, tõstatavad ka nooremtöötajate õppimise küsimuse, mida käsitleme oma analüüsis tehisintellektist ja noorte esimesest töökohast.

Kust alustada

Õigus ei keela automatiseerida: see ei luba, et masin otsustaks üksi seda, mis mõjutab inimese elu. Esimene samm on seega eespool kirjeldatud inventuur, seejärel kinnitusväli ja ajalugu tööriistas, kus neid otsuseid tehakse, sageli CRM-is. Kui teie oma ei võimalda öelda, kes mida kinnitas, hõlmab meie teie sõnavaraga seadistatud CRM-i juurutamine seda seadistust ja teie olemasolevate andmete ülevõtmist. Et valida, mida esimesena automatiseerida, vaadake rubriiki Automatiseerimine ja robotid.

Korduma kippuvad küsimused

Allikad

1. Isikuandmete kaitse üldmääruse (uus vahekaart)eur-lex.europa.eu
2. Tehisintellekti määruse (uus vahekaart)eur-lex.europa.eu
3. 8. juuli 2026. aasta määrus (EL) 2026/1744 (uus vahekaart)eur-lex.europa.eu
4. Seaduse SB 947 ametlik tekst (uus vahekaart)leginfo.legislature.ca.gov