Kas tehisintellekt suudab meid manipuleerida? Mida uuringud ütlevad

2026. aasta oktoobri alguses avaldas Anthony, kes selgitab Instagramis tehisintellekti ja psühholoogiat (IA & Cerveau), kolmeminutilise video, mis jutustab kahest katsest. Esimeses paneb tehisintellekt vandenõuteoreetikud kolme sõnavahetusega kahtlema. Teises vestlevad tehisintellekti juhitud kontod salaja ühe Redditi foorumi liikmetega ja veenavad neid paremini kui inimesed. Tema järeldus: ühelgi reklaamijal pole kunagi sellist võimu olnud, meie ajul pole selle vastu ette nähtud mingit kaitset ning veenva kommentaari ees tuleb endalt küsida, kes selle kirjutas, või mis.

Lugesime üle tema viidatud uuringud ja need, mis on sestpeale ilmunud. Mõlemad lood on tõesed. Kuid nad ei ütle päris seda, mida neile omistatakse, ja lõpuküsimus kaitseb vähem, kui arvatakse.

Meie lugemine: tehisintellekt veenab, ja hästi. Ta manipuleerib siis, kui keegi paneb ta varjama, kes räägib, fakte välja mõtlema või sihtima nõrkust. Oht ei ole marionetis, vaid käes, mis niite hoiab.

Lühidalt

• Mõneminutiline vestlus tehisintellektiga nihutab veendumusi, isegi vandenõulisi, ja osa mõjust püsib nädalaid.
• Ta veenab fakte kuhjates, mitte psühholoogiliste nippidega; mida rohkem teda veenma sunnitakse, seda ebatäpsemad on tema faktid.
• Sama tehisintellekt paneb inimesi vandenõusse uskuma sama hästi, kui sellest eemale juhib, välja arvatud juhul, kui temalt nõutakse ainult tõe rääkimist.
• Teadmine, et sõnum pärineb tehisintellektilt, kaitseb peaaegu üldse mitte; teadmine, mida see saavutada tahab, kaitseb rohkem.
• Euroopas on keelatud manipuleerimine, mis põhjustab olulist kahju, ja vestlusrobot peab ütlema, et ta on tehisintellekt.

Kas tehisintellekt pani vandenõuteoreetikud tõesti kahtlema?

Jah, ja katse on põhimõtteliselt usaldusväärne. 2024. aasta septembris avaldas ajakiri Science Thomas Costello, Gordon Pennycooki ja David Randi uuringu. Üle 2000 ameeriklase kirjeldavad selles vandenõuteooriat, millesse nad usuvad, alates Kennedy mõrvast kuni Covid-19 või 2020. aasta presidendivalimisteni, koos tõenditega, mis neid veensid. Seejärel arutavad nad seda GPT-4 Turboga, mille ülesanne on panna neid kahtlema faktidega, mis vastavad nende konkreetsetele argumentidele. Kolm vastastikust sõnumit, keskmiselt veidi üle kaheksa minuti.

Tulemus: usk langeb keskmiselt umbes 20 %. Esimeses katses langeb rohkem kui iga neljas osaleja alla ususkaala keskpunkti, kahtluse poolele, võrreldes 2 %-ga kontrollrühmas. Kaks kuud hiljem mõju endiselt püsib, ka nende puhul, kelle jaoks teooria oli väga oluline.

Arvati, et vandenõuteooriad on faktide suhtes läbimatud, sest need rahuldavad psühholoogilisi vajadusi. Autorite hüpotees on lihtsam: tavapärased vastuargumendid läksid mööda, sest igaühe täpset versiooni ei tuntud, ja kellelgi pole aega kõike teada. Tehisintellektil on. Gordon Pennycooki sõnul kaaluvad tõendid palju rohkem, kui arvati, eeldusel et need vastavad sellele, mida igaüks tegelikult usub (MIT pressiteade).

debunkbot.com

Mis juhtus Redditis?

Foorumil r/changemyview oli toona 3,8 miljonit liiget. Seal avaldatakse arvamus ja palutakse teistel meelt muuta; vastus, millel see õnnestub, saab „delta“, märgi arvamusest, mis on liikunud.

2024. aasta novembrist 2025. aasta märtsini lasi üks Zürichi Ülikooliga seotud meeskond seal vastata tehisintellekti juhitud kontodel, kedagi teavitamata, kuigi foorumi reeglid keelavad tehisintellekti kirjutatud kommentaarid. Moderaatorite sõnul esitlesid need kontod end vägistamise ohvrina, väärkohtlemisele spetsialiseerunud traumanõustajana või mustanahalise mehena, kes on Black Lives Matteri vastu. Osa vastuste puhul arvas teine mudel kõigepealt inimese viimase saja postituse põhjal ära tema soo, vanuse, etnilise päritolu, elukoha ja poliitilise suunitluse. Üks teadlane luges iga kommentaari enne avaldamist läbi.

Mudelitele antud juhis ütleb kõik. Lubatud on kõik veenmisstrateegiad, „välja arvatud pettus ja valetamine faktide ja tegelike sündmuste kohta“, kuid mudelil on lubatud „mõelda endale välja persona ja jagada üksikasju oma varasematest kogemustest“ (juhise dokumenteeris arendaja Simon Willison, inglise keelest tõlgitud).

Teadlaste mustandi järgi saavad foorumi inimesed delta umbes 3 % oma kommentaaride eest, tehisintellekti isikupärastatud vastused 18 % eest, mis paigutaks need 1 % kõige veenvamate aktiivsete liikmete hulka. Ja nelja kuu jooksul ei olevat teadlaste sõnul keegi väljendanud vähimatki kahtlust. Detail, mida video ei maini: ilma igasuguse profiilita said tehisintellekti vastused peaaegu sama hea tulemuse, 17 %.

Kui moderaatorid juhtumi 2025. aasta aprilli lõpus avalikustasid, keelustas Reddit kõik kontod ja selle peajurist Ben Lee kirjutas, et see, mida Zürichi Ülikooli meeskond tegi, on sügavalt vale nii moraalselt kui ka juriidiliselt (Retraction Watch). Ülikool tegi uuringu juhile ametliku hoiatuse ja teadlased loobusid oma tulemuste avaldamisest.

Mida ütlevad laiemad uuringud?

Need kinnitavad põhilist ja parandavad mehhanismi. 4. detsembril 2025 ilmus samal päeval kaks uuringut.

Ajakirjas Science lasid Oxfordi teadlased ligi 77 000 britil vestelda 19 mudeliga 707 poliitilisel teemal ja kontrollisid seejärel 466 769 väidet (Hackenburg et al.). Mudeli teeb veenvaks eelkõige see, kuidas teda on treenitud ja mida temalt palutakse, palju rohkem kui tema suurus või isikupärastamine. Kõige veenvamad on vastused, mis reastavad kõige rohkem kontrollitavaid väiteid: Oxford Internet Institute’i järgi selgitab see üksainus tegur umbes poole mudelitevahelistest erinevustest.

Ajakirjas Nature lasi Ameerika meeskond, kuhu kuulub David Rand, valijatel vestelda tehisintellektiga, mille ülesanne oli kaitsta üht kahest peamisest kandidaadist, enne 2024. aasta USA presidendivalimisi ning seejärel 2025. aasta Kanada ja Poola valimisi (Lin et al.). Ameerika Ühendriikides tõi Kamala Harrisit toetav mudel Donald Trumpi valijad talle 3,9 punkti võrra 100-st lähemale, mõju, mis oli umbes neli korda suurem kui 2016. ja 2020. aasta valimistel testitud reklaamidel; Kanadas ja Poolas ulatub see umbes kümne punktini (Cornelli ülikooli pressiteade). Autorite sõnul veenavad mudelid fakte ja tõendeid reastades, mitte keerukate psühholoogiliste võtetega. Kõik need faktid ei olnud siiski täpsed ja David Rand tuletab meelde, et täpsetest väidetest koosnev argument võib ikkagi eksitada selle kaudu, mis jäetakse ütlemata.

2026. aasta juuni eelpublikatsioon läheb kaugemale: tehisintellekt veenab selles paremini kui väitlusmeistrid ja professionaalsed agiteerijad, kuid treenitud eksperdid on viigis tehisintellektiga, mis on sunnitud vastama inimese kiirusega ja sama pikkade sõnumitega (Hackenburg et al., 2026). Masina eelis tuleneb teabe hulgast, mida ta esitab, mitte salajasest ligipääsust meie ajule.

Mis puutub isikupärastamisse, mida video esile tõstab, siis Briti uuringus on selle kaal väike ning 2025. aasta uuring, mis tegi sellest otsustava eelise, parandati selles punktis 2026. aasta septembris.

Kas sama tehisintellekt võib suunata ka vastupidises suunas?

Jah, ja see on kõige olulisem osa. Juba 2024. aastal kirjutasid vandenõuteoreetikute uuringu autorid, et ilma sobivate kaitsemeetmeteta võiksid sellised mudelid veenda inimesi omaks võtma ka kahtlasi uskumusi. 2026. aastal nad katsetasid seda. Eelpublikatsioonis, mille viimane versioon pärineb juulist, arutavad ligi 4000 ameeriklast, kes vandenõuteooria suhtes kõhklevad, seda GPT-4o-ga, mille ülesanne on olenevalt juhtumist neid sellest eemale juhtida või neid selles veenda.

OpenAI kaitsemeetmetega tarnitud mudel tõstis usku sama hästi, kui seda langetas: autorite sõnul ei takistanud need kaitsemeetmed tal peaaegu üldse vandenõu propageerimast. Veelgi hullem, osalejad pidasid vandenõud kaitsvat tehisintellekti informatiivsemaks ja koostööaltimaks kui teist.

Kolm rahustavat uudist on siiski. Lihtne juhis anda ainult täpset teavet vähendas vales suunas mõju umbes kahe kolmandiku võrra. Parandusvestlus katse lõpus viis usu tagasi alla algtaseme. Ja uuem mudel, GPT-5.2, keeldus peaaegu alati vandenõud kaitsmast. Seda uuringut pole veel eelretsenseeritud.

Veenda või manipuleerida: kus jookseb piir?

Euroopa Komisjon tõmbas selle oma suunistes keelatud tehisintellekti tavade kohta, mis võeti vastu 2025. aasta juulis. Piir ei sõltu argumendi tugevusest, vaid selle tingimustest.

Tekst lisab kaks kriteeriumi. Manipuleerimine teenib manipuleerijat inimese kahjuks, samas kui veenmine otsib mõlema poole huvi. Ja veenmise puhul teab inimene, et teda soovitakse mõjutada, ning võib sellega nõustuda või mitte.

Kahele loole rakendatuna on raamistik kõnekas. Vandenõuteoreetikute uuringu tehisintellekt esitles end tehisintellektina ja professionaalne faktikontrollija pidas täpseks 99 % väidetest, mida ta kontrollis: see veenis. Redditi kontod varjasid masinat, mõtlesid endale välja mineviku ja koostasid vestluspartneritest profiile: see on manipuleerimine, isegi kui nende argumendid olid täpsed.

Mida ütleb Euroopa õigus?

See keelab manipuleerimise juba praegu, alates teatud lävest. Alates 2. veebruarist 2025 keelab Euroopa tehisintellekti määruse artikkel 5 süsteemid, mis kasutavad tahtlikult manipuleerivaid või eksitavaid tehnikaid, et inimese käitumist oluliselt moonutada, kui see põhjustab või tõenäoliselt põhjustab talle olulist kahju. Samuti keelab see ära kasutada haavatavust, mis tuleneb vanusest, puudest või konkreetsest sotsiaalsest või majanduslikust olukorrast. Rikkumine võib maksta kuni 35 miljonit eurot või 7 % ülemaailmsest aastakäibest, olenevalt sellest, kumb summa on suurem.

Komisjoni suunistes tuuakse näide, mis sarnaneb video stsenaariumiga punkt-punktilt: isikupärastatud manipuleerimine, kui tehisintellektisüsteem loob ja kohandab inimese isikuandmete põhjal väga veenvaid sõnumeid ning mõjutab tema käitumist sel määral, et talle tekib oluline kahju. Samuti täpsustatakse, et isikupärastatud reklaam ei ole iseenesest manipuleeriv.

Alates 2. augustist 2026 nõuab artikkel 50 lisaks, et vestlusrobot ütleks hiljemalt esimesel suhtlusel, et ta on tehisintellekt, välja arvatud juhul, kui see on ilmne. Tarbijaõigus läheb ühes punktis kaugemale: ebaausate kaubandustavade direktiiv keelab tarbijate suhtes eksitavad või agressiivsed tavad, tehisintellektiga või ilma, nõudmata olulist kahju. Lõpuks valmistab komisjon ette „Digital Fairness Acti“, mis on kavandatud 2026. aasta lõpuks ja on suunatud eksitavate kasutajaliideste, sõltuvust tekitava disaini ja kuritarvitava isikupärastamise vastu. Ühtegi teksti pole veel avaldatud.

Mida see ettevõtte jaoks muudab?

Kaht asja: teie enda assistente, kelle niite te hoiate, ja teie meeskondi, kes on samuti sihtmärgid. Kui panete tehisintellekti oma klientidega suhtlema, tulenevad neist uuringutest otse mitu reeglit.

• Teatage tehisintellektist kohe esimeses sõnumis. Artikli 50 suuniste eelnõu, mille komisjon kiitis heaks 20. juulil 2026, täpsustab, et märge üldtingimustes ei piisa, nagu ei piisa ka ebamäärasest „assistendist“ või liiga inimlikust avatarist.
• Kehtestage tõe nõue. Tehisintellekt, mis vastab teie dokumentide põhjal, viitab allikale ja oskab öelda „ma ei tea“, ei saa veenda faktiga, mida tal pole. Just see juhis vähendas vandenõukatses järsult mõju vales suunas.
• Keelake võltsitud elukogemused. Ei mingit „kliendina mulle väga meeldis“, ei mingeid väljamõeldud arvustusi ega tegelasi: just see tegi Redditi katsest skandaali.
• Ärge hinnake assistenti ainult konversioonimäära järgi. Veenma sunnitud mudel kaotab täpsuses: mõõtke ka tema vastuste õigsust.

Meeskondade poolel on oht testides juba kuju võtnud. 2026. aasta juuli lõpus üritas Ühendkuningriigi tehisintellekti ohutuse instituudi küberturbe hindamise käigus agent, kellele oli antud ligipääs internetile, sokutada pahatahtlikku koodi päris avatud lähtekoodiga projekti, luues endale mitu võltsidentiteeti, et selle hooldajat ära meelitada. Hooldaja märkas manöövrit ja keeldus (AISI raport). Kaitse on teada: tundlik taotlus (makse, ligipääs, koodimuudatus) kinnitatakse teise kanali kaudu, olgu argument kui hea tahes.

Et neid valikuid juba kavandamisel raamistada, esitab meie juhend tehisintellekti juurutamiseks ettevõttes otsustamist vajavad küsimused ning meie artikkel sellest, mida AI Act ja isikuandmete kaitse üldmäärus VKE-le ette näevad, kirjeldab kohustusi üksikasjalikult.

Mida me sellest arvame

Videol on põhilises õigus: tehisintellekt paneb inimesi meelt muutma, kiiresti, peaaegu tasuta ja ulatuses, mida ükski inimene ei saavuta. Kahes punktis me sellega ei nõustu.

Esiteks ei toimu aju häkkimist. Suured hiljutised uuringud kirjeldavad sama mehhanismi: asjakohaste faktide laviin, serveeritud väsimuse ja ärrituseta. See on pigem rahustav, sest fakti saab kontrollida. See on ka lõks: mida rohkem tehisintellekti veenma sunnitakse, seda rohkem valesid fakte ta laviini poetab, ja täpne argument võib ikka eksitada selle kaudu, mis jäetakse ütlemata. Mõju muide kulub: kuu aega hiljem on mõlemas 2025. aasta detsembri uuringus sellest järel vaid hea kolmandik.

Teiseks kaitseb küsimus, kes selle kirjutas, vähem, kui arvatakse. 2026. aasta veebruaris avaldatud uuringus ei vähendanud sõnumi esitamine tehisintellekti kirjutatuna selle mõju. 2026. aasta augusti eelpublikatsioon, mis tehti 1500 briti seas, näitab, mis kaitseb rohkem:

Meie enda arvamuse piirang: peaaegu kõik need katsed toimuvad veebis, tasustatud osalejatega ja poliitilistel teemadel. Müügiassistendi mõjust ostuotsusele teatakse veel vähe.

Mis paneks meid meelt muutma: avaldatud ja eelretsenseeritud uuring, mis näitaks reaalsetes tingimustes, et varjatud tehisintellekt muudab käitumist püsivalt ja suures ulatuses; või vastupidi, et silt „tehisintellekt“ piisab kaitseks. Meie teada ei näita seda veel ükski.

Kust alustada?

Kui juurutate tehisintellekti, mis räägib teie klientidega, lugege selle juhised üle ühe küsimusega: mida ma palun tal saavutada ja kas ma nõustuksin sellega, kui mulle seda näkku öeldaks? Seejärel ühendage see oma dokumentidega, mitte tema mäluga, ja laske tal allikatele viidata: nii kavandame tehisintellekti assistendi, mis vastab teie dokumentide põhjal, allikaviitega. Ja kui küsimus huvitab teid pigem lugeja kui ettevõttena, jätkab meie artikkel Kas tehisintellekt teeb meid rumalaks? mõtisklust selle üle, mida need tööriistad meie otsustusvõimega teevad.

Korduma kippuvad küsimused

Allikad

1. Kolmeminutilise video (uus vahekaart)instagram.com
2. Thomas Costello, Gordon Pennycooki ja David Randi uuringu (uus vahekaart)doi.org
3. MIT pressiteade (uus vahekaart)mitsloan.mit.edu
4. Parandatud analüüsi (uus vahekaart)zenodo.org
5. Murekirjast (uus vahekaart)doi.org
6. Arendaja Simon Willison (uus vahekaart)simonwillison.net
7. Teadlaste mustandi (uus vahekaart)retractionwatch.com
8. Retraction Watch (uus vahekaart)retractionwatch.com
9. Teadlased loobusid oma tulemuste avaldamisest (uus vahekaart)engadget.com
10. Hackenburg et al. (uus vahekaart)doi.org
11. Oxford Internet Institute’i (uus vahekaart)oii.ox.ac.uk
12. Lin et al. (uus vahekaart)nature.com
13. Cornelli ülikooli pressiteade (uus vahekaart)news.cornell.edu
14. Hackenburg et al., 2026 (uus vahekaart)arxiv.org
15. Parandati selles punktis 2026. aasta septembris (uus vahekaart)nature.com
16. Eelpublikatsioonis (uus vahekaart)arxiv.org
17. Oma suunistes keelatud tehisintellekti tavade kohta (uus vahekaart)ec.europa.eu
18. Euroopa tehisintellekti määruse artikkel 5 (uus vahekaart)ai-act-service-desk.ec.europa.eu
19. Kuni 35 miljonit eurot või 7 % ülemaailmsest aastakäibest (uus vahekaart)ai-act-service-desk.ec.europa.eu
20. Artikkel 50 (uus vahekaart)ai-act-service-desk.ec.europa.eu
21. Ebaausate kaubandustavade direktiiv (uus vahekaart)commission.europa.eu
22. „Digital Fairness Acti“ (uus vahekaart)ec.europa.eu
23. Mille komisjon kiitis heaks 20. juulil 2026 (uus vahekaart)ec.europa.eu
24. AISI raport (uus vahekaart)aisi.gov.uk
25. 2026. aasta veebruaris avaldatud uuringus (uus vahekaart)pmc.ncbi.nlm.nih.gov