Viimastel päevadel on tehnoloogiamaailma raputanud teade ohtlikust turvaveast tehisintellektisüsteemis Google Gemini. Küberturbeeksperdid hoiatavad, et seda viga võib kasutada nii andmete vargusteks kui ka manipuleerimiseks.
Google ei plaani viga parandada
Ettevõte Google on avalikult teatanud, et ei kavatse seda turvanõrkust parandada. Pahekohtadest teatas küberturbeuurija Viktoras Markopoulos, kes kirjeldas uut ründetüüpi, mida nimetatakse „ASCII smuggling“.
Selle ründe olemus seisneb varjatud sümbolites või Unicode’i märkides, mis näivad inimesele tavalise tekstina, kuid mida tehisintellekt (TI) tõlgendab kui peidetud käske. Sellised märgid võivad olla peidetud kalendriakannetes, e-kirjades või dokumentides ning kui süsteem neid ära ei tunne, hakkab ta käituma hoopis teisiti, kui kasutaja eeldab.
Kuidas see turvaviga töötab?
„ASCII smuggling“ võimaldab pahatahtlikul koodil TI-süsteemidesse peaaegu märkamatult sisse pääseda. Näiteks võib kasutaja kopeerida teksti, milles on peidetud sümbol, ja kleepida selle Geminisse.
Tehisintellekt, saamata arugi, et tegu on pettusega, võib muuta kohtumise infot, luua eksitavaid vastuseid või kogemata avaldada konfidentsiaalseid andmeid. Teised tuntud TI-mudelid, nagu ChatGPT, Claude või Copilot, suudavad selliseid peidetud juhiseid üldjuhul tuvastada ja tagasi lükata.
Paraku on Gemini koos mudelitega DeepSeek ja Grok selliste rünnete suhtes haavatavad ega hülga sellist sisestatud infot. See on eriti ohtlik, arvestades, et Gemini on tihedalt integreeritud paljude Google’i teenustega – e-posti, kalendri ja dokumentidega.
Google’i üllatav reaktsioon
Kuigi ettevõte on probleemist teadlik, on selle reaktsioon paljusid üllatanud. Vastuseks uurijate hoiatustele teatas Google, et ei kavatse ühtegi sammu astuda. Nende sõnul ei ole tegemist tehnilise puudusega, vaid sotsiaalse inseneeria juhtumiga – ehk kasutajate eksitamisega, mitte süsteemi endaga seotud veaga.
Sel moel kantakse vastutus turvalisuse eest kasutajate endi õlgadele, mis on ekspertidelt pälvinud teravat kriitikat. Nende hinnangul loob suur vahe selle vahel, mida kasutaja ekraanil näeb, ja selle vahel, mida tehisintellekt tegelikult tõlgendab, väga soodsa pinnase kuritarvitusteks.
Selliseid peidetud juhiseid saab kasutada valeinfot levitavate sõnumite loomiseks, eksitava sisu tootmiseks või isegi andmete varastamiseks. Kuna Gemini töötab nii isiku- kui ka tööalase teabega, võivad sellised rünnakud olla eriti ohtlikud.
Turvariske on rohkemgi
„ASCII smuggling“ ei ole kaugeltki ainus Gemini probleem. Varem on avastatud ka muid nõrkusi, mis on seotud otsinguajaloo ja sisselogimisandmete kaitsega. Kuigi Google parandab osa vigadest regulaarselt, on seekord otsustatud lahendust mitte otsida.
See tähendab, et kasutajad peaksid nende funktsioonide kasutamisel olema eriti ettevaatlikud. Eksperdid soovitavad:
- mitte käivitada tundmatuid tekstilisi käske,
- mitte kleepida Geminisse kahtlase päritoluga tekste,
- hoolikalt jälgida, mida tehisintellekt genereerib ja mida ta võib muuta.
See juhtum näitab, et isegi suurimad tehnoloogiaettevõtted ei pruugi alati kasutajate turvalisust esikohale seada ning Gemini jääb praegu üheks haavatavaimaks tehisintellektitööriistaks turul.
