Enne kui ühendate ettevõtte andmed tehisintellekti assistendiga

Tehisintellekti assistendi ühendamine ettevõtte andmetega on õiguste üle otsustamine, mitte lihtsalt toote kasutuselevõtt. Lähtuge eeldusest, et kõike, mida assistent saab lugeda, võib selle kasutaja abil välja pärida igaüks, kes assistendiga suhelda saab. Kõike, mida assistent saab teha, võib käivitada igaüks, kes suudab selle sisendit mõjutada. Enne pilootprojekti algust tuleb paika panna viis asja: millised andmed on lubatud, mida assistent tohib teha, kes seda kasutada saab, mida salvestatakse ja kes riski eest vastutab.

Märkus allikaviidete kohta. OWASPi või NISTi pärit seisukohad on nime pidi viidatud ja lingitud. Kõik muu selles kontrollnimekirjas on meie enda soovitus, mitte ühegi nimetatud organisatsiooni nõue.

Otsustage, millised andmed võivad sisse minna

Alustage klassifitseerimisest, sest kõik hilisemad kontrollid sõltuvad sellest. Kui teil süsteemi pole, piisab alustuseks kolmetasemelisest, ja see tuleb kirja panna enne, kui keegi ühendab postkasti, failijagamise või CRM-i.

Kaks asja jäävad meeskondadel sageli märkamata. Esiteks kasutavad konnektorid tavaliselt tervete hoidlate või draivide sisselugemist, nii et indekseeritakse ka kaust, mille jagamist keegi enam ei mäleta. Korrastage jagamine enne ühendamist, mitte pärast. Teiseks muudavad dokumentides olevad saladused (API võtmed wiki lehtedel, paroolid pileteis) otsingufunktsiooni volitusandmete lekkeks.

Eeldage, et assistent loeb vaenulikku teksti

Käsitlege kõike, mida assistent loeb (sissetulevad e-kirjad, veebilehed, jagatud dokumendid, üleslaaditud failid), sisuna, mille keegi teine võis kirjutada assistendi juhtimiseks. Soovitame kavandada lahendus nii, et see ei tekitaks kahju, selle asemel et teha süsteemiviipast oma ainus kontrollimeede.

Praktikas tähendab see järgmist.

• Andke assistendile minimaalselt need tööriistad, mida ta vajab. Alustage ainult lugemisõigusega.
• Nõudke inimese kinnitust igale tegevusele, millel on kõrvalmõjusid: e-kirjade saatmine, kirjete muutmine, koodi käivitamine, maksete tegemine.
• Hoidke usaldamatu sisu eemal assistentidest, millel on ligipääs piiratud andmetele.
• Käsitlege assistendi väljundit usaldamatu sisendina kõigele, mis seda tarbib. Kui järgnev süsteem selle täide viib või kuvab, valideerige see samamoodi nagu kasutaja sisendit.

LLM-rakenduste riskide viiteloendina kasutage dokumenti OWASP Top 10 for Large Language Model Applications. Projektilehe kirjelduse järgi on OWASP GenAI Security Project ülemaailmne avatud lähtekoodiga algatus, mis hõlmab generatiivse tehisintellekti, sealhulgas LLM-ide, agentsete tehisintellektisüsteemide ja tehisintellektil põhinevate rakenduste turva- ja ohutusriske. Lehel on öeldud, et Top 10 on jätkuvalt põhikomponent, ning seal on nimetatud 2025. aasta versioon. Uusima loendi leiate aadressilt genai.owasp.org/llm-top-10/. Lugege see loend läbi ja kasutage selle kategooriaid oma ohumudeli struktuurina, selle asemel et leiutada enda oma.

Juurdepääsukontroll ja logimine

Assistent peaks tegutsema küsija õigustega, mitte laia teenusekonto õigustega. Kui ta kasutab ühte jagatud identiteeti, millel on ligipääs kõigele, võib noorem töötaja head küsimust esitades kätte saada juhatuse dokumente. Kontrollige, kuidas konnektor kasutajapõhiseid õigusi käsitleb, ja testige seda enne tootmisse minekut kahe erineva staažiga kasutajakontoga.

Seejärel otsustage, mida logida. Vähemalt peaks logist piisama intsidendi rekonstrueerimiseks:

timestamp, user id, assistant/tool name,
source documents retrieved, actions requested,
actions executed, confirmation (yes/no), result status

Otsustage ette, kui kaua neid logisid hoitakse, kes neid lugeda tohib ja kas promptid ise sisaldavad isikuandmeid. Vestluslogid on iseseisev andmehoidla ning vajavad sama klassifikatsiooni nagu sisu, mida nad sisaldavad. Suunake need neile, kes teie monitooringuga tegelevad, et ühelt kontolt tulev ebatavaliselt suur päringute maht märgataks.

Hinnake tarnijat enne lepingut

Esitage tarnijale otsesed küsimused ja saage vastused kirjalikult.

1. Kas meie prompte ja dokumendiandmeid kasutatakse mudelite treenimiseks või parendamiseks? Kas selle saab välja lülitada lepinguga, mitte ainult seadistusega?
2. Kus andmeid töödeldakse ja hoitakse ning millised alltöötlejad on kaasatud?
3. Kui kaua prompte, väljundeid ja üleslaaditud faile säilitatakse ning kas me saame need kustutada?
4. Millised haldusfunktsioonid on olemas: single sign-on, rollipõhine juurdepääs, auditi eksport, konnektorite lubatud nimekirjad?
5. Kuidas ja kui kiiresti turvaintsidentidest teavitatakse?

Kontrollige, et vastused ühtiksid tegeliku halduskonsooliga. Poliitikaleht ja seadistatav säte on kaks eri asja. Kui tööriist pakub pistikprogramme või kolmandate osapoolte konnektoreid, vaadake need läbi eraldi tarnijatena.

Määrake riskile omanik

Juhtimine kõlab nagu paberimajandus ja seda see ongi, kuid just see hoiab ära varjatud kasutuselevõtud. NIST AI RMF Playbook pakub soovitatavaid tegevusi, mis on joondatud AI Risk Management Frameworki nelja funktsiooniga: Govern, Map, Measure ja Manage. NIST märgib, et Playbook ei ole ei kontrollnimekiri ega täies mahus järgitav sammude kogum ning selle soovitused on vabatahtlikud. Samuti on märgitud, et AI RMF 1.0 on uuendamisel ja Playbook järgneb sellele, seega kontrollige kehtivat versiooni. Võtke sealt, mis sobib teie suuruse ettevõttele.

Meie soovitus on pidada lühikest registrit kõigi kasutusel olevate tehisintellekti tööriistade kohta, kus igaühel on omanik, andmetasemed, millega ta kokku puutuda tohib, ja läbivaatuse kuupäev. Lisage veel üks veerg: kas jurist on kinnitanud, et selle kasutusjuhu puhul kehtivad ELi tehisintellekti määruse (EU AI Act) või isikuandmete kaitse üldmääruse (IKÜM) kohustused, ja milline oli tema järeldus. Me ei ole neid kohustusi siin hinnanud, seega paluge otsus teha juristil või nõuetele vastavuse nõustajal. Kui soovite abi registri ja läbivaatusprotsessi sisseseadmisel, hõlmab seda meie nõustamisteenus valmisoleku hindamiste kaudu.

Kust alustada

1. Koostage loend kõigist juba kasutusel olevatest tehisintellekti assistentidest, sealhulgas tasuta kontodest, mille töötajad on ise loonud, ja nimetage igaühele omanik.
2. Kirjutage üles ülaltoodud kolmetasemeline klassifikatsioon ja märkige, millisesse tasemesse iga ühendatud andmeallikas kuulub. Eemaldage piiratud allikad ulatusest.
3. Tehke pilootprojekt, kus on ainult lugemisõigus, kasutajapõhised õigused ja inimese kinnitus igale tegevusele. Testige seda kahe erineva staažiga kasutajakontoga.
4. Lülitage sisse logimine, määrake säilitusaeg ja suunake logid neile, kes teie süsteeme monitoorivad.
5. Saatke tarnijale küsimused, hoidke kirjalikud vastused lepinguga koos ja paluge juristil kinnitada, kas ELi tehisintellekti määruse (EU AI Act) või isikuandmete kaitse üldmääruse (IKÜM) kohustused kehtivad.
6. Enne laiemat kasutuselevõttu laske lahendust testida kellelgi, kes püüab seda rünnata. Penetratsioonitest, mille stsenaariumid on üles ehitatud teie tegelike konnektorite ümber, näitab, mida paberil ohumudel kahe silma vahele jätab.