Traficomin ja Huoltovarmuuskeskuksen uusi ohjeistus auttaa organisaatioita kehittämään ja innovoimaan tekoälyagentteja turvallisesti. Tekoälyagenttien käyttöönotto muuttaa olennaisesti tapaa, jolla organisaatiot hallitsevat kyberturvallisuutta.

Tekoälyagenttien potentiaali piilee niille annettavissa oikeuksissa erilaisiin järjestelmiin ja työkaluihin. Mitä arkaluontoisempaan dataan agentilla on pääsy, ja mitä kriittisempiä päätöksiä se saa tehdä, sitä suuremmaksi kasvaa myös järjestelmän riskipotentiaali.

Itsenäisyys ja käyttöoikeudet vaativat tarkkaa hallintaa

Tekoälyagentit eivät ole enää pelkkiä avustavia työkaluja, vaan itsenäisesti toimivia järjestelmiä, joille organisaatiot siirtävät päätösvaltaa, käyttöoikeuksia ja vastuuta. Siksi on keskeistä määritellä agenttien käyttötarkoitus, autonomian rajat ja vastuut ennen käyttöönottoa.

Toisin kuin tutuksi tulleet tekoälyavustajat, tekoälyagentit toimivat itsenäisesti kohti niille asetettuja tavoitteita. Ne kykenevät ketjuttamaan toimintoja, tekemään päätöksiä ja käyttämään erilaisia järjestelmiä ilman jatkuvaa ihmisen ohjausta.

Uhat ulottuvat tiedoista prosesseihin

Tekoälyagenttijärjestelmien keskeisiin uhkiin kuuluu muun muassa arkaluontoisen tiedon vuotaminen, liiallisista käyttöoikeuksista johtuvat uhkat sekä hallitsemattomat ketjureaktiot.

Nykyiset työnkulut eivät välttämättä sovi sellaisenaan todennäköisyyksiin perustuvalle kielimallille suoritettaviksi. Kielimalleihin pohjautuva automaatio edellyttää usein myös vanhojen prosessien ja toimintatapojen kriittistä uudelleenarviointia.

"Ilman huolellista suunnittelua, uhkamallinnusta, käyttöoikeuksien rajaamista, kattavaa testausta ja jatkuvaa valvontaa tekoälyagentit voivat altistaa organisaatiot vakaville taloudellisille, operatiivisille ja maineriskeille – riskeille, joita ei voida korjata jälkikäteen yksin teknisin keinoin", sanoo teknologia- ja strategiajohtaja Kirsi Karlamaa.

Traficomin ja Huoltovarmuuskeskuksen tuore selvitys auttaa organisaatioita suunnittelemaan, rakentamaan ja ylläpitämään agenttisia tekoälyjärjestelmiä turvallisesti. Selvitys on toteutettu Traficomin ja Huoltovarmuuskeskuksen Digitaalinen turvallisuus 2030 -ohjelman yhteistyönä ja osana tulevaisuuteen varautumista.

Tutustu tekoälyagenttien kyberturvallisuus -selvitykseen ja johdon tiivistelmään