Ansvarlig AI-udvikling

Der er sket noget, med den måde vi snakker om AI. I slutningen af 2022, da ChatGPT blev lanceret, handlede samtalerne om muligheder, hype og fascination. Så udviklede fascinationen sig til frygt for arbejdsløshed. Nu kredser bekymringerne om sikkerhed, regulering og ansvar. 

Sikkerhed er altid fundament

Desto mere vi lukker AI ind i vores kritiske systemer og giver den adgang til følsomme data, desto tydeligere bliver det, at AI ikke bare er et arbejdsværktøj. Det er en platform, der lagrer, og en infrastruktur, der kan lave fejl.  

Hos Atlas Consulting har vi lige fra start haft sikkerhed som førsteprioritet. Når vi siger ja til en opgave eller indgår et samarbejde, betragter vi ikke sikkerhed som et ekstra lag, der tilføjes til sidst i et projekt. Sikkerhed er fundamentet for den løsning, vi bygger.  

Co-founder i Atlas Consulting, Daniel Borre, fortæller, at sikkerhed er tænkt ind i projekterne allerede inden, de går i gang. Men han påpeger også, at sikkerhedsspørgsmålet er en stor udfordring. Specielt med AI, som udvikler sig så hurtigt, og hvor det ofte er svært at få adgang til, hvordan modellerne er sat sammen. Derfor går Atlas aldrig til en opgave med målet om blot at blive færdig. Tværtimod har vi en 4-årigs plan i baghovedet – også i samarbejder der er kortere. 

“Vi tænker altid langsigtet på en opgave. Hvilke forbehold kan kunden have? Er det en meget reguleret kunde? Vi tager selvfølgelig aldrig AI-teknologier i brug, som vi ved er problematiske. Men selv modeller vi opfatter som pålidelige, er vi påpasselige med. Netop fordi udviklingen går så hurtigt, og at vi dybest set ikke rigtigt kan sige, hvad der kommer til at ske.”

Et særligt ansvar

Daniel fortæller også, at Atlas er meget opmærksomme på det store ansvar, der hviler på deres skuldre. Mange er kunderne er offentlige, regulerede instanser og her er spørgsmålet om datasikkerhed aldrig til forhandling. 

“Mange af de kunder, vi har, er offentlige regulerede instanser. Der er ingen undskyldninger for, hvis vi mister deres data – eller endnu værre, hvis dataen ryger i de forkertes hænder. Derfor bliver sikkerhed også tænkt ind helt fra start. Det er bygget direkte ind i arkitekturen. Det er security first og arkitektur derefter.”

Ansvarlig AI-implementering handler dermed ikke kun om performance og løsninger. Det handler også om at have kontrol over de teknologier, som man benytter. Derfor findes der også AI-løsninger, som Atlas aktivt vælger fra. 

“Hvis vi for eksempel arbejder med en meget reguleret kunde, så er der nogle modeller, vi slet ikke rører ved. For eksempel de kinesiske modeller. Problemet er, at selvom de kører lokalt, så ved vi bare ikke, hvordan de er byggede.”

Det handler ikke om, at selve teknologien er dårlig eller upålidelig. Tværtimod er modellerne ofte teknisk imponerende. Men hvis der er tvivl om, hvem der ejer modellerne, og hvor de informationer, man giver dem, bliver gemt, så er det bare ikke en sikkerhedsmæssig mulighed.

Sikkerhed kommer før kode  

Hos Atlas handler ansvarlig AI-udvikling derfor ikke kun om at vælge de rigtige værktøjer. Det handler om at gøre sig de rigtige overvejelser, før projektet overhovedet går i gang. Sikkerhed og regulering bliver tænkt ind fra starten, for når først løsningen er bygget, er det for sent. 

Det gælder alt fra valg af modeller og cloudmiljøer til adgangsstyring, databehandling og dokumentation. Beslutninger, der kan virke tekniske eller administrative i projektets indledende faser, kan få stor betydning senere, når løsningen skal vedligeholdes og skaleres. 

For Atlas er målet derfor ikke bare at levere en AI-løsning, der virker her og nu. Målet er at bygge løsninger, som kunderne også kan have tillid til om flere år. Det kræver, at sikkerhed er en del af processen fra første workshop til den færdige implementering.