Kunstig intelligens er blevet din nye kollega i Microsoft 365 Copilot, men hvordan sikrer du, at den ikke snakker over sig?
Selvom AI er fantastisk, skal vi sikre, at den kun deler information, den faktisk må. Dette indlæg giver dig hurtig, praktisk viden om, hvordan Microsoft allerede har bygget et usynligt skjold for at beskytte dine følsomme data mod AI-manipulation.
Hvad er et “Jailbreak” – forklaret på 30 sekunder
Forestil dig, at din Copilot er en meget velopdragen elev. Den er trænet til kun at svare på forespørgsler ud fra dine godkendte dokumenter og regler.
Jailbreak (eller Prompt Injection) er, når nogen forsøger at narre denne elev til at bryde reglerne. Det er et forsøg på at få Copilot til at gøre noget, den ikke er designet til. F.eks. at afsløre fortrolige oplysninger, som den burde holde hemmelige.
Tænk på Copilot som en bankboks. En prompt injection er et forsøg på at give boksen en “hemmelig kommando” (fx via et skjult felt i en e-mail) for at få den til at åbne sig for den forkerte person.
Hvordan beskytter Microsoft os?
Heldigvis er Microsoft 365 Copilot ikke overladt til tilfældighederne. Sikkerhedsmekanismer er indbygget fra starten for at beskytte mod disse angreb, uanset om de kommer fra en medarbejder (intern) eller en hacker (ekstern).
Prompt Shield: Det Usynlige Sikkerhedsnet
Dette virker som en digital vagthund, der konstant overvåger de kommandoer, Copilot modtager.
Hvad gør Prompt Shield i praksis?
- Identificerer Manipulation: Den scanner alle prompts (både dem du selv skriver, og dem der er skjult i dokumenter/e-mails) for tegn på ondsindet manipulation.
- Neutraliserer Trusler: Hvis et forsøg på at “jailbreake” Copilot opdages, bliver prompten neutraliseret, og Copilot nægter at give et svar, der kan kompromittere følsomme data.
- Beskytter Følsomhed: Den sikrer, at Copilot kun trækker på data, som brugeren allerede har adgang til, men den tilføjer et ekstra lag mod manipulation.
Dit Prompt Shield er som en sikkerhedsvagt i en reception. Før en gæst (prompten) får lov at tale med chefen (Copilot), tjekker vagten hurtigt, om gæstens hensigt er legitim, og om de forsøger at snyde sig ind med en falsk adgangsgivende besked.
Din rolle: Hvad skal du huske?
Selvom Microsoft har bygget et stærkt forsvar, er din rolle stadig afgørende.
- Stol på adgangskontrol: Copilot respekterer altid de adgangsrettigheder, du allerede har sat op. Hvis en bruger ikke må se et dokument, vil Copilot heller ikke vise det. God governance er den bedste sikkerhed!
- Vær på vagt: Vær opmærksom på usædvanlige e-mails eller dokumenter, der beder dig om at bede Copilot om mærkelige ting. De kan indeholde skjulte “injection”-kommandoer.
Konklusion
Sikkerheden i Microsoft 365 Copilot er designet til at beskytte dine data mod manipulation, især fra skjulte Prompt Injections.
Take aways:
- Microsofts Prompt Shield fungerer som dit digitale skjold mod manipulation.
- Copilot respekterer altid dine eksisterende adgangsrettigheder.
- Governance (hvem må se hvad) er fundamentet for AI-sikkerhed.