Side 1 Digital forvaltning mod en ny offentlig sektor
Side 2 Kunstig intelligens i en forvaltning Hvordan kan man bruge kunstig intelligens til digital forvaltning i det offentlige? Hvilke udfordringer er der ved visionen? Hvilken kvalitet kræves, før AI-teknologi kan bruges? Hvilke krav stilles til legalitet og transparens? Hvilke juridiske regler skaber i praksis udfordringer?
Side 3 1997 Computersystemet Deep Blue vinder over verdensmesteren i skak, Kasparov 2011 Computersystemet Watson vinder over verdens bedste Joepardy-deltagere på nationalt tv Brain power v. Computer power 2016 Computersystemet AlphaGo slår mesteren Lee Sodol i det abstrakte strategi-brætspil Go
Side 4 Brain power v. Computer power 1997 Computersystemet Deep Blue vinder over verdensmesteren i skak, Kasparov 2016 hvad vil det egentlig sige? Computersystemet AlphaGo slår mesteren Lee Sodol i det abstrakte strategi-brætspil Go ''It may be a hundred years before a computer beats humans at Go -- maybe even longer,'' said Dr. Piet Hut, an astrophysicist at the Institute for Advanced Study in Princeton, N.J., and a fan of the game. ''If a reasonably intelligent person learned to play Go, in a few months he could beat all existing computer programs. You don't have to be a Kasparov.'' When or if a computer defeats a human Go champion, it will be a sign that artificial intelligence is truly beginning to become as good as the real thing. George Johnson: To Test a Powerful Computer, Play an Ancient Game, New York Times, 29. juli 1997
Side 5 Det er ikke et spørgsmål om at erstatte mennesker med robotter It-løsningerne skal ses som værktøjer for myndigheder og sagsbehandlere Et menneske og it-løsninger i sammenhæng vil altid kunne outperforme et menneske henholdsvis it-løsninger hver for sig Mål
Kompleksitet / kraft / omfang 19. SEPTEMBER 2017 Side 6 Digitaliseringens trends 4. generation (to be) Udviklingen er eksponentiel Ifølge Moore s law fordobles computerkraft ca. hvert andet år 3. generation 2. generation ESDH og lign. 1. generation Tid Vi er ca. her i dag
Side 7 Cases Simpel selvbetjening Halv- og helautomatiserede afgørelsessystemer AI-teknologi ImplementeringsCenter for Ejendomsvurderinger (ICE)
Side 8 Politisk fokus på it-kvalitet Jeg finder det på ingen måde acceptabelt, at der er sket så mange fejl. 12 fejl er 12 fejl for mange KMD og Udbetaling Danmark har på et år begået 12 fejl i forbindelse med oplysning og udbetaling af offentlige ydelser, herunder bl.a.: 2.000 borgere fejlagtigt reduceret i boligstøtte 1.000-2.000 borgere ikke udbetalt særlig støtte Datafejl 9.100 fejlagtigt nedsat ydelser 88 borgere ramt af forsinkelse med udbetaling af barselspenge 54.000 fejlagtige breve ud til borgere med loftsplaceringer Det er dybt utilfredsstillende, at man skal vente så lang tid på at få udbetalt en ydelse. Det er jo ikke samme langmodighed, der gælder hvis man skylder noget til Skat. Her bliver det ikke godtskrevet, hvis man har et problem med sin pc Jeg vil gerne præcisere, at det helt grundlæggende er kommunerne og Udbetaling Danmarks ansvar at sikre, at der sker en sikker og korrekt implementering og administration af nye ydelsesregler. Derfor er det også deres ansvar, at deres it-leverandør leverer systemer i henhold til deres kontraktuelle forpligtelser.
Side 9 Udfordringer og krav
Side 10 Overordnede krav: 1 Lovgivningen er teknologineutral, dvs. der stilles de samme krav til it-systemer som sagsbehandlere 2 Det kræver lovhjemmel at fravige almindelige forvaltningsretlige regler som led i digitaliseringen 3 Det er den enkelte myndigheds ansvar, at dens itløsninger lever op til alle reglerne
Side 11 200 meter til hav 152 m2 beboelse 48 m2 kælder 372 m2 have Garage med plads til én bil Køkken renoveret i 2012 Kan man bruge AI-teknologi til at træffe afgørelser? Hvad er din ejendom værd efter reglerne om ejendomsvurdering? Konjunkturudviklingen Urbanisering Opført 1974 Kloaklugt i kælder Energiklasse C Havudsigt fra 1 vindue 4 værelser 2 toiletter, 1 bad 1.800 meter fra skole 500 meter til nærmeste togstation Gammelt legehus i haven 100 meter fra behandlingscenter Køkkenhave Muldvarpeskud for misbrugere 1.500 meter til kysten 50 meter til dagligvarebutik AI-teknologi (prædiktiv model) Manuel sagsbehandling Afgørelse om ejendomsvurdering kunne en sagsbehandler gøre det bedre?
Side 12 Kan man bruge AI-teknologi til at træffe afgørelser? Grundlæggende er lovgivningen teknologineutral, og der er i udgangspunktet intet i vejen for, at forvaltningen anvender kunstig intelligens til at udøve et skøn eller foretage fortolkning/vurdering. Retsregler Fortolkning Data Dataanalyse Borger Det betyder omvendt, at de kunstigt intelligente forvaltningssystemer skal overholde alle de forvaltningsprocessuelle og materielle regler, som ville gælde for et menneske. Subsumption Høring Borger Afgørelse Heri ligger bl.a. et betydeligt krav om interaktion og transparens i forhold til den berørte borger. Klage Borger
Side 13 Den almindelige forvaltningsret kræver, at en afgørelse er lovlig og korrekt Grundlæggende krav om hjemmel i loven Grundsætninger der binder skønsudøvelsen 99 pct. er ikke nok, da lovgivningen beskytter den enkelte. Hvilken kvalitet kræver juraen? Udgangspunktet er derfor, at der ikke må begås fejl. Kravet er derfor en fejlprocent på 0 pct. Faren er de systemiske risici: Selv små fejl kan få store konsekvenser (Ét Fælles Inddrivelsessystem) Lovgiver kan fravige princippet om nul-fejl. 100 % rigtighed Individualisering Bagatelgrænse Ensartethed
Side 14 Hvilke krav stilles til legalitet og transparens? Lovtekst AI-teknologi Afgørelse Transformeringsproblemet
Side 15 Eksempler på transparensproblemer Forvaltningsloven 22. En afgørelse skal, når den meddeles skriftligt, være ledsaget af en begrundelse, medmindre afgørelsen fuldt ud giver den pågældende part medhold. 24. En begrundelse for en afgørelse skal indeholde en henvisning til de retsregler, i henhold til hvilke afgørelsen er truffet. I det omfang, afgørelsen efter disse regler beror på et administrativt skøn, skal begrundelsen tillige angive de hovedhensyn, der har været bestemmende for skønsudøvelsen. Stk. 2. Begrundelsen skal endvidere om fornødent indeholde en kort redegørelse for de oplysninger vedrørende sagens faktiske omstændigheder, som er tillagt væsentlig betydning for afgørelsen. Persondataforordningen Den registrerede har i visse tilfælde ret til ikke at blive gjort til genstand for en afgørelse, der bygger på profilering. En sådan behandling omfatter»profilering«, der består af enhver form for automatisk behandling af personoplysninger, der evaluerer de personlige forhold vedrørende en fysisk person (pr 71) Enhver registreret skal derfor have ret til at kende og blive underrettet om navnlig de formål, hvortil personoplysningerne behandles, om muligt perioden, hvor personoplysningerne behandles, modtagerne af personoplysningerne, logikken der ligger bag en automatisk behandling af personoplysninger, og om konsekvenserne af sådan behandling, i hvert fald når den er baseret på profilering.
Side 16 Hvordan tackler vi udfordringerne? Transformering: Vi skal arbejde med at løse transformeringsproblemerne på en måde, der anerkender den kompleksitet, der ligger i tolkningerne af regelsættene. Transparens: Den kunstige intelligens skal trænes til at løse transparensproblemerne, således at det ikke kun er facit, men også vejen derhen som beskrives. Det giver et ekstra lag til den forventningerne. Samtidig skal vi tæmme forventningen om fuld indsigt. Legitimitet: Opbygge tillid via understøttende systemer først. Lovgivning: Ændre lovgivningen for at definere de acceptable fejl / usikkerheder.
Side 17 Næste skridt?
Indsatsområde 19. SEPTEMBER 2017 Side 18 Hvilke dele af min organisation egner sig til automatisering? Digitaliseringsanalysen Kortlægger områder med potentiale set fra et juridisk udgangspunkt, dvs. ud fra hvor reglerne indeholder mulighed for det digitale. Dette fører til forslag til områder grupperet med muligheder for understøttelse eller automatiserede afgørelser under hensyn til regler, data, ambitionsniveau mv. Borgerhenvendelser Fokusområder Diverse simple sagsskridt Ansøgninger Vejledning Reguleringstunge områder Sagsbehandling i myndigheden Dispositioner bundet til kvantificerbare fakta Dataindsamling og -analyse Masseforvaltning Digitaliseringsanalyse Høj sagsvolumen Lav kompleksitet Overvågning / kontrol / tilsyn
Side 19 Et område kan digitaliseringsmodnes gennem regelændringer Digitaliseringsparat lovgivning Som det ser ud nu, er de tilgængelige it-systemer ikke avancerede nok til, at de kan foretage skøn og afveje modsatrettede hensyn på samme måde som mennesker. Grundsætningen om pligtmæssigt skøn ( skøn under regel ) sætter grænser for adgangen til lovligt at nedbryde en skønsregel i matematiske formler. Med den eksponentielle vækst i udviklingen kan det ikke udelukkes, at it-løsninger når at overhale regelændringsprocessen indenom. Måske bliver it-løsningerne lovgivningsparate, før lovgivningen bliver digitalieringsparat? Løsningen er derfor i mange tilfælde, at lovgivningen gøres digitaliseringsparat, dvs. reglerne udformes på en måde, der er egnet til automatisering. På sigt bør dette være en almindelig del af den lovtekniske gennemgang ved ny lovgivning
Side 20 Analysere og etablering af gode, specifikke data Etablering af datagrundlag It-løsninger opererer på baggrund af et datagrundlag. (Gode) data er nødvendigt for effektiv og fejlminimal digital forvaltning. De fleste myndigheder har ikke en struktureret tilgang til indsamling og/eller kvalitetssikring af informationer, der har betydning for administrationen af områder. Løsningen er derfor, at myndigheder begynder at prioritere tilvejebringelse datagrundlag af høj kvalitet. Med gode data er veje til effektiv digitalisering kortere, end man skulle tro. Husk de persondataretlige rammer for denne proces På visse områder eksisterer et data-tomrum, fx fordi det er et nyt administrativt område. I så fald kan løsningen ikke bygge på eksisterende data. Der kan etableres fiktive datasæt til test af it-løsningen. I så fald er det afgørende, at løsningen løbende kan justeres i takt med, at der kommer flere data (machine learning) Input (data) It-løsning Output (afgørelse mv.) Nye data; evt. korrektion
Side 21 Kammeradvokatens tager egen medicin. Interne initiativer Fristberegneren (app): Beregning af komplicerede udbudsfrister Digitale udbud: Elektronisk håndtering af udbudsprocesser Udvalgte rådgivningssager Udvikling af det nye inddrivelsessystem (ICI) Udvikling af det nye ejendomsvurderingssystem (ICE) Udvikling af det nye toldsystem (ICT)
Side 22 Tak for opmærksomheden Se mere på www.kammeradvokaten.dk/digital. Er I klar til den nye databeskyttelsesforordning? Tag Persondatatesten på www.persondatatesten.dk.
Side 23 Kammeradvokatens erfaringer KAPS bistår med etableringen af de nye løsninger for inddrivelse og ejendomsvurdering, der er nogle af de mest ambitiøse it-projekter til dato. KAPS er inddraget i forskellige faser, herunder regeltilpasning, kravsætning, udbudsproces, nedbrydning i user stories samt validering og tests i samarbejde med forretnings- og it-kyndige. KAPS har bistået Styrelsen for Arbejdsmarked og Rekruttering med VITAS-løsningerne, dvs. enkle enstrengede automatiserede løsninger til selvbetjening på beskæftigelsesområdet. Bistanden omfattede retsgrundlagsanalyse, løsningsdesign og implementering. KAPS har bistået Arbejdsmarkedets Erhvervssikring og ATP i forbindelse med anskaffelse af et nyt sags behandlingssystem. Bistanden omfattede juridisk review af løsningsflows i en iterativ proces med klienten. KAPS bistår Arbejdstilsynet med at udforme en ny interaktiv selvbetjeningsløsning på arbejdsmiljøområdet. Bistanden omfatter regelforenkling og udvikling af et online compliance-produkt, der er designet til at kunne yde målrettet vejledning til den enkelte borger.
Side 24 Kammeradvokatens digitaliseringsteam Sune Fugleholm Partner, advokat (H) sfs@kammeradvokaten.dk + 45 25 43 03 10 Jakob Kamby Partner, advokat (L) jka@kammeradvokaten.dk + 45 25 10 05 31 Tom Holsøe Partner, advokat (H) hol@kammeradvokaten.dk + 45 25 43 03 15 Rasmus Holm Hansen Partner, advokat (H) rhh@kammeradvokaten.dk + 45 25 10 05 58 Jesper Nørøxe Director, advokat (L) jno@kammeradvokaten.dk + 45 25 10 05 13 Martin Sønnersgaard Senior manager, advokat mso@kammeradvokaten.dk + 45 50 77 84 23 Milena Anguelova Krogsgaard Juniorpartner, advokat (L) man@kammeradvokaten.dk + 45 25 10 05 57 Emil Bisgaard Manager, Erhvervsjuridisk rådgiver ebi@kammeradvokaten.dk + 45 50 77 84 76