Kunstig intelligens i sagsbehandling?

Transkript

1 Side 1 Kunstig intelligens i sagsbehandling?

2 Side 2 Hvad er kunstig intelligens? Kunstig Intelligens er lidt løst defineret som et forsøg på simulering af menneskelig intelligens. Kunstig intelligens er en fællesbetegnelse for teknologier, der forsøger at efterligne menneskelig kognition, og som kan lære at tage beslutninger ved at identificere mønstre i større datamængder, hvilket giver mulighed for eksempelvis billede-, tale- og tekstgenkendelse. Derudover kan kunstig intelligens udforme prædiktionsmodeller til fx risikovurdering eller tidlig opsporing af sygdomme. Ikke forveksles med RPA (procesautomatisering) eller klassiske sagsbehandlingsløsninger.

3 Side 3 Kunstig intelligens i en forvaltning Hvordan kan man bruge kunstig intelligens til digital forvaltning i det offentlige? F.eks. Kontrolanalyser /risikobaseret tilsyn Værdiskøn og bevisskøn Nudging Brugerspecifik vejledning Screening af sager Hvilke udfordringer er der ved visionen? Hvilken kvalitet kræves, før AI-teknologi kan bruges? Hvilke krav stilles til legalitet og transparens? Hvilke juridiske regler skaber i praksis udfordringer?

4 Kompleksitet / kraft / omfang 8. NOVEMBER 2018 Side 4 Digitaliseringens trends 4. generation (to be) 3. generation 2. generation ESDH og lign. 1. generation Tid

5 Side 5 Overordnede juridiske krav: Ombudsmandens tretrinsraket Lovgivningen er teknologineutral, dvs. der stilles de samme krav til it-systemer som sagsbehandlere Det kræver lovhjemmel at fravige almindelige regler som led i digitaliseringen Det er den enkelte myndigheds ansvar, at dens itløsninger lever op til alle reglerne Eksempler fra ombudsmandens praksis FOB : It-system kunne ikke journalisere sager på en måde, så sager kunne fremsøges efter emner eller paragraffer FOB : Selvbetjeningsløsning gav ikke mulighed for at anvende retten til partsrepræsentation J.nr : Selvbetjeningsløsning vejledte ikke om manglende bilag (eksamensbevis mv.) og betydningen heraf

6 Side 6 Retlige krav til udvikling og test 1 Juristen opgave: Løsningen skal være lovlig 3 kritiske elementer i sikringen heraf Konsekvensanalyse: Kortlægning af det retlige miljø omkring den påtænkte løsning (både materielle og processuelle regler) 2 3 Transformering: Retsreglerne oversættes til programkoder, som løsningen kan forstå Validering: Løsningen skal testes for juridiske fejl og mangler (system-revision + stikprøvekontrol) Se bl.a. nærmere ombudsmandens udtalelse i EFI-sagen, FOB og Justitsministeriets og Digitaliseringsstyrelsens notater

7 Side 7 Legalitetsprincippet substanskrav Lovtekst IT-løsning Afgørelse Kræver: Juridisk indsigt i læringen og afprøvningen Transformeringsproblemet (black box)

8 Side 8 Kan man bruge AI-teknologi til at træffe afgørelser? Hvad er din ejendom værd efter reglerne om ejendomsvurdering? Køkken renoveret i meter til hav 152 m2 beboelse 48 m2 kælder 372 m2 have Garage med plads til én bil Konjunkturudviklingen Urbanisering Opført 1974 Gammelt legehus i haven Muldvarpeskud Indkomst hos ejere meter til kysten Kloaklugt i kælder 50 meter til dagligvarebutik Energiklasse C Havudsigt fra 1 vindue 4 værelser 2 toiletter, 1 bad meter fra skole 500 meter til nærmeste togstation 100 meter fra behandlingscenter for misbrugere AI-teknologi (prædiktiv model) Manuel sagsbehandling Afgørelse om ejendomsvurdering

9 Side 9 Eksempler på transparensproblemer Forvaltningsloven 22. En afgørelse skal, når den meddeles skriftligt, være ledsaget af en begrundelse, medmindre afgørelsen fuldt ud giver den pågældende part medhold. 24. En begrundelse for en afgørelse skal indeholde en henvisning til de retsregler, i henhold til hvilke afgørelsen er truffet. I det omfang, afgørelsen efter disse regler beror på et administrativt skøn, skal begrundelsen tillige angive de hovedhensyn, der har været bestemmende for skønsudøvelsen. Stk. 2. Begrundelsen skal endvidere om fornødent indeholde en kort redegørelse for de oplysninger vedrørende sagens faktiske omstændigheder, som er tillagt væsentlig betydning for afgørelsen. Persondataforordningen Den registrerede har i visse tilfælde ret til ikke at blive gjort til genstand for en afgørelse, der bygger på profilering. En sådan behandling omfatter»profilering«, der består af enhver form for automatisk behandling af personoplysninger, der evaluerer de personlige forhold vedrørende en fysisk person (pr 71) Enhver registreret skal derfor have ret til at kende og blive underrettet om navnlig de formål, hvortil personoplysningerne behandles, om muligt perioden, hvor personoplysningerne behandles, modtagerne af personoplysningerne, logikken der ligger bag en automatisk behandling af personoplysninger, og om konsekvenserne af sådan behandling, i hvert fald når den er baseret på profilering.

10 Side 10 Analysere og etablering af gode, specifikke data Etablering af datagrundlag It-løsninger opererer på baggrund af et datagrundlag. (Gode) data er nødvendigt for effektiv og fejlminimal digital forvaltning. De fleste myndigheder har ikke en struktureret tilgang til indsamling og/eller kvalitetssikring af informationer, der har betydning for administrationen af områder. Løsningen er derfor, at myndigheder begynder at prioritere tilvejebringelse datagrundlag af høj kvalitet. Med gode data er veje til effektiv digitalisering kortere, end man skulle tro. Husk de persondataretlige rammer for denne proces På visse områder eksisterer et data-tomrum, fx fordi det er et nyt administrativt område. I så fald kan løsningen ikke bygge på eksisterende data. Der kan etableres fiktive datasæt til test af it-løsningen. I så fald er det afgørende, at løsningen løbende kan justeres i takt med, at der kommer flere data (machine learning) Input (data) It-løsning Output (afgørelse mv.) Nye data; evt. korrektion

11 Side 11 Databeskyttelse Indsamling (1): Formålsforenelighed og proportionalitet, hjemmel skal sikres gennem klart forretningsmæssigt formål med undersøgelsen. Stamtavle for data skal sikres aht. reglerne om ajourføring mv. Praksis for sletning, når analyserne er tilendebragt Reglerne kræver opdeling af analyse og anvendelse Statistisk bearbejdning (2): Fokus på pseudonymisering, ajourføring samt korrekte algoritmer og undgå forbudte kriterier. Indsigt og transparens. Anvendelse (3): Ret til ikke at være underlagt automatiske beslutninger, medmindre det følger af samtykke eller lov. Indsigt i data, underretning om logikken samt begrundelser. Adskillelse af statistiske læringsdata og produktionsdata.

12 Side 12 Hvordan tackler vi udfordringerne? Transformering: Vi skal arbejde med at løse transformeringsproblemerne på en måde, der anerkender den kompleksitet, der ligger i tolkningerne af regelsættene. Transparens: Den kunstige intelligens skal trænes til at løse transparensproblemerne, således at det ikke kun er facit, men også vejen derhen som beskrives. Det giver et ekstra lag til den forventningerne. Samtidig skal vi tæmme forventningen om fuld indsigt. Legitimitet: Opbygge tillid via understøttende systemer først. Ændre lovgivningen for at definere de acceptable fejl / usikkerheder. Data: Sikre databeskyttelse gennem adskillelse af hypotese og læring og operation.