AI is not ROBOTS

Transkript

1

2

3

4 AI is not ROBOTS

5

6

7

8

9

10

11

12

13 Dataetik og AI Regeringens Ekspertgruppe om dataetik lancerede 22. november 2018 deres anbefalinger. Den praktiske anvendelse af AI spillede en fremtrædende rolle i mange af diskussionerne, fordi AI anvendt på data repræsenterer fremtiden, og er et prisme hvorigennem vi kan se mange af de etiske udfordringer vi står over for.

14 Dataetik og AI Der er mange komplekse aspekter af dataetik og kunstig intelligens, men fra et praktisk perspektiv kan de fordeles på 3 hovedområder: Gennemsigtighed Bias Personhenførbar data Hvert af disse område præsenterer en særlig etisk udfordring når det kommer til udviklingen af AI- og datadrevne løsninger. Forslag #3 fra Ekspertgruppen for Dataetik : En håndbog eller værktøjskasse for dem der sidder og arbejder med løsningerne, så etikken tænkes ind på implementeringsniveau!

15 DATAETIK OG AI Kort sagt er alle data og data-drevne løsninger noget der udspringer af menneskelig adfærd, og vores adfærd er styret af vores foreløbige viden og antagelser om verden. Vores antagelser er altså til stede i alle dele af en AIog datadrevet løsning, med undtagelse af selve træningen af AI modellen, som finder mønstre i data. BIAS Data i forskellige kilder og systemer Indsamling og staging af data Feature Engineering af data Træning af AI model på Feature Engineered data En løsning er at de folk der arbejder med Data og Datadrevne løsninger såsom AI, er i stand til at identificere de problemstillinger som kendetegner bias for data og løsninger inden for det givne domæne, og at Feature Engineering sikrer at der ikke introduceres eller videreføres Bias.

16 Fra teori til praksis

17

18

19

20

21

22 FEATURE ENGINEERING EKSEMPEL Det strengt akademiske udgangspunkt er at AI-modeller nok skal løse problemet hvis bare de får nok data. Dette underkender den egentlige udfordring, som er at det handler om de rigtige data præsenteret på den rigtige måde. Eksempel: Churn Prediction Der er 8 forskellige forretningsområder som alle skal ind i én AI-model, som til gengæld kun kan forstå tal mellem 0 og 1 et kunstigt neuralt netværk. 0 0,334 0,9 1 0,2 0,5

23 FEATURE ENGINEERING Den akademiske tilgang Den akademiske tilgang forlader sig på modellen, og repræsenter de 8 forretningsområder (F.O.) som binære repræsentationer: Tredje F.O. af 8 (med én bit sat) Tredje F.O. af 8 (binært tal) input og 8 mulige input og 8 mulige Fælles for dem er at de tager alle 8 forretningsområder ind i modellen

24 FEATURE ENGINEERING Den praktiske løsning Den praktiske tilgang til Feature Engineering sikrer at domæneeksperternes viden tages ind i den måde data repræsenteres på. De fremtidige, erfarne brugere er som regel også domæneeksperter! Rådgivende konsulenter Ressourcer fra forretningen Domæneeksperterne interviewes om deres viden og intuitioner, og man når frem til at de 8 forretningsområder har 3 segmenter der relaterer sig ensartet til Churn Kun 2 input og 3 mulige Dette udgør en kraftig og nødvendig reduktion af problemdomænet!

25 FEATURE ENGINEERING Teorien fortæller os at vi skal omdanne data til noget en AI model kan arbejde med for eks. at omdanne data til tal mellem 0 og 1, som et kunstigt neuralt netværk kan tage som input. Praktisk erfaring peger på at dette ikke er nok, og at Feature Engineering skal inkludere domæneeksperternes viden for at der kan laves en stærk, anvendelig løsning uden for laboratoriet. Du skal ikke træne en AI model til at lære noget du allerede ved! Den skal kun trænes til at fortælle dig det du ikke ved.

26 AI HYPE KILLING AI og Machine Learning repræsenterer i sandhed store muligheder for effektiviseringer inden for både det offentlige og private. Essensen af den hype vi ser i dag er i stedet måden hvorpå de store AI-firmaer underspiller den arbejdsindsats der skal lægges i Feature Engineering for at nå i mål. For hvis alle har forskellige domæner og data, som kræver deres egen unikke Feature Engineering som ofte udgør op mod 80% af arbejdet, hvordan kan man så sælge et færdigt AI-produkt? Fremtiden bliver forretnings- og domæne specifikke Feature Engineering-enabled AI-services!! Stærk AI = Generel AI og det er ikke noget vi har i dag, og i min egen forskning er det blevet helt klart for mig at det heller ikke er noget vi kommer til at se foreløbig.

27

28

29

30

31 EN OFFENTLIG DATAINDSAMLINGSSTRATEGI Skal vi lade os forme af data eller omvendt? Danmark er #1 i verden i offentlig digitalisering Danmark har en hel række mål såsom at gøre dataetik og danske samfundsværdier til en konkurrencefaktor Spørgsmål: Hvordan kan vi vide om de mål vi har sat for Danmark er understøttet af det data vi har opsamlet indtil nu?

32

33

34

35

36

37

38