Datakvalitet. Hvis dine data var vand, ville du så drikke det? Michael Nielsen Business Advisor Information Management Division SAS Institute A/S

Transkript

1 Hvis dine data var vand, ville du så drikke det? Datakvalitet Michael Nielsen Business Advisor Information Management Division SAS Institute A/S Copyright 2007, SAS Institute Inc. All rights reserved.

2 Agenda Registrering og morgenmad Data Governance Fra udisciplineret til styret. Hvordan kommer man fra en tilfældig omgang med data til data som et styret aktiv? Datakvalitet i praksis 1 Demonstration med udgangspunkt i kundedata af, hvordan software til understøttelse af datakvalitetsprocessen virker Pause / forplejning, receptionen på 3. sal Datakvalitet i praksis 2 Datakvalitet på ikke-kundedata, f.eks. produktdata eller materialestyring og analyse af indkøbsmønstre Opsamling sådan kommer du i gang Frokost i kantinen på 2. sal

3 Is your data a corporate asset? A simple test to get data quality in focus Are you giving it resources comparable to your other corporate assets? Yes No Do not know Are you dedicating technology comparable to your other corporate assets? Are you allocating funding relative to your other corporate assets? Do you measure the cost of poor missing or inaccurate data? Do you understand the cost of not delivering timely and relevant data to the business? Copyright 2007, SAS Institute Inc. All rights reserved.

4 Why Data Governance? The parent of Data Quality Data Governance is usually the most frequently mentioned and biggest challenge in the context of business analytics projects Policies Technology People IDC: Henry D. Morris, The Case for Investing in Business Analytics Technology

5 The definition of Data Governance

10 The definition*s* of Data Quality

11 Måske Hvad er Datakvalitet? måling af datakvalitet den bedste definition af datakvalitet?

12 Data Governance Maturity Model Sales Force Data Warehouse Customer MDM Business Process Automation ERP Automation Database Marketing CRM Product MDM MDM IT-driven projects Duplicate, inconsistent data Line of business influences IT projects Little cross-functional collaboration IT and business groups collaborate Enterprise view of certain domains Business requirements drive IT projects Repeatable, automated business processes Inability to adapt to business changes High cost to maintain multiple applications Data are a corporate asset Personalized customer relationships and optimized operations

13 How do we govern our data? People, policies and technology Think locally Act locally Reactive Think globally Act locally Think globally Act collective Governed Think globally Act globally Undisciplined Proactive Technology Policies People

14 BICC Data Governance Is a governance body the same as a Business Intelligence Competency Center? Technology Policies People

15 The Data Governance Maturity Model Stage one Undisciplined (think locally, act locally)

16 The Data Governance Maturity Model Stage two Reactive (think globally, act locally)

17 The Data Governance Maturity Model Stage three Proactive (think globally, act collectively)

18 The Data Governance Maturity Model Stage four Governed (think globally, act globally)

19 Data Governance organisering Sponsorskab er kritisk Commitment skal være strategisk Det skal koordineres med forretningen Data stewardship skal være defineret

20 Data Stewardship Datadefinitioner og -standarder Metadata og forretningsregler Impact analysis og data tracking Data quality Kommunikation af standarder 20

21 Data Stewardship Hvem, hvad, hvor? The Myth of the Purebred Data Steward Jill Dyché, Baseline Consulting

23 Datakvalitet i praksis Kort om DataFlux Datakvalitet Datakvalitetsprocessen Demonstration af DataFlux Profilering Architect Lidt om teknisk set-up og muligheder SAS -datakvalitet og SAS Data Integration

24 DataFlux - et SAS-selskab Opkøbt af SAS i 2000, drives som selvstændigt datterselskab Over 1000 kunder over hele verden DataFlux mission er at hjælpe firmaer med at forbedre kvaliteten af deres data DataFlux platform inkluderer best in classteknologi, som omfatter dataprofilering, datakvalitet, dataintegration, databerigelse og datamonitorering Anerkendt af Gartner som Leader i datakvalitet

25 Gartner Magic Quadrant - DataFlux Data Quality Tools Source: Magic Quadrant for Data Quality Tools, 2008, June, Ted Friedman, Andy Bitterer.

27 Vi har ikke noget datakvalitetsproblem! Datakonvertering Systemkonsolidering Manuel dataindtastning Batchdataoverførsel Real-time interface Eksperter, der forlader virksomheden Systemopgraderinger Sletning af data Nye datakilder Databearbejdelse Procesautomatisering Datarens Copyright 2007, SAS Institute Inc. All rights reserved.

28 Survey: Over 50% har problemer med datakvaliteten inden for flere områder I hvilket omfang har din afdeling konkretiseret specifikke problemer med datakvaliteten? Hvilke udfordringer står din afdeling/projekt over for? Dataintegration på tværs af systemer Inden for flere områder Manglende fælles datadefinitioner Dubletdata Kun sporadiske problemer eller i forbindelse med udveksling af data. Inden for enkelte områder. Mangel på datastandarder Andet: Manglende præcision/anvendelighed i data Manglende verifikation af adresser 0% 20% 40% 60% 80% 0% 10% 20% 30% 40% 50% Copyright 2007, SAS Institute Inc. All rights reserved.

29 Survey: Årsager til dårlig datakvalitet Voksende datamængder Virksomhedssammenlægninger og opkøb Mange datakilder Data, der forældes over tid Legacy-systemer Data er fejlbehæftede Mangel på fælles datastandarder i organisationen Duplikater Manglende data i databasefelter Indtastnings- og stavefejl Datamigration eller konverteringsprojekter Hvad er de primære årsager til fejl i data Fejl i data indtastet af medarbejdere Datamigration Systemfejl Eksterne data Andet: Fejl i data indtastet af kunder Ved ikke 0% 20% 40% 60% 80% Copyright 2007, SAS Institute Inc. All rights reserved.

30 Best practice Håndtering af datakvalitet Best-practice data quality programs are not a one-shot measure (clean up and move on) To achieve results, successful programs identify the organizational processes behind data quality Much like regular IT housekeeping, from virus scanning or performance monitoring to data backup, the data quality program becomes part of daily IT routine Source: Organizing for Data Quality. Research note from Gartner Inc., June 1, 2007.

31 Behov for fælles overblik og håndtering af datakvalitet

33 Datakvalitetsprocessen Finde mønstre i data og afdække problemstillinger Standardisere og rense data ved brug af lokalsprogskendskab Integrere og verificere data Monitorere data ved brug af foruddefinerede forretningsregler Fordele Få et bedre datagrundlag for beslutninger Se tendenser i data, der giver mulighed for at reagere tidligere i forretningen Mere effektive forretningsgange som følge af højere kvalitet i dataprocesser Forretning får tillid til data

34 SAS Quality Knowledge Base Locales (QKB) Geografiske og sprogspecifikke datakvalitetsregler og standardiseringskonventioner Datakvalitetsalgoritmer for typiske datatyper F.eks. navne- og adressekonventioner eller telefonstandarder Ordlister over kendte navne og stedord Genkender betydningen af ord ved klassifikation Parsing-hierarki Kan parse en sætning i relevante elementer Lingvistiske regler Viden om lokalsprogets grammatik og fonetik

35 Måling af datakvalitet Profilrapport for datakvalitet Overblik over data Profilering Mønster i data Redundans Identificering af relevante problemstillinger

36 Standardisering Generelle egenskaber Brugervenlighed: Ikke programmeringstilgang Designet til forretningsbrugere, som forstår data Regelbaseret Systemet kan lære, som man lærer i de fleste situationer Genbrugelighed Viden om data kan bruges proaktivt efterfølgende til at holde alle data standardiserede og rene Holistisk tilgang: Fuzzy matching, fonetik og standardisering

37 Integration Match og link af data Når kolonnerne er profilerede og standardiserede, vurderes hvilke match-kriterier der skal bruges for at identificere unikke records Dernæst genereres matchkoder på alle kunder Matchkoderne laves på navn og adresse og skal bruges til at matche kunder (deduplikere) og til unik identifikation Best practice er at generere to (evt. tre) matchkoder for hver række En matchkode med en høj kompleksitet (følsomhed), som identificerer kunden temmelig præcist på navn og adresse En matchkode med en lavere kompleksitet, hvor matchkoden kan dække bredere Eksempler: Adresse + navn Adresse + postnummer Adresse + telefonnummer Postnummer + navn + telefonnummer

38 Integration Match og link af dataeksempel KR Gammel Navn og adresse 2. system Christian Vesterman Gl.gaardsvej Farum U KRSTN USTRMN GMLGRV Farum

39 Integration Match og link af dataeksempel General account U N Bankfuldmægtig Kristian Søren Westermann Gammelgårdsvej Farum KRSTN USTRMN GMLGRV Farum

40 Integration Match og link af dataeksempel General account Bankfuldmægtig Kristian Søren Westermann Gammelgårdsvej Farum Navn og adresse 2. system KRSTN USTRMN GMLGRV Farum Christian Vesterman Gl.gaardsvej Farum KRSTN USTRMN GMLGRV Farum

41 Integration Match og link af dataeksempel General account KRSTN USTRMN GMLGRV Farum Navn og adresse 2. system KRSTN USTRMN GMLGRV Farum Matchkode (Navn og adresse): 3Y4$$$$$$$#4~YBP$$$$ = Matchkode (Navn og adresse): 3Y4$$$$$$$#4~YBP$$$$

42 Berigelse Validering og berigelse af records Data er nu i en entydig form, hvor de kan valideres imod 3. parts service Data kan yderligere beriges: Geokodning længde og breddegrad Identificere køn Identificere organisation/individ Bagefter har man fine og rene data

43 Datamonitorering Kontrol Sikre informationskvalitet Validere data mod forretningsregler DataFlux Demo Automatisk identificere invalide data Trendanalyse Undtagelsesadvisering ( ) Publicere analyser til webportal

45 SAS -datakvalitet Løsningsarkitektur Legacy systems

46 User interfaces real-time batch Data Quality Hub Shared rules and reuse in multiple areas Data warehouse Web services real-time Enterprise application integration ERP DataFlux quality knowledge base Master Data Management real-time Developer analysts, administrator

48 SAS Data Integration Studio 4.2

49 SAS Data Integration Egenskaber Forene en lang række systemer samt validere og rense med henblik på at analysere information og skabe viden Dokumentere og vedligeholde DI- og BIprocesser fra rådata til rapportstrukturer, så der skabes transparens Et kontaktpunkt til dataintegration og -kvalitet Fordele Hurtigere anvendelse af kritiske data og færre ressourcer anvendt ved at automatisere processen Færre ressourcer til dataindsamling og validering ved øget genbrug og standardisering Bedre grundlag for at træffe beslutninger ved at forbedre datakvalitet og datastyring

50 Pause

52

53 Hvad er produkt- og materialedata i din organisation? Informationer om, hvilke dele / materialer der indgår i produktion af et bestemt produkt? Informationer om ydelser og delydelser Overblik over, hvilke serviceydelser der indgår i en kundeaftale? Eller? Commodity coding, sourcing UNSPSC (The United Nations Standard Products and Services Code ) ecl@ss BoM (Bills of Material)

54 Industry applications of data quality Public Sector (identity resolution and matching) Financial Services Drive compliance and risk management with real-time data monitoring Actively monitor for embezzlement or fraudulent activity Telco (Billing) Manufacturing (spend analysis) Life Sciences (anonymize patient data, 3 rd party data collection/sharing) Insurance (fraud/abuse in claims) Retail (marketing, fraud) Transportation (logistics)

55 Kunder vs. produkter Hvad er kendetegnet ved kundedata? Navne Adresse Alder Kundenummer Etc. Der er visse regler for at kunne identificere og dermed håndtere data Er der regler for, hvordan du håndterer dine produktdata? Hvis ikke burde der være det?

56 Commodity coding Eksempel:

58

59 Accelerators MDM solution for Product Data Accelerator for Commodity Coding offers a faster way to enhance product and item data with ecl@ss and UNSPSC classification codes, providing a standardized way to organize and segment information on spending patterns. MDM Solution for Customer Data Accelerator for Customer Data Analysis allows you to discover exactly what data problems exist in your company s customer data repositories, and then helps you turn this knowledge into a detailed plan to fix those issues. Accelerator for Customer Data Improvement gives you a powerful set of tools to correct data quality problems and unlock the real value of your customer information. Accelerator for Customer Data Control is a web-based dashboard builder that includes over 175 pre-built business rules and routines, simplifying the process of monitoring and maintaining highquality customer data.

60 The most critical factor to master data management success is data quality. Adapters DataFlux SOA Integration Support the ability to run dfpower Studio jobs in a client/server mode by allowing users to offload dfpower Studio jobs onto higher performance server. Support the ability to create data quality and integration processes visually instead of locking the logic into native code. Support an SOA framework, enabling complete reuse of data quality and integration business logic. allows you to discover exactly what data problems exist in your company s customer data repositories, and then helps you turn this knowledge into a detailed plan to fix those issues. DataFlux Adapter for SAP Validate, format and complete address information in real time according to postal authority standards. Automatically identify duplicate records within SAP using domestic and international fuzzy matching logic. Present duplicates to SAP users in real time for record consolidation. Search Business Address Services using robust fuzzy matching technology. DataFlux Adapter for SAS Share information between SAS and DataFlux products with a common Quality Knowledge Base (QKB). Leverage SAS software s powerful data integration and data access capabilities. Apply data quality to all SAS supported data sources and platforms, which ensures enterprise scalability.

61 Accelerator for Commodity Coding Features Improve inventory and item data for better internal and supply chain management Append standardized product codes such as UNSPSC and Simplify spend analysis by correctly and universally coding inventory Foundation for MDM efforts

63 Afrunding

64 A starting point Assess your data quality and build a business case Assess data quality Determine business impact Estimate effort needed to cleanse data Business case One shot batch On-going program realtime/batch Business case Sponsor Roles Technology Change management Organization

65 The Quality Culture - Process Data Management Lifecycle Establish Policy Guidelines 1. Determine data assets to focus on 2. Understand relationship of data assets 3. Create standard data definitions and business rules, deploy data standards to improve business needs 4. Monitor adherence to policy and communicate 5. Re-evaluate usefulness of data 6. Maintain, optimize or retire

66 Best practice Håndtering af datakvalitet Fleksibel identitetshåndtering Forstå og løse duplikatposteringer på tværs af datakilder Bygge et samlet overblik over kundebasen ved at udnytte eksisterende applikationer Integreret Data Management Standardisere, verificere og forbedre kundedata, som modtages fra forskellige systemer Forretningsregler sikrer, at data af høj kvalitet forbliver af høj kvalitet Service-Oriented Architecture (SOA) Web services er fundament for realtidsdatamanagement og muliggør hurtigt svar til et foranderligt it-landskab

67 Gartner recommendation: BI Summit 2009 Organizations should refrain from trying to cleanse data using their own development efforts. Instead, they should redeploy and train developers to capitalize on commercially available toolsets. These toolsets are mature and typically uncover more data issues than custom applications can.

68 Opfølgende spørgsmål til jer?

69 Ikke kun teknologi Mennesker Teknologi Processer

70 Afrunding: Datakvalitetsstrategien 1. Planlægning og vision Profilering af data 2. Prioritering af områder og business case Udvælg et afgrænset område 3. Initiering af kvalitetsprocessen Fokus på Data Stewardship Monitorering og opfølgning på Business Case

71 Spørgsmål: Michael Nielsen Business Advisor Information Management Division T: M: SAS Institute Købmagergade København K

72