Årets dataetikpris går til Emento A/S

Emento har udarbejdet en databeskyttelsespolitik, der bygger på fem dataetiske principper, hhv. mennesket i centrum, individuel datakontrol, gennemsigtighed, ansvarlighed og ligeværdighed. Principperne er udvalgt med inspiration fra Dataethics.eu  og bruges aktivt i såvel ledelsen og virksomhedens dagligdag. Politikken er bygget op således, at en definition af et givent princip bliver efterfulgt af en række spørgsmål, som medarbejdere løbende skal tage højde for  ifm. en konkret opgave (læs politikken her).

Dataetik er ikke en opgave eller et projekt. Det er en forretningsstrategi og -filosofi. Emento udmærker sig på ledelsesmæssig og organisatorisk forankring i arbejdet med dataetik.

I praksis er dataetik forankret i ledelsen, men samtidig udmøntes den i alle led af organisationen.

Juryen fremhæver EMENTOs dataetiske arbejdsgrundlag TRUST, som bl.a.  giver DPO’en (Data Protecion Officer) et mandat til at indkalde ledelsen og inddrage bestyrelsen, hvis der opstår nye dataetiske problemstillinger eller spørgsmål. På den måde sikrer Emento, at der kan tages ledelsesmæssigt hånd om såvel aktuelle som potentielle dataetiske dilemmaer i takt med, at de opstår. Det er med til at fastholde det ledelsesmæssige engagement i dataetik.

Emento har derudover formuleret en ’Acceptable Use Policy’, der gør det muligt for medarbejderne at eksperimentere med ideer og nye teknologier inden for nogle klare rammer for dataetik og ansvarlighed. De tilbyder derudover medarbejderne awareness træning og er i gang med at udvikle en AI-uge, hvor medarbejderne først introduceres for generativ AI og derefter får mulighed for at bidrage med ideer og forslag til nye måder at bruge AI på.

I Emento forstås dataetik som det, de vil, og compliance som det, de skal, fx ifm. kontrakt- og lovkrav. Begge elementer betragtes som lige vigtige. Juryen bemærker, at Emento arbejder aktivt med design-etisk tækning og ansvarlige metoder i udvikling af deres produkter. Som eksempel deltager virksomhedens DPO i alle udviklingsmøder, og der er udarbejdet tjeklister, der sikrer stillingtagen til, hvordan privacy-by-design og privacy-by-default implementeres. For at sikre ledelsesforankring skal tjeklisten godkendes af virksomhedens CTO.

Emento arbejder aktivt med at identificere og håndtere potentielle utilsigtede negative konsekvenser, som kunne opstå ved brug af deres digitale produkt. Juryen fremhæver, at Emento, som led i forretningsstrategien Service-by-design, tager brugerne og relevante interessenter med i udviklingsarbejdet.  Dette kan både være personer i den direkte målgruppe, fx jordemødre og gravide, men også personer der har brug for særlig støtte ift. at anvende digitale værktøjer, fx personer med særlige kommunikationsbehov. På den måde tages der højde for brugernes og interessenternes behov fra start.

I 2019 vandt Emento en Danish Design Award for ”outstanding service”, bl.a. fordi Emento prioriterer patienten – mennesket. Ementos App tager afsæt i patienternes situation og behov og bruger data om den enkelte til at målrette informationen til det konkrete behov.

Juryen bemærker Ementos grundlæggende filosofi om at behandle data på samme måde, som de selv ønsker deres egne data skal behandles, og at deres løsning samtidig bidrager til at sænke omkostninger og øge trivsel i en presset sundhedssektor.

Juryen bemærker Ementos arbejde for at sikre tilgængelighed og digital inklusion – og bemærker, at det også er dataetisk. For at sikre tilgængelighed er løsningen fx designet til også at kunne understøtte fx ordblinde, blinde og mennesker med hørebesvær, der ellers kan have svært ved at navigere i store informationsmængder og digitale værktøjer. Emento tilbyder derudover alternative løsninger til personer, der ikke har mulighed for at bruge en telefon og Ementos App.

Patienterne kan i stedet få alle data fra et forløb i et interaktivt pdf-format med links til video og andet relevant materiale, der fx kan klæde brugeren på til et operationsforløb, og på den måde stadig få gavn af den målrettede information.

Emento har bl.a. testet deres løsning i samarbejde med Dansk Blindesamfund for at sikre, at løsningen i praksis kan understøtte forløb for patienter med særlige kommunikationsbehov.

Hos Emento er databeskyttelse, datasikkerhed og dataetik forudsætningen for, at der er tillid til virksomhedens produkter.

Juryen fremhæver, at Ementos måde at arbejde med dataetik på er overførbar og kan inspirere andre virksomheder, der ønsker at styrke deres arbejde med dataetik i praksis. Juryen fremhæver bl.a. Ementos politik og dataetiske principper, der sættes i anvendelse gennem formulerede hjælpespørgsmål og tjekliste, samt TRUST-konceptet, der løbende håndterer aktuelle og mulige dataetiske dilemmaer.

SupWiz udmærker sig som et godt eksempel på ”forklarbar AI”. SupWiz har bl.a. indført en række dataetiske initiativer, der skal styrke kundens (fx en kommune eller virksomhed) forståelse af deres chatbot-løsning. For eksempel indeholder chatbotten en funktion, der giver kunden step-by-step forklaringer på, hvordan chatbotten er kommet frem til et givent svar. Kunden får vist fx 20 logiske skridt, som forklarer baggrunden for, hvorfor chatbotten giver det specifikke svar. Derudover får kunden indsigt i, hvordan chatbotten opfatter teksten og en konkret vurdering af sandsynligheden for, at et givet svar er korrekt.

Juryen fremhæver, at SupWiz på denne måde øger gennemsigtighed, slutbrugernes forståelse for grundlaget for svarene, samt mulighed for at forholde sig kritisk over for genererede svar.

Kunden kan desuden vælge at udfolde delforklaringer og ændre i, hvordan chatbotten skal forstå og svare på bestemte spørgsmål fra slutbrugerne (fx en virksomheds kunder). På den måde er det muligt for kunden at påvirke, hvordan teknologien bruges forud for, at den sættes i produktion. Derved har kunden indflydelse på, hvordan chatbotten skaber mest mulig værdi for slutbrugerne og kan samtidig reducere risikoen for, at teknologien bliver brugt forkert.

SupWiz indeholder desuden muligheden for, at kunden kan definere såkaldte standardværdier for, hvornår der er behov for, at et menneske overtager en dialog med en slutbruger – eller hvor sikker chatbotten skal være, før den svarer. I situationer, hvor en samtale har mere følsom karakter, fx spørgsmål om sygdom og død, eller chatbotten ikke er sikker i sit svar, kan man indstille chatbotten til selv at trigge personlig betjening.

Juryen understreger, at SupWiz med disse tiltag arbejder for at sikre, at deres chatbot ikke blot er en ”black box teknologi”, men et værktøj, der hjælper virksomheder/offentlige institutioner i dialogen med deres kunder og giver brugerne mulighed for - på informeret vis – at forstå og påvirke måden, løsningen bruges på.

Virksomheden tilbyder en sproguafhængig chatbot, som er baseret på en (sprog-agnostisk) teknologi, der sikrer, at spørgsmål forstås uanset slutbrugerens sprog og sprogegenskaber. Juryen fremhæver, at chatbotten derved gavner minoritetsgrupper, fx personer med andet sprog end dansk og personer med læse- og sprogvanskeligheder, med at fremfinde relevante informationer.

Det er vigtigt for SupWiz, at der er tydelighed omkring dataejerskabet og
datakontrol – og at data ejes 100% af deres kunder. På den måde har kunden sikkerhed om, at deres data ikke bruges til andre formål eller videregives til andre parter som fx tredjeparts virksomheder eller stater.

Juryen fremhæver Supwiz’ filosofi om, at kunden skal være i total kontrol over egne data – også selvom det på kort sigt ikke nødvendigvis synes forretningsgavnligt. Det er fx gjort nemt for kunderne at slette eller hive al data ud – helt uden inddragelse af Supwiz.

For SupWiz er dataetik en forretningsstrategisk prioritet, der ikke kun bor i ledelsen. Der er derfor fokus på, at de dataetiske principper ligeledes er en del af medarbejdernes værktøjskasse. Supwiz kommunikerer bl.a. løbende de dataetiske principper til medarbejderne, arrangerer events og gå-hjem-møder om dataetik og ”Ansvarlig AI”  med henblik på at give medarbejderne de nødvendige forudsætninger til at kunne omsætte og agere efter de dataetiske principper, bl.a. i deres møde med kunder.

Supwiz har i dataetik organisatorisk og i selve produkt. Juryen bemærker, at SupWiz’ principper om fx gennemsigtighed, forklarbarhed, ret til egne data og øget digital lighed i form af tilgængelighed er gode principper som kan inspirere andre virksomheder. Juryen bemærker dertil, at Supwiz’ arbejde med at klæde medarbejdere og kunder på ift. at kunne agere dataetisk er relativt lette greb, som andre virksomheder kan finde inspiration i.

Med LB Forsikrings strategi om at bidrage til at forebygge, og ultimativt helt forhindre skader, har LB forsikring forpligtet sig til, på ansvarlig vis, at udforske og anvende data og persondata til gavn for forretningen, medlemmerne og det øvrige samfund.

Juryen fremhæver LB Forsikrings sigte om at sætte medlemmerne i stand til at skabe værdi for sig selv gennem egne data samt fokus på at forudsige og gribe ind før skader sker – for dermed ultimativt at gøre forsikring helt overflødig.

Med afsæt i Forsikring- og Pensionsbranchens dataetiske principper, Cool eller Creepy, har LB Forsikring defineret en klar dataetisk position og underliggende principper, der sætter rammen for LB Forsikrings dataetiske arbejde. Principperne er Personalisering og forebyggelse, Datasikkerhed og Transparens (læs mere her).

Juryen fremhæver, at der, med afsæt i den udarbejdede position og principperne, også er udarbejdet en konkret politik og retningslinje, der sætter rammen for det konkrete dataetiske arbejde (læs mere her).

Det dataetiske arbejde i LB Forsikring er forankret i direktionen. Juryen bemærker dertil, at selskabets politik og retningslinjer for det dataetiske arbejde eksplicit forpligter direktionen på en række områder, fx at:

• selskabet får de nødvendige processer og procedurer til at identificere, vurdere og håndtere dataetiske spørgsmål
• der etableres processer, hvor dataetiske dilemmaer løbende kan diskuteres i virksomheden
• alle medarbejdere er tilstrækkeligt informeret om selskabets politik, og der er fastlagt processer og procedurer som træning og tests
• direktionen tager ansvaret for, at væsentlige dataetiske spørgsmål i forbindelse med dataanvendelse og ny teknologi besluttes i direktionen

Juryen fremhæver de konkrete initiativer, som LB Forsikring har etableret for at sikre inddragelse af fx medarbejdere og ledere og tæt kobling mellem forretningsaktiviteterne og det dataetiske arbejde.

Der er bl.a. udviklet et dataetisk dilemmaspil til at sætte diskussioner i gang om LB Forsikrings dataetiske positioner. Med afsæt heri har medarbejdere og ledere fået mulighed for at bidrage til selve udformningen af de dataetiske retningslinjer og tjeklister til håndtering af dilemmaer i praksis. De dataetiske retningslinjer er efterfølgende testet på de forretningsområder, der arbejder med LB Forsikrings digitale platforme.

For at sikre løbende drøftelse af dataetiske dilemmaer og spørgsmål, har LB Forsikring desuden etableret et dataetisk forum, og man gør brug af Det digitale Etikkompas som et værktøj til diskutere og håndtere dataetiske dilemmaer. Der afholdes dertil uddannelsesdage for ledere og medarbejdere.

Juryen lægger vægt på, at LB Forsikring har givet mulighed for, at medarbejdere, der arbejder med virksomhedens digitale platforme, kan bidrage til formulering af rammen (retningslinjer) og til det egentlige dataetiske arbejde – i hverdagen. Juryen bemærker, at LB Forsikring har gjort en særlig indsats for både at skabe ejerskab overfor de formulerede retningslinjer og for at klæde hele organisationen på til at kunne udmønte dataetik i praksis, herunder indarbejdelsen af procedurer, der kan håndtere de dilemmaer, der opstår løbende.

LB Forsikring arbejder på at styrke transparens og give medlemmerne øget kontrol over egne data. Medlemmerne kan fx let få indsigt i, hvad data bruges til, og om data er rigtige, samt hvilke typer data, der har betydning for pris og vilkår samt eventuelle undtagelser i fx dækningsomfang.

Der er ligeledes taget initiativ til at tydeliggøre, hvordan persondata opbevares, hvad de bliver anvendt til, og hvem de eventuelt deles med, samt hvad medlemmerne aktivt siger ja til, når de deler deres data med LB Forsikring.

Juryen lægger vægt på, at LB Forsikrings arbejde med dataetik er overførbar og kan inspirere andre virksomheder, der ønsker at styrke deres organisatoriske arbejde med dataetik.