Hvordan gdpr vil påvirke ai-branchen | ben dickson

I det, der kan beskrives som et slags våbenløb, har tech-virksomheder samlet store mængder brugerdata for at finpudse de kunstige intelligensalgoritmer, der driver deres applikationer og platforme. Indtil videre har de mest været i stand til at undgå ansvarlighed, når deres praksis har skubbet dem ind i juridisk og etisk grå områder.

Men det kan ændre sig den 25. maj, når EU's almindelige databeskyttelsesregler (GDPR) træder i kraft. GDPR vil indføre hidtil uset begrænsninger på indsamling og håndtering af brugerdata i EU-regionen og smide tunge sanktioner for virksomheder, der ikke overholder.

Det lyder måske som dårlige nyheder for virksomheder, der bruger AI-algoritmer, som har draget fordel af slappe regler for dataindsamling (og lange, kedelige og tvetydige vilkår for servicedokumenter). Nogle frygter, at strengere regler vil hæmme innovation og anvendelse af kunstig intelligens i mange applikationer og domæner. Andre mener, at det nye direktiv vil skabe et fundament, hvor AI-applikationer bliver mere pålidelige og pålidelige.

Uanset hvad AI-sektoren er i for et stort skift i GDPR-æraen.

Dataejerskab og privatliv

"GDPR er en stor aftale for AI, fordi det kræver, at vi tænker anderledes over, hvordan vi indsamler og bruger data, " siger Tim Estes, grundlægger og præsident for Digital Reasoning. "For længe har teknologivirksomheder insisteret på, at du for at modtage værdi af deres produkter og tjenester måtte give op dine data."

Tidligere var virksomhederne forpligtet til kun at modtage et vagt samtykke fra brugere til at indsamle alle slags data. "AI har hjulpet med at holde stor-data-hype i live - hvilket giver endnu en grund til, at virksomhederne skal indsamle og mines alle tilgængelige data, " siger Estes. "Mange virksomheder er begyndt at implementere AI for at analysere deres data, bare fordi de synes, de burde - uden at tænke på indvirkningen på brugernes privatliv eller dataejerskab."

Den mest grundlæggende forudsætning for GDPR er, at data hører til brugere. Under GDPR skal virksomheder afsløre det fulde omfang af information, de indsamler, samt hvordan de bruger dem, og hvordan de vil beskytte dem og forhindre uautoriseret adgang. De nye regler vil tvinge AI-virksomheder til at være mere omhyggelige med de data, de indsamler, i modsætning til at blive engageret i mangelfuld opbevaring, behandling og deling af brugerinformation.

Retten til at blive glemt

GDPR giver brugerne beføjelse til at kræve, at et firma sletter alle deres data fra dets servere. Dette passer ikke godt sammen med AI-virksomheder, der har en interesse i at beholde så mange brugerdata som muligt til at udføre opgaver som forudsigelse af tendenser og brugeradfærd.

"I slutningen af ​​dagen handler GDPR om, hvordan du indsamler og administrerer dataene og ikke nødvendigvis om, hvor meget data du har, " siger Maryna Burushkina, administrerende direktør for GrowthChannel. "Den største vanskelighed, som de fleste virksomheder vil stå overfor, handler ikke meget om at få opt-ins, men mere med at styre dataene, kommunikere brugen af ​​data til brugerne og give brugerne mulighed for at slette dem."

AI-virksomheder bliver nødt til at tage ekstra skridt for at anonymisere deres data, hvis de stadig vil have adgang til disse indsigter. Men andre udfordringer står over for virksomheder, der allerede har store butikker med brugerdata.

"Hvis en virksomhed ønsker at slette en bestemt PII under GDPR, skal de sikre, at den slettes overalt, " siger Amnon Drori, administrerende direktør for Octopai. Dette kan være en skræmmende opgave at udføre manuelt, når dine data er spredt på forskellige servere og gemt i forskellige strukturerede og ustrukturerede formater.

Når man for eksempel sletter en brugers kreditkortnummer (bestemt et følsomt stykke information), skal virksomheder undersøge hver rapport, database, databaseobjekt og ETL, hvor informationen er gemt. "Nogle gange ser vi forskellige metadata-navne for det samme emne: for eksempel 'kreditkortnummer', 'cc-nummer', kredit-c-nummer ', ' kortnummer ', ' kreditkortnummer. '… listen fortsætter og på, ”siger Drori. Det er ofte umuligt at vide, hvor man skal se, og processen kan tage uger eller endda måneder, og ligesom mange manuelle processer er den tilbøjelig til menneskelig fejl og unøjagtigheder, siger Drori.

GDPR øger også omkostningerne ved menneskelige fejl ved håndtering af data. "Dette er grunden til, at så mange virksomheder i dag søger en automatiseret løsning til nøjagtigt at håndtere deres metadata, " siger Drori. Ironisk nok kan AI selv være en løsning i denne henseende. AI-drevne metadatastyringsværktøjer kan scanne alle datakilder inden for en organisation og konsolidere forholdet mellem forskellige værktøjer og datakilder.

Retten til forklaring

En af de mest betydningsfulde dele af GDPR vedrørende AI er hvad der er blevet kendt som "retten til forklaring." Direktivet siger, at virksomheder skal underrette brugerne om "eksistensen af ​​automatiseret beslutningstagning" og give dem "meningsfuld information om den involverede logik, samt betydningen og de påtænkte konsekvenser af en sådan behandling for den registrerede."

Dette betyder dybest set, at brugere skal vide, hvornår de direkte eller indirekte er underlagt AI-algoritmer og skal kunne udfordre de beslutninger, disse algoritmer træffer, og anmode om bevis for, hvordan konklusionen blev afledt. Dette vil være en af ​​de største udfordringer, som AI-branchen står overfor.

Dybe neurale netværk, den vigtigste teknologi bag moderne AI-algoritmer, er komplekse softwarestrukturer, der skaber deres egne funktionsregler ved at analysere store datasæt og finde korrelationer og mønstre. Efterhånden som neurale netværk bliver mere kompleks, bliver deres opførsel stadig sværere at nedbrydes. Ofte kan ikke engang ingeniører forklare årsagerne til de beslutninger, deres AI-algoritmer træffer.

Kaldt "black box" -problemet har uforklarligheden af ​​AI-algoritmer gjort det svært at implementere dem i retssalenes afgørelser, retshåndhævelse, lån og kreditanvendelser, rekruttering, sundhedsydelser og andre kritiske domæner. Men uden nogen juridisk gearing havde AI-virksomheder lidt incitament til at gøre deres AI-algoritmer mere gennemsigtige, især når de var tæt knyttet til deres forretningshemmeligheder.

Nu vil GDPR holde AI-virksomheder til at redegøre for de beslutninger, deres algoritmer træffer.

"Som en del af GDPR er organisationer ansvarlige for klart at beskrive behandlingsmetoden på menneskeligt sprog, mens de anmoder om samtykke fra emnet, " siger Pascal Geenens, sikkerhedsforsker hos Radware. "Efterhånden som dyb læring udvikler sig, og dataforskere ikke er i stand til at karakterisere en deterministisk karakter bag det neurale netværks resonnement, kan denne beskrivelse blive mere kompleks og vanskelig at forklare."

Grundlæggende handler GDPR om at gøre de mennesker, der behandler dataene ansvarlige, siger Geenens. Så hvis du bruger maskinlæringsalgoritmer til at udføre behandlingen, skal du designe dem på en måde, der giver dig mulighed for at forklare de beslutninger, de træffer på dine vegne.

En håndfuld organisationer forsøger at udvikle teknologier for at gøre AI mere gennemsigtig. Fremtrædende blandt dem er DARPAs Explainable AI (XAI), et forskningsprojekt, der sigter mod at gøre AI-baserede beslutninger forståelige.

Outsourcing AI

GDPR vil også påvirke organisationer, der stiller deres data til rådighed for tredjepart. Et fremtrædende eksempel på en sådan virksomhed er Facebook; i sin Cambridge Analytica-skandale undlod den sociale medie-gigant at forhindre dataminingfirmaet i at indsamle og misbruge data fra 87 millioner brugere. Men GDPR vil også have konsekvenser for virksomheder, der outsourcer deres AI-funktionaliteter og stiller deres data til rådighed for AI-udbydere.

”Mens mange antager, at AI-udbydere er som andre tjenesteudbydere - blot at tilbyde deres tech i bytte for monetær kompensation - er sandheden, at AI-udbydere også indgår forretningspartnerskaber som en måde at bygge videre på og udvikle deres teknologi på, ” siger Estes, chefen direktør fra Digital Reasoning. Dette betyder, at en AI-udbyder måske ønsker at holde fast på en klients data for yderligere at træne sine egne algoritmer og bruge dem i andre domæner.

F.eks. Kan en AI-udbyder, der hjælper en sundhedsorganisation med at finde mønstre i symptomer og forbedre diagnoser, muligvis komme på et datasæt, der forbedrer dets ejendomsretlige algoritmer. AI-virksomheden vil måske derefter ønske at udnytte dataene til at forbedre dens algoritmer til andre typer af pleje af patienter, for at udvikle sine muligheder for at hjælpe andre sundhedsudbydere. Under GDPR holdes den sundhedsorganisation, der er ansvarlig for dataene, ansvarlig for enhver uetisk anvendelse af AI-udbyderen. Nøglen, mener Estes, er at virksomheder skal søge AI-udbydere, der tror på at eje algoritmerne, ikke dataene.

"GDPR vil tvinge virksomheder til at være mere opmærksomme på, hvordan og hvornår deres data bruges, hvor de gemmes, og hvad der sker med det, efter at et projekt er afsluttet, " siger Estes. "Det betyder, at du arbejder med AI-udbydere, der hjælper med at definere linierne med dataejerskab og implementere strategier, der beskytter brugerinformation, uden at hindre måderne, det er i stand til at hjælpe med at udvikle AI-algoritmernes succes."

Vil GDPR hindre AI-innovation?

Eksperter, vi talte med, mener, at selv om de nye forskrifter vil udfordre den nuværende praksis og vaner, som AI-virksomheder har vedtaget, vil det også tvinge dem til at finde nye måder at innovere på og også at bevare respekten for privatlivets fred og etiske standarder.

"Da GDPR-regulering træder i kraft, træffer alle de store softwarevirksomheder de nødvendige foranstaltninger for ikke kun at sikre overholdelse, men også for at innovere og tænke ud af boksen for at finde nye muligheder på markedet, " siger GrowthChannel's Burushkina.

"Innovation vil ikke blive hæmmet - men styret og motiveret - af GDPR, " siger Octopais Drori. I mellemtiden vil GDPR også give anledning til nye virksomheder og teknologier, der hjælper organisationer med at opnå og opretholde GDPR-overholdelse.

De standarder, der er fastlagt af GDPR, kan faktisk hjælpe med at bygge bro over det voksende tillidsgap mellem udbydere og brugere af AI-drevne tjenester. Estes mener, at GDPR vil gøre både AI-udbydere og dem, der implementerer deres teknologi, mere ansvarlige for, hvordan og hvor de bruger dataressourcer og presser dem til at placere brugerne før fortjeneste. "I slutningen af ​​dagen, " siger han, "skulle AI-udbydere kun skulle eje algoritmerne - ikke dataene - for at innovere deres muligheder og løsninger."