Microsoft, is og besværet med at teknologi er 'neutral'

Når du kigger efter ord til at beskrive IBM, synes du solidt og stabilt, men det er også plettet. Under 2. verdenskrig, under ledelse af sin formand og administrerende direktør Thomas Watson, bistod IBM med at mekanisere det administrative arbejde i Det tredje rige.

Virksomhedens tyske datterselskab, med samarbejde og koordinering af moderselskabet, oprettede koncentrationslejre med leasede kortsorteringsmaskiner, som det vedligeholdt, tilpassede applikationer til og forsynet med papir for at holde dem i stempelkort. Oplysningerne, der blev udråbt af disse Hollerith-maskiner, spillede en rolle i at sætte jøder bag barbermaskinens hegn, som millioner ikke ville undslippe.

I dag er tusinder af børn af indvandrere og asylansøgere i deres egne kædeleddebur i amerikanske tilbageholdelsescentre, stregkoder pakket rundt om deres håndled. Virksomheder bag teknologien, der holder styr på dem - eller ikke - er ikke ivrige efter at prale af det faktum.

I januar talte Microsoft om sit partnerskab med Immigration and Customs Enforcement (ICE), der bruger Redmonds Azure Government-skytjeneste. Stillingen dukkede op igen i denne uge midt i oprøret over regeringens børneseparationspolitik ved grænsen, og for en kort tid blev enhver omtale af ICE skrubbet fra den. Kilder med viden om problemet fortalte PCMag, at en medarbejder slettede det efter at have set kommentarer på sociale medier; det blev gendannet kort derefter.

Kilden sagde også, at de ikke tror, ​​at Azure- eller Azure-tjenester bruges til adskillelse af familier ved den sydlige grænse, noget administrerende direktør Satya Nadella gentog i et brev, der fordømmer administrationens politik om at adskille familier. Han sagde, at Azure kun bruges af ICE til ældre e-mails, kalender, messaging og dokumentstyring.

Men egentlig kan han ikke være sikker på nøjagtigt, hvordan agenturet bruger sine tjenester. Nogle Microsoft-medarbejdere er tilsyneladende enige; de skrev et åbent brev, der bad virksomheden om at afslutte sin kontrakt med ICE. Udviklere på GitHub, som Microsoft for nylig har erhvervet, gjorde det samme.

Det er her teknologivirksomheder skal træffe beslutninger på moralske grunde; ønsker de at gøre forretninger med regeringsenheder, der beskæftiger sig med arbejde, som FNs højkommissær for menneskerettigheder har kaldt ubevidst?

Kontrovers om billedgenkendelse

Mens det havde en lavere profil, underskrev Vigilant Solutions en kontrakt med ICE om dets licens-plate-anerkendelsesprogram (LPR), der bruges til at finde og spore mennesker i realtid. "Vores LPR-løsning er ikke kun til at finde stjålne køretøjer. Den er til det og meget mere, " siger selskabets websted.

Vigilant Solutions svarede ikke på en forespørgsel om sit arbejde med ICE. Og det er ikke det eneste selskab, der forbliver tæt spændt om billedgenkendelsesteknologi, der bruges af lovhåndhævelse og myndigheder.

Amazons Rekognition bruger dyb læring til at opdage livløse genstande, mennesker og aktiviteter. Når man bliver spurgt om lovlige, men måske samfundsmæssigt tvivlsomme anvendelser, hvis ICE skulle blive kunde, anerkender en talsmand for Amazon potentialet for misbrug, men sagde Rekognition er underlagt Amazon Web Services acceptabel brugspolitik.

En læsning af politikken kommer kort op på måder, der kan stoppe ubestridelig adfærd. Den mest relevante sektion vil forbyde "Alle aktiviteter, der er ulovlige, der krænker andres rettigheder, eller som kan være skadelige for andre, vores operationer eller omdømme."

Rekognition er ikke i brug af ICE, men den bruges af flere politidepartementer, noget der bekymrer nogle Amazon-aktionærer, der har bedt virksomheden om at stoppe med at sælge Rekognition til retshåndhævelse.

NBC News afslørede en række tekniske virksomheder, der har kontrakter med ICE, herunder HP Enterprise, Dell og Motorola. Et firma, der hjælper ICE, skal ikke overraske: Palantir. Det har en aftale på 41 milliarder dollars for ICEs produktundersøgelsesprodukt, som er "missionskritisk" for agenturet ifølge dokumenter, der er opnået af The Intercept.

Palantirs medstifter og formand Peter Thiel har været en konstant tilhænger af Donald Trump siden hans kampagne. Thiel selv har ikke talt om situationen ved grænsen, men i 2008 lavede han en donation på $ 1 million til anti-immigrantgruppen NumbersUSA, som er dedikeret til at reducere både lovlig og ulovlig indvandring. Thiel ser tilsyneladende ingen ironi i at blive en newzealandske statsborger ved at omgå den sædvanlige proces.

Regeringskontrakter er pålidelige, men at drage fordel af aktiviteter, der ligner dem, der har ført til nogle af de værste grusomheder i historien, kommer til en for høj pris. Bare spørg Google, som har kæmpet med indvendinger mod sit arbejde med Pentagon på et kontroversielt drone-program. Den sociale kapital Silicon Valley har opnået i årenes løb, og dens evner og færdigheder bør bruges til at udrydde rædselshistorien for en bedre fremtid.