Teknologi: innovation, ai og etik

Nogle af mine yndlingssessioner på Techonomy-konferencen tidligere i denne måned handlede om etik, værdier, innovation og hvordan kunstig intelligens er kommet til at spille på disse områder.

Menneskelige værdier for en teknologisk alder

Teknologiens grundlægger David Kirkpatrick begyndte konferencen med et foredrag om fokus på teknologiens menneskelige værdier. Den første store samtale handlede om "menneskelige værdier" med Julie Hanna, udøvende formand for Kiva, der talte om teknologi som en demokratiserende styrke, og bemærkede, at store dele af verden lever på mindre end $ 2 om dagen. Hun sagde, at "den største form for retfærdighed er fair adgang."

Præsten Michael C. McFarland, kasserer, USAs nordøstlige provins i Society of Jesus, sagde, at vi er nødt til at spørge os selv, hvor er retfærdigheden, hvad angår den måde, teknologi bruges, og til at tænke over de antagelser, der er indlejret i teknologi. Han bekymrer sig for, at arbejdspladssteknologi, der kan producere større effektivitet og produktivitet, ofte implementeres uden at tænke over indvirkningen på arbejdstagere, der undertiden har ødelæggende virkninger. Han opfordrede publikum til at starte med at tænke på arbejderens oplevelse.

Erica Kochi, administrerende direktør for innovation og medstifter af UNICEF Innovation, bemærkede, at for syv år siden var der ingen god teknologiløsning rettet mod de fattigste af de fattige, og den eneste fællesnævner var tekstbeskeden. Hendes gruppe har fokuseret på at bygge sine egne løsninger ved hjælp af tekstmeddelelser, og bemærkede, at selvom der er meget billige Android-telefoner, blev operativsystemet bygget til folk med en dataplan, ikke for dem, der bor på mindre end $ 2 om dagen. ”Hvis vi skal bygge produkter og tjenester til folk, der ikke er os, er vi nødt til at tænke over det fra deres synspunkt, ” sagde hun.

Hanna talte om det "falske valg mellem formål og fortjeneste, mellem mission og produkt", og sagde, at mission-drevne kulturer er bedre steder at arbejde, skabe større loyalitet og hjælpe med at opbygge varige virksomheder. Kochi sagde, at du kan gøre begge dele, og sagde, at kerneforretningsmodellen skal være i overensstemmelse med socialt ansvar, hvilket ikke burde være noget, der gøres på siden.

McFarland talte om at fokusere ikke kun på aktionærer, men på alle interessenter i et selskab, og bruges som et eksempel på AT & T's Bell Labs før virksomhedens sammenbrud. Han er bekymret over den manglende investering i langsigtet F & U og sagde "vi er nødt til at ændre kulturen for, hvordan vi tænker på forretning, og hvad det betyder at være succes."

Bibliotek

Jeg blev imponeret over en senere tale af Tony Marx, præsident for New York Public Library, der sagde, at i modsætning til antagelsen, at nogle har, at biblioteker forsvinder, så han ny teknologi som den største historie i historien til hvilke biblioteker har altid stået for - at hjælpe folk med at få adgang til information.

Han bemærkede, at biblioteker i fortiden blev holdt tilbage af de fysiske og økonomiske begrænsninger for at få folk til samlingerne, men sagde, at dette ændrer sig.

Biblioteker kan have indflydelse på tre store måder, sagde han. Den første er bare ved at forbinde mennesker, og han bemærkede, at en tredjedel af amerikanerne ikke har internetforbindelse derhjemme, men biblioteker kan også tjene til at uddanne folk, hvordan man bruger computere, samt hvordan man kode dem.

Han sagde, at selvom nutidens søgemaskiner er "utrolige", har de begrænsninger, og bemærkede, at en masse af de grundlæggende kvalitetsoplysninger, der produceres i årtusinders indsats, stadig ikke er tilgængelige. Han sagde, at hans vision er at tilbyde lånere på biblioteket "hver bog, hvert billede, hvert dokument og hvert arkiv overalt i verden gratis."

Det hele kommer tilbage til den gammeldags opfattelse af et bibliotek som fundament, sagde Marx og opfordrede os til at forestille os, om alt talent i verden havde evnen til at lære, skabe og innovere, uanset hvad de valgte. ”Vi har værktøjerne til at gøre det ustoppeligt, ” sagde han. "Lad os gøre det."

Guder i kasser: Almægtige algoritmer og skjulte værdier

Oren Boiman, medstifter og CEO af Magisto, der bruger AI til at redigere videoer, sagde, at "computere bliver mere og mere sorte bokse, " med algoritmer oprettet af neurale netværk, der slår de bedste algoritmer designet af programmerere. Selvom disse algoritmer kan træffe beslutninger langt bedre end mennesker, forstår ingen helt, hvordan de gør det.

Vivienne Ming, medstifter og direktør for Socos, der sælger software, der hjælper børn med at lære ved at sende en anbefaling om dagen til deres forældre, talte om at skabe intelligente algoritmer. Hun sagde, at meget af arbejdet med dybe neurale netværk afhænger af træningssæt, og talte om en ansigtsgenkendelsesalgoritme, der ikke genkendte sorte ansigter på grund af en iboende bias i træningen. ”Computere er ligesom mennesker, ” sagde hun. "Det afhænger af, hvordan du hæver dem."

Yahoo-chefforsker Ron Brachman sagde, at selvom vi bruger antropomorfiserede udtryk til at beskrive maskiner, er der stadig en grundlæggende forskel mellem mennesker og computere lige nu. Mennesker træffer beslutninger baseret på deres behov og ønsker, hvilket er meget anderledes end den måde, beregningssystemer træffer beslutninger i disse dage.

Boiman forklarede, hvordan i de fleste af disse "sorte kasser" alt er forbundet, og små ændringer i input kan gøre store og til tider kaotiske forskelle i resultater, såsom når videoer bliver virale. Han sagde, at dette gør tingene uforudsigelige, og det er svært at spore tingene tilbage til, hvad der oprindeligt skete. Brachman bemærkede, ligesom vi ikke har nogen måde at kontrollere, hvad børn lærer, det samme gælder for beregningsmekanismer.

Intelligente forretningsmaskiner

Diskussionen om AI og de etiske spørgsmål, der opstår, fortsatte i et andet panel med lederne af nogle mere specialiserede softwarevirksomheder. Babak Hodjat, medstifter og chefforsker i maskinuddannelsesfirmaet Sentient Technologies, sagde spørgsmålet om etik er lidt af en distraktion, når det kommer til AI, og at etik også påvirker alle mulige andre teknologier, lige fra smartphones til FICO-scoringer.

George John, formand og grundlægger af det programmatiske reklamevirksomhed Rocket Fuel, bemærkede fordelene ved teknologi og sagde "Hvis AI virkelig fungerer, bør folk komme hjem tidligere." Han talte om behovet for nye ledelsesevner og at styre både mennesker og smarte maskiner. Han talte også om at lede efter applikationer af AI, der ikke kun er egnet til store virksomheder, men som også kunne være til fordel for enkeltpersoner.

Jag Duggal, SVP for produktstyring for publikummålselskabet Quantcast, sagde, at disse er værktøjer designet til at gøre os mere produktive, få flere ting gjort og øge vores kapacitet. Han sagde, at der er et utal af innovation og produktivitet, der kan komme ud af dette, og sagde, at selv om der er frygt for, at teknologien bliver for god, er han meget mere bekymret for teknologiens grænser.

Han var især bekymret over incitamenter, og hvad der sker, når maskinlæringsalgoritmer ender med at følge de forkerte incitamenter. For eksempel bemærkede han, hvordan e-handelsleverandører på det online annonceplaceringsmarked gav æren for den sidste annonce, en person så, før han afgav en ordre. Dette resulterer i, at flere annoncer målrettes, når en person allerede har besøgt et e-handelswebsted, og ofte efter, at nogen har besluttet at købe; med andre ord, når annoncen kan være spildt. Quantcast forsøger at stille bedre eksempler, sagde han.

Jon Stein, grundlægger og administrerende direktør for AI-baserede investeringsselskab Betterment, talte om det gode, som teknologien kan gøre, og var enig i, at det var vigtigt at skabe klare incitamenter. Han talte om at følge tillidsnormer, såsom at handle i din kundes bedste interesse, og sagde gennemsigtighed har en stor rolle at spille, så folk kan forstå, hvor konflikter kan opstå.

Stein sagde, at teknologi vil gøre det sværere at være kriminel over tid, men Duggal sagde, at han er mere skeptisk, fordi skurker også har teknologi. Stadigvis er han imponeret over potentialet ved teknologi og nævnte et eksempel på et projekt fra Google, hvor en AI kan identificere kræftformer i føflekker på hud. Han sagde, at han er bekymret for en "forkert indramning" af problemet af modstandere af teknologi.