Teknologi: hvordan man løser, hvad der er galt med Google og Facebook

Det måske mest overraskende tema på dette års Teknologi var, hvor mange af talerne er oprørte over Facebook, Google og Twitter, med kritik, der fokuserede på deres tilgang til privatliv og især på den mulige rolle, de spillede i at muliggøre russisk hacking af valget i 2016.

En lang række talere pressede på for forskellige former for regulering af disse "Internet Giants", og ingen fra nogen af ​​de førnævnte virksomheder var på konferencen for at give et alternativt synspunkt. Dette var meget anderledes end sidste års konference, da Facebook-direktør Mark Zuckerberg sagde, at opfattelsen af, at falske nyhedshistorier på Facebook påvirkede valget, var "en temmelig skør idé."

Siden da, som Techone-grundlægger Simone Ross bemærkede, har vi lært, at "tech gør det lige så let at opdele os som at bringe os sammen." Konference medstifter David Kirkpatrick (ovenfor) satte tonen for konferencen og sagde, at "teknologi er en styrke til det gode, men kun hvis god er dit mål" og fortsatte med at sige, at han troede, at de store teknologiselskaber har brug for en "proaktiv kryds "med regeringen, uanset om det kaldes regulering eller ej.

Myndighed i en netværk, kunstigt intelligent verden

Kendt investor Roger McNamee fra Elevation Partners, en tidlig investor i både Facebook og Google, var måske den mest negative af alle talerne. McNamee sagde, at disse virksomheder var "begyndt at redde verden", men at dette ændrede sig, da reklame blev deres forretningsmodel. Han sagde, at smartphonen, når den kombineres med personlige oplysninger, har gjort det muligt at "skabe et niveau af hjernehacker, der aldrig er set før i medierne."

McNamee sagde, at han troede Zuckerberg var oprigtig, da han sagde, at han ikke troede, at en sådan hacking var mulig for et år siden, men sagde, at den rolle, som Google og Facebook nu spiller, ikke kan overdrives. Han kommenterede, "det skal være svært at være dem nu og indse, at du har ødelagt den vestlige civilisation."

danah boyd, Data & Society; Roger McNamee, Elevation Partners; Marc Rotenberg, Electronic Privacy Information Center (EPIC); Stratford Sherman, Accompli

Denne diskussion kom op i en del af et panel om "Autoritet i en netværket, kunstig intelligent verden", der også omfattede danah boyd, en socialvidenskabsmand med Data & Society og Microsoft Research; Marc Rotenberg, præsident for det elektroniske databeskyttelsesinformationscenter (EPIC); og moderator Stratford Sherman fra Accompli. Sherman sagde, at mens Facebook og Google startede som fora for offentlig tale, er de "radikalt ureguleret." Med AI, der grundlæggende kan påvirke den menneskelige race i horisonten, sagde Sherman, at han er bekymret over de utilsigtede konsekvenser af den teknologiske udvikling, vi allerede har set.

Rotenberg sagde, at selvom han stadig er bekymret over traditionelle bekymringer for privatlivets fred over at blive sporet og profileret, er han lige så bekymret over den manglende konkurrence, manglen på innovation og risikoen for demokratiske institutioner. Han sagde, at internetgiganterne har enorm magt, og de data, de besidder, skaber en ægte adgangsbarriere, så der ikke er nogen meningsfuld konkurrence. Rotenberg sagde, at han har været i Washington siden Reagan-administrationen, og for første gang, "det forløbne års valg følte sig ikke kendt."

I en tidligere session talte boyd, der skrev en bog kaldet It's Complicated , om vanskeligheden ved at konfrontere manipulation på Internettet.

Hun talte om en eskalerende manipuleringsproces i de sidste 20 år, der begyndte med børn, der troldede Oprah og gik videre til "rickrolls" og om ting som at ændre søgeresultaterne til navnet "Santorum." For nylig med Gamergate er en større rollebesætning blevet spillere, inklusive statslige skuespillere. boyd sagde, at internetvirksomhederne tror, ​​at AI kan beskytte dem, men de grupper, der forsøger at manipulere resultaterne, eksperimenterer allerede med naturlig sprogbehandling og vigtigst af alt at manipulere med datakilder. Injektion af dårlige data i et system er for eksempel en ny sårbarhed efter hendes opfattelse. Stadig, Boyd sagde, at det eneste svar vil være at "bygge tekniske antistoffer ind i vores branche."

I denne session sagde Boyd, at teknologiselskaberne regner med manipulation på flere fronter, og bemærkede, at selvom alle ser på Rusland, er der mange andre stater, der forfølger lignende handlinger. For eksempel prøver kinesiske virksomheder at sikre, at de vil kontrollere AI, og hun sagde, at dette udgør en anden udfordring, fordi det ikke handler om industriel konkurrence, men om at konkurrere med en stat.

På spørsmål fra Sherman, om dette er en krig, sagde boyd, at hun synes, det er, mens McNamee sagde, at det er klassisk guerillakrig, fordi vores fjender har brugt vores teknologi mod os. McNamee sagde, at problemet ikke er sociale netværk eller søgning, men reklamemodellen. Han sagde i kampen om folks opmærksomhed, stof bliver begravet af sensation og citerede det gamle ordsprog om, at "hvis det bløder, fører det."

Sherman bemærkede, at frygt og vrede er meget mere magnetisk og dermed meget billigere. Han sagde, at selvom organiske meddelelser blev brugt til at nå mere end 125 millioner mennesker, var målet med indsatsen at annoncer skulle segmentere folk i grupper baseret på delte interesser.

Rotenberg sagde, at han er for at gøre algoritmerne gennemsigtige og reklamer reguleret, men sagde, at vi skal respektere enkeltpersoners ret til at tale online. Men McNamee sagde, at "den første ændring er blevet våben", og at online rum er grundlæggende forskellige fra det offentlige torv.

boyd beskrev, hvad hun kalder "boomerang-effekten", eller med andre ord ideen om, at det at provosere medierne til at rapportere om uhyrlige ting er pointen, fordi dette forstærker den originale besked til det segment af publikum, der mistrer medierne. Som et eksempel talte Boyd om Pizzagate. Hun bemærkede, at medierne ofte anvendte "strategisk tavshed" før Internettet for at undgå at dække ting som selvmord og Klan-samlinger for at undgå at offentliggøre dem.

Rotenberg var enig i, at meget af denne tradition for omhyggelighed og tilsyn er gået tabt, og sagde, at ting som afsnit 230 (som siger, at internetfirmaer ikke er ansvarlige for ting som poster fra brugere) har gjort det vanskeligere for traditionelle nyheder at konkurrere.

På anmodning om løsninger sagde McNamee, at Facebook er en kult, og at det må stoppe med at benægte problemet og håndtere det, såvel som at begynde at adressere "afprogrammering" ved at nå ud til hver af sine brugere. Rotenberg fremmet ideen om regulering. Og boyd foreslog, at vi var nødt til at investere penge i samfundet for at "re-netværke" Amerika.

Reckoning med de nye hemonemonister

Mark Mahaney, RBC kapitalmarkeder; Dave Morgan, Simulmedia; Joyce Vance, University of Alabama; David Kirkpatrick, Teknologi

I et tidligt panel om "Reckoning with the New Hegemonists" var næsten alle enige med Joyce Vance fra University of Alabama, der sagde, at teknologien virkelig har overgået loven, som desperat har brug for at indhente. Men Vance advarede om, at der også er risiko for "slipshod" politiske svar.

Simulmedias Dave Morgan sagde, at "der vil være regulering", skønt han sagde, at det er muligt, at de store virksomheder muligvis kan undgå meget af dens virkning.

Morgan bemærkede, at medieindustriens historie giver paralleller til det, vi ser nu, da aviser ville have set sig selv som trykkerier, og de tidlige tv-selskaber så sig selv som tech-virksomheder. Alle disse muliggør levering af forbrugerkontakt, hvilket er klart, hvad Google og Facebook gør. Masser af antitrust-sager skete som et resultat af en sådan koncentreret mediekraft, og regeringen var i stand til at regere dem i. En stor forskel i dag er, at de andre teknologier krævede en geografisk nexus, som internetvirksomhederne ikke har brug for.

Vance bemærkede, at senatet nu overvejer et lovforslag, der kræver, at disse virksomheder skal bevare deres reklamehistorie, samt gøre det klart, hvem der betaler for politiske annoncer. Men Morgan påpegede, at dette nu er globale virksomheder med en bredere rækkevidde. På spørgsmålet om de europæiske GDPR-fortrolighedsregler sagde Vance, at USA godt kan have afgivet lederskab til EU på dette område. Hun sagde, at hun ikke tror, ​​at amerikanske virksomheder vil være i stand til at overholde forskelligt i forskellige geografiske områder, så virksomheder vil som standard overholde europæiske regler.

Mark Mahaney fra RBC Capital Markets sagde, at virksomhederne allerede er under regulering, især i Den Europæiske Union, med Google, der især er under kontrol, for at bundle eller promovere dets tjenester sammen med dets søgeresultater eller med Android. Kirkpatrick sagde, at han troede, at antitrustforliget faktisk hjalp Microsoft, men Mahaney modsatte sig, at det ikke var regulatorerne, der stoppede Microsoft, men konkurrence.

Kan teknik og regering redde demokrati?

Tim Hwang, FiscalNote; Minnie Ingersoll, Code For America; Marc Rotenberg, elektronisk informationscenter for privatlivets fred; Molly Turner, UC Berkeley Haas School of Business; Jon Fine, Inc Magazine; Lawrence Norden, NYU School of Law

Et lignende emne kom op på en morgenmadsrundtabel med titlen "Kan teknik og regering redde demokrati?", Hvor moderator Jon Fine fra Inc Magazine bad om løsninger. Rundtabellen kom dog ikke rigtig på noget.

Hwang sagde, at problemet ikke er de tekniske platforme, men snarere den vrede, folk føler som et resultat af at blive afbrudt fra økonomien.

Lawrence Norden fra Brennan Center ved NYU School of Law sagde love, der kræver mere offentliggørelse på politiske annoncer, er et let svar, men at det store problem desværre er "mørke stillinger" eller indlæg af ukendt oprindelse. I den henseende, sagde han, er internettet mere som et torv.

Men Rotenberg sagde, at det er det modsatte, og at Internettet ligner en virksomhedsby, hvor platformene sætter reglerne og beslutter, hvad du ser. Minnie Ingersoll of Code For America spurgte, om problemet er udenlandsk indblanding, eller Google kontrollerer, hvad vi siger. Tilsynsmyndighederne er nødt til bedre at forstå problemerne, sagde hun.

Molly Turner fra UC Berkeley Haas School of Business sagde, at Internettet er blevet det største køretøj til udtryk, men bekymret for, at det undergraver den civile diskurs. På den anden side bekymrer hun sig om krav til platforme for at fjerne visse former for information (hvis kommunikationslovgivningen f.eks. Blev svækket eller på grund af andre former for regulering), fordi platformen pludselig i dette tilfælde bliver "voldgiftsmand for tale."

Rotenberg svarede, at selvom bilfirmaerne engang kæmpede for sikkerhedsforskrifter, hjalp disse til sidst med at gøre biler mere sikre og førte til mere innovation. Et stabilt lovgivningsmiljø kan faktisk hjælpe platformene, foreslog han. Rotenberg bemærkede, at teknologiselskaberne har skubbet til "netneutralitet" for telekommunikationsselskaber, men ikke for sig selv, og krævede lige vilkår.

Internettet under angreb

Mark Anderson, strategisk nyhedstjeneste; Peder Jungck, BAE Systems Intelligence & Security; Rebecca MacKinnon, New America; David Kirkpatrick, Teknologi

Et slutpanel kaldet "Internettet under angreb" fortsatte denne diskussion.

Rebecca MacKinnon, der driver projektet Ranking digitale rettigheder i New America, sagde, at der engang var en antagelse om, at autoritære regimer på grund af Internettet i sidste ende ville blive mere som demokratier. Hun er nu mere bange for autoritære regimer og demokratier vil "mødes i midten."

MacKinnon sagde, at autoritære regimer tilpasser Internettet til deres formål, mens demokratier står over for populisme, manipulation og "overvågningskapitalisme." Men, sagde hun, demokratier burde være forsigtige med et lovgivningsmæssigt svar - mens hun er enig i, at der er behov for mere gennemsigtighed, når det kommer til algoritmer og privatliv, er hun bekymret for, at et censursystem ville gøre det lettere at slå ned på delene af samfundets regering foragt.

Peder Jungck, der leder efterretning og sikkerhed for BAE Systems, var enig i, at regeringerne gerne vil bruge sådanne systemer til at finde dissidenter, og sagde, at en idé er et produkt, og ligesom ethvert produkt kan det skubbes. På spørgsmålet om annoncesystemer er våben, sagde han, "Pandora's Box er åbnet, og vi kan ikke gå tilbage."

Mark Anderson fra Strategic News Service sagde, at vi har set en lige linje fra ARPANETs dage, da der ikke var nogen onde fyre, til i dag, hvor vi ser mere og mere ondsindet opførsel om dagen.

Anderson var især klar, når han beskrev, hvordan Kina stjæler intellektuel ejendom og bruger det til at drive virksomheder ud af forretningen. Og han foreslog, at Equifax-hacket havde alle markeringer af et regeringsangreb. Som opsummering sagde Anderson, at han "ikke ser nogen løsning."

Jungck sagde, at vi skulle formode, at dårlige fyre er i vores systemer og arbejde med løsninger. For eksempel sagde han, at et socialsikringsnummer ikke længere kan sikres, så vi kan i stedet brug for en blockchain-løsning.

I Ranking Digital Rights-projektet evaluerede MacKinnon 22 globale virksomheder på 35 spørgsmål om ting som ytringsfrihed, privatliv og sikkerhed. Hun sagde, at to virksomheder fik "Ds", og at alle andre mislykkedes. Hun vil vide, hvad virksomheder laver med dine data; hvem de deler det med; om de foretager due diligence, sikkerhedsvurderinger og styring af risiko; og om de beskytter privatlivets fred og sikkerhed, indhold og udtryk. Åbenhed er ikke tilstrækkelig, sagde hun, men et nødvendigt første skridt.

Anderson sagde, at gennemsigtighed er en god ting, men ikke en løsning, og bemærkede, at en der ønsker at manipulere et system ikke behøver at betale for annoncer, men kan bruge 100.000 botnet. Kirkpatrick foreslog derefter, at virksomheder kunne håndhæve identitet og dermed reducere brugen af ​​botnet.

Men MacKinnon modsatte sig, at det er menneskerettighedsaktivister, der er de mest sårbare over for brugen af ​​sådanne systemer, for hvis du håndhæver identitet, ville ingen, der er imod en autoritær regering, være på de sociale netværk.

Jungck spekulerede på, hvorfor vi er nødt til at håndhæve en identitet, når siderne allerede ved, hvem du er, og hvad du vil købe. "Der er ingen anonymitet på internettet, det er længe væk, " sagde han. Den eneste forskel er, hvor lang tid det tager at finde ud af, hvem du er.

Afslutningsvis sagde MacKinnon, at hun er optimistisk på meget lang sigt, men i de næste 100 år "ikke så meget."

Når man lytter til alt dette, er det let at være pessimistisk eller i det mindste fatalistisk over den nødvendige mængde regulering og den indflydelse det vil have. Men jeg har stadig en tendens til at være en optimist, og selvom jeg synes, at en vis mængde yderligere regulering både er sandsynligt og nødvendigt, tror jeg, det er lige så sandsynligt, at nutidens internetgiganter - eller nogle fremtidige spillere - vil komme med bedre svar.

Hvor sandsynligt er det, at du anbefaler PCMag.com?