Kodekonference: youtube, facebook, twitter-eksekver om nedskæring af dårligt indhold

Efter at have taget fodspor fra andre teknik-konferencer, fokuserede dette års kodekonference på nedsiden af ​​tech, og især sociale medier, med lederne af Instagram, Twitter og YouTube grillet over deres politik for at nedtage eller ikke offentliggøre tvivlsomt indhold.

Alle disse ledere syntes at have en vis variation af følgende samtale: Ja, der er dårlige ting på vores platform. Vi burde have vidst tidligere. Vi prøver at gøre tingene bedre. Men det er svært. Vi beklager, hvis du blev fornærmet.

Det hele giver mening, men det smelter ikke alle kritikere eller tavser de stemmer, der kræver opdeling eller i det mindste mere regulering af de store tech-platforme. Dette er, hvad nogle af direktørerne og nogle af kritikerne sagde på showet.

Youtube

YouTube-administrerende direktør Susan Wojcicki beskrev ændringer i platformens politik for hadudtalelse og sagde, at hvis en video nu hævder, at en gruppe (såsom en race eller religion) er overlegen, vil dette ikke længere være tilladt; videoer vil heller ikke påstå, at en anden gruppe er ringere. Hun sagde, at firmaet også føjede flere grupper til den beskyttede liste, herunder kastere i Indien og ofre for verificerede voldelige begivenheder (såsom Holocaust). Hun sagde, at dette kun var nogle af de mange politiske ændringer, som virksomheden har foretaget det seneste år. Hun talte også om at begrænse distributionen af ​​"grænseindhold", så nogle videoer, der ikke er blokeret, er ikke inkluderet i YouTube-anbefalinger og ikke tilgængelige til at tjene penge. Dette siger hun har reduceret deres syn på 80 procent.

Men hun erkendte, at alt dette har fortsat med at føre til kontroverser, idet hun startede sin samtale med at undskylde LGBTQ-samfundet og sagde, at hun forstod, at hendes beslutninger var sårende for dette samfund, men det var ikke hensigten. Kontroversen vedrører YouTubes beslutning om at tillade videoer fra Stephen Crowder at forblive på webstedet, på trods af klager fra Voxs Carlos Maza om, at Crowder trakasserede ham og andre med anti-LGBTQ kommentarer. (Vox indleder Code-konferencen.)

"Kontekst betyder virkelig noget, " sagde Wojcicki og sagde, at før firmaet fjerner en video, overvejer det, om en video er dedikeret til chikane eller en times times video med en racemod, om det er en offentlig person, og om den er ondsindet med vilje. Hun sagde, at det at bestemme noget er ondsindet er en høj bar for virksomheden og sagde, at det er nødvendigt at håndhæve politikkerne konsekvent, fordi der altid ville være videoer, folk klager over. Hun bemærkede, at du kan finde en masse racistiske slurver og sexistiske kommentarer i ting som rapsange, samtaler om aftenen og masser af humor. Hun sagde, at virksomheden ønsker at arbejde for at ændre politikkerne snarere end at have en "knæsjuk" -reaktion på et individuelt eksempel.

I sidste ende sagde hun, at virksomheden besluttede, at disse videoer ikke var chikane og ikke overtrådte politikkerne, og sagde, at det var den rigtige beslutning. Men hun sagde, at virksomheden suspenderede indtægtsgenerering - idet videoopretteren havde overskud fra annoncer, der blev kørt på videoen.

Hun sagde, at hvis YouTube tog den video ned, der ville være så meget andet indhold, det ville være nødt til at tage ned. Men hun sagde, at firmaet vil fjerne tingene, og at mange af de ændringer, der er foretaget i hadpolitikken, virkelig vil være gavnlige for LGBTQ-samfundet og vil resultere i, at videoer bliver taget ned. Og hun gentog en undskyldning for det ondt, det måtte have forårsaget.

På konferenceværten Peter Kafka, spurgt om YouTubes skala - med 2 milliarder brugere og 500 timers video uploadet hvert minut - betyder, at du aldrig kan løse problemet, sagde Wojcicki: "Vi kan helt sikkert forbedre, hvordan vi administrerer platformen, og jeg ser hvordan meget vi har forbedret. " Hun bemærkede, at firmaet har oplevet en reduktion på 50 procent i mængden af ​​voldeligt indhold i de sidste to år og har over 10.000 mennesker, der arbejder med indhold. Men hun skubbede tilbage på fokuset på dårlige ting på platformen og bemærkede, at der også var masser af godt indhold. "Al bekymringen handler om denne procentvise indhold af fraktioneret, " sagde hun. Men hun erkendte, at der er masser af arbejde at gøre med at adressere dette indhold, og sagde, at virksomheden investerer i værktøjer og arbejder hårdt for at tackle dette.

Hun børste et forslag om, at der kunne være en hindring for at uploade videoer, idet hun sagde "vi ville miste en masse stemmer." Men hun talte om at have flere "betroede niveauer" af videoer, så alle kan begynde at uploade ting, men skulle overholde visse regler for at få bredere distribution.

”Vi ser alle disse fordele ved åbenhed, ” sagde hun, men bemærkede, at YouTube har et ansvar for at forstå indholdet og beslutte, hvad der skal anbefales, og hvad der skal fremmes.

Wojcicki sagde, at hun troede at YouTube og Google vil stå over for mere regulering og pege på nye ophavsretlige regler i Europa, men sagde, at det var vigtigt for tilsynsmyndighederne at forstå, hvordan man implementerer disse ting på rimelige måder på grund af potentialet for utilsigtede konsekvenser.

På spørgsmål fra Kevin Roose fra The New York Times om, hvorvidt YouTube har bidraget til radikalisering af politik, (baseret på en nylig historie, han gjorde), sagde Wojcicki, at webstedet har taget radikaliseringsproblemer meget alvorligt og foretaget en række ændringer i januar, der reducerede anbefalinger af "grænseindhold" med 50 procent.

Hun sagde, at YouTube ønsker at tilbyde en bred vifte af meninger, hvor brugere vælger, hvad de vil se, men var bekymrede, og sagde, at hun troede, at sådanne ændringer i politikker og i anbefalinger vil gøre en forskel.

Instagram og Facebook

To Facebook-ledere talte om, hvordan Facebook, og især Instagram, håndterede kritikken.

Adam Mosseri, der leder Instagram, sagde, at vi ser "et paradigmeskift mod mere private former for kommunikation" og bemærkede, at al væksten på Instagram stammede fra historier og beskeder. Han bemærkede, at historier er flygtige, mens foderet er bedre, hvis du vil have ting, der er omkring for evigt. Han bemærkede, at historier ikke drejer sig om "utility messaging", men snarere om "conversational starters."

Mosseri sagde, at virksomheden har "masser af ophedet debat", da der er en reel spænding mellem privatliv og sikkerhed. Han sagde, "Vi satte en indsats i jorden, at sagde meddelelser skulle være helt private, " men aftalt, at firmaet har brug for tid til at arbejde og tid til at finde ud af, hvordan det kan løses for sikkerhed.

Andrew Bosworth, der fører tilsyn med kunstig virkelighed, virtual reality og andre avancerede projekter for Facebook, bemærkede, at privatlivets fred undertiden betyder privatliv fra Facebook, men andre ønsker privatliv fra regeringen eller fra enheden. Historisk sagde han, at privatlivets fred for Facebook betød kontrol over data, og hvem der kunne se dem. Men han bemærkede, at det spiller ud på forskellige måder, og han sagde, at den "globale samtale ikke har et svar, " da forskellige markeder havde forskellige synspunkter på regeringskontrol kontra sikkerhed.

På spørgsmål fra Verge 's Casey Newton om, hvorvidt det ville være godt at opbryde Facebook og gøre Instagram til et separat firma, sagde Mosseri, "det kan gøre meget af mit liv lettere, og det ville sandsynligvis være gavnligt for mig som individ, men Jeg synes bare det er en frygtelig idé. " Han sagde, at det i spørgsmål som valgintegritet og hadudtalelse ville gøre det eksponentielt sværere for Instagram at holde sine brugere i sikkerhed. Han sagde, at han oprindeligt lovede at holde Instagram uafhængig af Facebook, men brød det løfte, når det kom til sikkerhedsfunktioner, fordi Facebook har flere mennesker, der arbejder med sikkerhed og integritet end det samlede antal mennesker, der arbejder på Instagram.

Mosseri sagde, at det grundlæggende er en sund ting at gennemgå anmodningen om ansvarlighed, og Facebook begik en fejl ved ikke at fokusere intenst nok på de utilsigtede konsekvenser i de første år. ”Vi er nødt til at gøre mere for at pleje og vokse det gode og adressere det dårlige, ” sagde han.

Bosworth sagde, at når et websted er lille, kan alt indhold gennemgås, selvom det bringer os hensyn til privatlivets fred. Når det bliver større, kan du ikke manuelt gennemgå alt indholdet, men du får flere ressourcer og en "stordriftsfordel." Han var enig i, at Facebook var "massivt bagpå dette", men sagde, at virksomheden investerede massivt, idet han sagde, at han troede det var et løseligt problem, og at firmaet både arbejdede på tekniske løsninger og med tilsynsmyndigheder for, hvordan de skulle reagere. Du kommer ikke tættere på at løse dem ved at opdele i hold og give hvert hold færre ressourcer, tilføjede han.

På spørgsmålet om Facebook ikke kan løse disse problemer, fordi det tilbyder annonce-understøttede tjenester, sagde Bosworth, "det koster os langt mere at have noget af dette marginale indhold på platformen." Han sagde, at Facebook havde titusinder af mennesker, der gennemgik indhold. Hvis virksomheden skulle være hensynsløs og slippe af med al tale, der overhovedet er kontroversiel, sagde han, ville det være mere effektivt.

Mosseri sagde, at vi skulle være stolte over, at du kan bruge denne service gratis. Virksomheden sagde, at reklame er det, der giver virksomheden mulighed for at levere dette, og det betales for det meste af folk, der har råd til det. Hvis du afbryder reklame, afskærer du folk.

Én ændring, som Instagram tester, skjuler "likes" på systemet. Mosseri sagde, at vi ikke ønsker, at Instagram skal være "et miljø under tryk", og bemærker, hvordan lide kan være konkurrence. Han var bullish med hensyn til at gøre likes og tæller privat, men sagde, at det bare var et eksperiment.

Mosseri talte også om selskabets Portal-enhed, som han sagde specifikt "forlod bordets funktionalitet" ved at fjerne optagelse af samtaler. Han sagde, at vi ser en helt ny generation af hardware med smarte højttalere, men at Facebook ønskede at sikre, at "menneskelig forbindelse er en førsteparts brug" men med indbygget privatliv.

Bosworth bemærkede, at Facebook ser VR som "en mulighed for at gå dybere" og have meningsfulde oplevelser, selv når du ikke kan være der

Twitter

To Twitter-ledere behandlede lignende spørgsmål og konfronterede konference medformand Kara Swishers påstand om, at platformen er en "cesspool", der er bygget på mennesker, der kan sige, hvad de vil, og så sige forfærdelige ting.

Twitter er "grundlæggende baseret på at lade folk tale offentligt, sagde produktleder Kayvon Beykpour. Han sagde, at formålet med webstedet er" at betjene den offentlige samtale, "som" hjælper folk med at lære, hjælper folk med at løse problemer og hjælper folk med at indse, at vi ”Det er udgangspunktet, men han sagde, at der er en" eksistentiel krise ", fordi hvis samtalen ikke er sund, vil folk ikke have lyst til at deltage.

Beykpour bemærkede, at de fleste på Twitter ikke har store platforme, men snarere har snesevis eller hundreder af tilhængere, og at folk bruger tjenesten til at finde mennesker, der har ligesindede interesser.

Vijaya Gadde, som er Twitter's juridiske, offentlige politik og sikkerhedsledelse, sagde, at firmaet oprindeligt skete for fuldstændigt frie udtryk, men nu var mere opmærksom på den indflydelse, vi har. Hun sagde, at virksomheden har en politisk ramme, der fokuserer på grundlæggende menneskerettigheder, såsom sikkerhed og frit udtryk.

Hun bemærkede, at firmaet nu beskæftigede sig med en mangel på tillid og forkert information på platformen. I april, i forbindelse med valg i Indien og Europa, sagde hun, at firmaet rullede ud nye politikker, der er beregnet til at begrænse forkert information om, hvordan man tilmelder sig for at stemme, eller hvor man skal stemme. Hun sagde, at dette stadig var en læringsproces, og bemærkede for eksempel, at nogle vittigheder blev slettet. På andre områder sagde hun, hvis du søger efter oplysninger om vacciner, vil du nu blive sendt til betroede kilder. Målet er især at forhindre "offline skade" på mennesker.

Gadde bemærkede, at Twitter har haft en "historisk præference for ikke at være sandhedskvitter", men indrømmede, at det var svært at gøre dette i skala. I stedet, sagde hun, forsøgte firmaet at forstærke indhold, der stammer fra velrenommerede kilder. Over tid, sagde hun, er firmaet nødt til at gøre mere og sagde, at det så på, hvad andre platforme laver.

Beykpour sagde, at Twitter historisk set har "roteret over" for at forsøge at løse gennem politik og håndhævelse, ikke gennem produkt og teknologi. Han sagde, at virksomheden har gjort fremskridt med hensyn til sundhedsspørgsmål og vil gøre mere. Han bemærkede, at firmaet netop har udstedt en ny forenklet politik, der var lettere at læse, og dette ville muliggøre bedre håndhævelse. I øjeblikket, sagde han, 40 procent af tweets de firma "handlinger" udføres proaktivt i modsætning til fra klager.

Han sagde, at firmaet de-forstærker indhold, og at nye politikker har reduceret mængden af ​​misbrug rapporteret med 45 procent; og antallet af kontoblokke med 30 procent. Derudover bemærkede han, at firmaet nu udfordrer og blokerer flere tilmeldinger for at forsøge at forhindre ondsindet kontotilmelding; men står stadig over for problemer som gætte af brute password.

På spørgsmålet om frygt for, at platforme på sociale medier fører til øget radikalisering, indrømte Gadde, at det var en bekymring. ”Jeg tror, ​​at der er indhold på Twitter og enhver platform, der bidrager til radikalisering, ” sagde hun. Men hun tilføjede, at firmaet har en masse mekanismer og politikker, der bekæmper dette. Hun sagde, at 90 procent af alt terrorismeindhold straks fjernes og har forbudt 110 voldelige ekstremistiske grupper.

Gadde sagde, at Twitter's regler "er et levende dokument", hvor ny forskning reagerer på nye skader og rådgiver virksomheden, hvis der er mere, end vi kan gøre. Hun bemærkede, at "dårlige ting også sker på private platforme". Fordi Twitter er helt åben, sagde hun, kan alle se og svare. Men hun bemærkede, at det at være åbent kan være en ulempe, fordi det giver folk en platform. Hun sagde, at virksomheden forsøgte at finde den rigtige balance mellem offentlighedens interesse og evnen til at se og reagere, og de problemer, indholdet måtte forårsage. Hun bemærkede, at firmaet har brug for at arbejde på globale løsninger, da 80 procent af dets brugere ikke var i USA

Hun talte om vigtigheden af ​​gennemsigtighed og at være meget klar over, hvad reglerne er. Men hun nævnte også indholdets nyhedsværdighed og bemærkede, at med offentlige personer, selv hvis Twitter skulle slette en tweet, ville indholdet få opmærksomhed.

Som svar på et publikumsspørgsmål sagde Gadde, at Twitter var "meget, meget fokuseret på radikalisering", og sagde, at hvis du hævder en tilknytning til voldelige ekstremistiske grupper, kan du ikke være på Twitter. Men hun sagde, at firmaet skal arbejde for at forstå, hvordan man gør mere, og at der kommer ændringer. Som svar på et andet spørgsmål om misbrug rettet mod kvinder sagde hun, at det at gøre det muligt for Twitter at være mere proaktiv vil gøre en stor forskel. Men hun sagde, at hun bekymrede sig meget for at dæmpe stemmer, især fra mindretalsgrupper og kvinder.

Beykpour sagde, at en mulig løsning var at give kunderne mere kontrol over, hvordan de kan føle sig mere sikre på platformen, såsom at give forfattere muligheden for at moderere svar inden for en samtaletråd. Han talte også om nye slags samtaler, og bemærkede, at nuværende Twitter stort set bare er offentlige tweets, der lever for evigt og direkte beskeder. Han bemærkede, at derimellem støtter firmaet ikke - men overvejer - ting som en offentlig samtale, der muligvis er begrænset til fire personer.

Medium

Ev Williams, administrerende direktør for Medium og medstifter af Blogger og Twitter, fokuserede mere på Medium, en abonnementstjeneste, som han sagde vokser i et sundt tempo, men ville ikke give tal. Han sagde, at folk abonnerer på tjenesten for ideer og perspektiver, inden for emner fra sundhed til JavaScript til litterær skrivning.

Han diskuterede, hvordan bundling af indhold kan være vigtigt. Han sagde, at han er "meget bullish med abonnementer på redaktionelt indhold", men at det måske er svært for mange websteder. "Vi abonnerer ikke individuelt på tv-shows eller musikartister." I stedet for med Medium prøver han at opbygge en platform, der inkluderer ejede og drevne websteder, samt mangfoldighed af andre websteder. Han sagde, at Medium har hundretusinder af mennesker, der skriver hver måned.

Han var overbevist om, at bundtet indhold vil lykkes, og sagde, at der ikke var nogen direkte konkurrenter, selvom ethvert websted, der har et abonnement og noget som Apple News + med dets bundt magasiner, konkurrerer.

Williams sagde, at Medium's politikker har ændret sig over tid, og at dens indholdsmoderering nu er "temmelig aggressiv", hvad det er villig til at fjerne. Hos Medium sagde han, "alt, hvad vi anbefaler, godkendes først af et menneske." Han erkendte, at det betyder, at webstedet aldrig vil være så stort som sociale medier, men han sagde, at firmaets "værdiudveksling", der sætter dit indhold i en kurationspulje, men bag en paywall, skaleres.

Selvom han fokuserede på Medium, diskuterede Williams sociale medier og blogging. Han sagde, at han savner blogging, som noget i mellem ekstremt afslappede tanker på sociale medier og artikler i lang form. Han sagde, at ting ved blogging kunne "marinere" i modsætning til "afhængighed af kortvarig feedback, der er skadelig for tankerne."

Problemet, sagde han, er, at "øjeblikkelig feedback er sandsynligvis forvirrende for sunde samtaler." Han bemærkede, at folk bliver tilsluttet kortvarig feedback, såsom den offentlige visning af tilhængere eller likes på et indlæg. Han sagde, at det er umuligt at leve i dette miljø og ikke have det til at ændre din opførsel Andre systemer med langsommere feedback, såsom nyhedsbreve eller podcasts, giver mulighed for mere kontekst og bedre samtaler, sagde han. ”Hvis hvert stykke kommunikation skal stå på egen hånd, mister man evnen til at gå dybt, ” sagde han.

Han sagde, at den politiske samtale var "støjende, end den nogensinde har været", og det gør det sværere, selvom du vil høre mange perspektiver. Men han sagde, at der er lyspunkter.

"Årsagen til at jeg blev begejstret for internettet i første omgang er, at jeg troede, det ville gøre os smartere, " sagde Williams. Han troede, at hvis folk kunne lægge ideer derude, ville verden træffe smartere valg. Men han sagde, at det ikke har vist sig på den måde på grund af feedbacksystemer og incitamenter. ”En del af det er grænsen for det menneskelige opmærksomhedsspænd, ” sagde han og bemærkede, at mere information ikke gør os smartere, hvis vi ikke ved, hvordan man fordøjer det, eller hvordan man kontekstualiserer det, især hvis der er industrier, der prøver at få dig til at købe ting.

Det er en af ​​grundene til, at han begyndte at arbejde på Medium for 7 år siden. Han bemærkede, at med en abonnementstjeneste betaler kunderne, så du er nødt til at oprette et produkt, som nogen finder værdifulde nok til at betale for. Han sagde, at det var bedre end reklame, der fokuserede på, hvor billigt du kan få en persons opmærksomhed.

Et kritikerpanel

Selvfølgelig havde de store platforme masser af kritikere også på udstillingen. Et panel omfattede især Nicole Wong, tidligere vicegenerator for USAs teknologiminister og tidligere vicegeneralt rådgiver hos Google; Jessica Powell, tidligere VP for kommunikation hos Google og forfatter af The Big Disruption ; og Antonio García Martínez, tidligere Facebook og forfatter af Chaos Monkeys.

"Dette er ikke nye problemer, de har været der helt fra starten, " sagde Powell og bemærkede, at hun bekymrede sig for "utilsigtede konsekvenser", og at indholdsovervågning er hård. Hun sagde, at det er fantastisk, at platformene har en strengere politik "men de burde have været der meget tidligere."

Wong bemærkede, at i den første æra af Internettet "byggede vi tech og tænker, at vi ville ændre verden for godt." Hun sagde, at det er forbløffende og stadig eksisterer, og at folk inden for tech stort set er der for at gøre godt. Men hun sagde, at folk var dovne ved ikke at erkende, at teknologien ikke i sig selv er god. Hun sagde, at vi nu ved, hvordan det er at se et "våbeninternet", og vi er nødt til at bygge systemer, der skal redegøre for det. "Ingen skylder os et gratis og åbent internet designet til vores gode, og det er vi nødt til at bygge."

García Martínez sagde, at hvis nogen vil regulere talen på Facebook, skulle det være regeringen. "Et demokrati er strukturen, hvor du får ansvar, ikke et selskab, " sagde han. Men han sagde, at han troede, at Facebook alligevel skulle opdeles, med Instagram og What’s App adskilt, idet han sagde, at hvis du hæver linjen med indholdsmoderation, kan du få en konkurrencefordel.

Powell sagde, at der var et troværdigt argument, at hvis du har flere data, kan du bedre træne AI-modeller, så du har brug for mindre menneskelig moderation. Men hun foreslog, at branchen kunne finde ud af en måde at samle information på for alle spillerne og sagde, at dette allerede er gjort til udnyttelse af børn, og at vi skulle være i stand til at finde ud af, hvordan vi gør det til mobning. I det hele taget sagde hun, at enhver regulering skal komme på spørgsmål om kontrol og gennemsigtighed, idet hun siger, at det er forkert, at en opstart i dag skal bekymre sig om den sti, der skal erhverves.

García Martínez sagde, at der altid er en afvejning mellem privatlivets fred, bekvemmelighed og sikkerhed, og sagde, at det er ok, hvis du ved, hvilke afvejninger du foretager. Men han foreslog at slippe af med tredjeparts dataggregater.

I en anden session skubbede komiker og kritiker Baratunde Thurston sin egen platform til "ni måder til ikke at skrue fremtiden op." Disse poster inkluderer gennemsigtighed og tillidsresultater, og ændrer standard for samtaler, der skal lukkes; og ejerskab af data og portabilitet. Men han fik mest opmærksomhed ved at beskrive Facebook som en "Cloud-baseret undskyldningstjeneste", der tilbyder "Apology-as-a-Service."

Også NYU Stern Professor Scott Galloway, kendt for sin bog The Four: The Hidden DNA fra Amazon, Apple, Facebook og Google , fremsatte en række forudsigelser for det kommende år. Inkluderet i disse er forudsigelser om, at en højtstående Facebook-embedsmand vil blive arresteret og tilbageholdt på fremmed jord, og at der vil være mere regulering af big tech-virksomheder. Han sagde, at han troede, at gennem spinoffs og breakups vil Big Tech tilføje mere værdi end den samlede kapitalisering af Boeing og Airbus i de næste seks måneder.