Video: Don't fear intelligent machines. Work with them | Garry Kasparov (Oktober 2024)
Garry Kasparov var et af de første ofre for AI-automatiseringsrevolutionen. Hans tab til IBMs Deep Blue gjorde ham til den første menneskelige skakmester, der tabte en kamp til en computer. Men Kasparov er ikke oversvømmet; hans bog, Deep Thinking , udforsker, hvordan AI faktisk kan hjælpe os med at blive mere menneskelige.
Dan Costa: Efter en karriere, der har spillet skak og kæmpet Deep Blue, er du siden blevet AI-ekspert i slags. Hvordan ønsker du, at folk skal forstå kunstig intelligens?
Garry Kasparov: Jeg må indrømme, at jeg kender grænserne for min uvidenhed. Derfor er jeg glad for at tale om ting, hvor jeg er overbevist om min egen ekspertise, og jeg tror, jeg har visst kendskab til relationer mellem mennesker og maskiner, og jeg kunne tale med en vis autoritet om de fremtidige resultater.
Jeg tror også, at vi stadig er i en meget tidlig alder af AI, og at vi selv bør diskutere nogle vilkår. Det handler om semantik, det handler om filosofi, og jeg siger altid, at folk tror, at vi er i Windows 10-æraen, mens vi stadig alle er på MS-DOS.
I dette øjeblik er det meget vigtigt at faktisk forstå, "Hvad er AI? Når vi siger AI, hvad mener vi så?" For hvis du spørger 10 eksperter om AI, vil jeg satse på, at du får 11 eller 12 svar. Der er stadig ret uenighed.
Der er stadig detaljer, men jeg tror generelt, vi genkender okay, der er en gruppe mennesker, som vi kalder optimister, overfor den store skare af dommere. På en eller anden måde er offentligheden mere villig til at acceptere dommersandscenarier, jeg tror, det er vores instinkt at frygte fremtiden, hvilket også er interessant, fordi når du går tilbage til 50- og 60-tallet, var sci-fi meget optimistisk. Det handlede om os bare at arbejde med maskiner.
Nu, når du ser på 70'erne, 80'erne, 90'erne, flyttes det til dystopisk syn. Det handler om terminatorer. Det handler om Matrix, og nu er sci-fi-genre næsten død, fordi det handler mere om fantasi, det handler om magi. Folk er virkelig bange for at tale om fremtiden, fordi vi ikke er sikre på, hvad der vil ske der. Jeg mener, at vi simpelthen burde erkende, at AI ikke er et tryllestav, men det er ikke en terminator. Det er ikke en harbinger af utopi eller dystopi. Det er et værktøj. Det er noget, vi skal finde en måde at håndtere.
Det åbner ikke helvede, men det er ikke et paradis. Det er ikke en løsning for alt. Det er ikke en frelse. Lad os se på Jordens problemer, og min største bekymring i dag handler ikke om mordererobotter eller en eller anden form for den virtuelle virkelighed, der kan ødelægge vores virkelighed, men det handler om dårlige skuespillere. Det handler om terrorister. Det handler om rock space ved hjælp af denne teknologi til at skade os. Jeg siger altid, at folk… har onde monopol. Det er her, vi skal koncentrere mig, men det bør også anerkende, at AI kunne gøre så mange gode ting for os, fordi hvad folk vil sige, "Åh, AI skaber nye udfordringer. AI kunne fjerne mange job." Nemlig. Det er, hvad der skete med job inden for landbrug, job inden for fremstilling. Forstyrrende teknologi ødelægger altid industrier, men skaber samtidig nye job.
Jeg siger, at teknologi er hovedårsagen til, at så mange mennesker stadig lever for at klage over teknologi, fordi vi bare ikke anerkender den gennemsnitlige levetid voksede, jeg tror 45, 47 i begyndelsen af det 20. århundrede til nu 75 takket være teknologi. Vi ønsker fordele, vi vil have bekvemmelighed, og vi ser ikke på prisen. Folk køber Alexa eller downloader en ansigtsgenkendelsesapp og klager derefter over privatlivets fred. Det er tid for os at forstå, hvad vi forventer af disse teknologier, så hvordan vi vil håndtere dem? Hvordan de kan forbedre vores liv og samtidig erkende, at vi ikke bør diskutere om spildt mælk. Det vil ske.
Vi bør ikke spørge, om vi vil have det eller ej, det sker. Ethvert forsøg på at udtrykke smerterne og at bremse processen synes jeg bare er kontraproduktivt, fordi job, der er dødsdømt, ikke kan gemmes. Men vi er nødt til at tænke på nye industrier. Hvordan kan vi skabe nogle nye job, der vil hjælpe os med at skabe… en økonomisk pude til at tage sig af dem, der blev efterladt?
Dan Costa: Det var et af de punkter, du gør i Deep Thinking . AI giver os en mulighed for at være mere menneskelig. Jeg tror, vi er nødt til at kødes ud og få folk til at føle og forstå.
Garry Kasparov: McKinsey-rapporten om det amerikanske jobmarked i 2016 var en klar demonstration. Hvor lidt kreativitet er der brugt?
Mange af job, vi udfører gentagne job, rå job. Intellektuelle job kan også være gentagne. De kan også let udføres af maskinerne langt mere effektivt. Her kommer du til det punkt, som det, vi har lært af spil… af skak, fra golf, fra ethvert andet spil, er så længe vi har de rammer, der er skabt af mennesker, og vi ved, hvad vi laver, maskiner vil gøre det bedre.
Vi skal bare erkende, at maskiner i alle lukkede systemer er overlegne. For øvrig behøver vi ikke at forstå, hvordan de gør det. Det er endnu en fejltagelse. Vi ønsker forklarbarhed. Maskiner kunne gøre det på en meget akavet måde fra vores standarder. Flyene flyver hurtigt, og fuglen var op og klappede deres vinger. Derfor er det at tænke på, at maskiner overgår os selv i intellektuelle fejl, ved at gøre noget, du forstår, er forkert. Vi skal kigge efter resultaterne, og det er det andet problem for virksomhederne, fordi der er så mange regler, der kræver, at de forklarer, hvad de laver, men forklarbarheden er muligvis ikke der, hvis du vil kigge efter effektivitet og produktivitet.
Dan Costa: Du rejste sagen på scenen om Go, og det, der gjorde Go AI så meget mere effektiv, er, da det lærte sig selv, hvordan man spiller spillet. Det havde ikke nogen menneskerpålagte regler.
Garry Kasparov: Det er det samme som skak nu. Igen, det er fremtiden for menneskelige missionskontakt vil være meget på egne mennesker, der handler som hyrder, fordi vi bliver nødt til at finde en måde at skabe disse seje systemer, områderne med snæver intelligens, hvor maskiner vil gøre jobbet meget bedre end noget menneske. Derefter for at se, hvordan de opretter forbindelse. Disse områder med snæver intelligens til det generelle felt, til åbent system. Igen lyder det nemt, men jeg synes, det er en stor udfordring, fordi rummet for mennesker og deres forhold til maskiner kunne krympe mindre og mindre. Selv måske sidste par decimaler, men det betyder ikke noget. Det kan være langt mere effektivt, fordi der er så meget magt. At kanalisere den eller ændre retningen i 0, 1 procent af en grad af denne vinkel kunne have en massiv, massiv forskel, et mål en kilometer væk.
Dan Costa: En af de ting, der bekymrer mig om AI, er, at gode AI-systemer er drevet af masser af data og virkelig gode algoritmer. Hvis du ser på, hvis har fået de fleste data i dette rum lige nu, er det big tech, det er statslige regeringer. Hvordan ser du individets rolle i denne AI-revolution? Fordi der ser ud til at være en vis asymmetri af adgang til disse nye teknologier og forskellige motiveringer.
Garry Kasparov: Ja. Jeg kunne ikke være mere enig. Vi har dette problem, og jeg tror, at offentligheden anerkender dette problem, men det er stadig ikke tilstrækkeligt pres fra regeringerne til faktisk at indføre meget strenge regler og meget straffende foranstaltninger over for de virksomheder, der krænker privatlivets fred.
En af mine bekymringer som formand for Human Rights Foundation er, at regler adskiller sig fra demokratisk verden til ufri verden. Jeg finder det meget bekymrende, at disse multinationale giganter - som Google, Apple, Microsoft, Facebook - de anvender meget forskellige regler på deres kunder i Amerika eller Europa, og på dem, der ikke var så heldige at blive født i den frie verden og leve i Kina, Rusland, Tyrkiet - hvor frigivelse af data fra de sociale aktiviteter bogstaveligt talt kunne være et spørgsmål om liv og død. Jeg tror, det er trin nummer én, men også vi bør erkende, at hvis der produceres data, vil de blive samlet.
Jeg er sikker på, at der er mange måder, hvorpå regeringerne kan begrænse brugen af disse data. Jeg tror også, det er bonusen for den offentlige side, for efter Mark Zuckerberg-vidnesbyrdet i det amerikanske senat, som jeg fandt… var en fantastisk visning af uvidenhed fra amerikanske lovgivere. De kunne ikke stille gode spørgsmål i fem timer; de havde ham i et varmt sæde, og det var spild. Jeg så ikke forargelse. En sådan stor mulighed er gået glip af.
Det enkle råd, "Lad os dele dem." Det er ikke Standardolie. Hvis du bare begynder at dele - og jeg hader monopoler - men så har du mange, mange Googles med data spredt rundt. Vi bør finde en måde at styrke individer på. Jeg kender ikke blockchain-teknologier, men sandsynligvis er dette måde at faktisk hjælpe folk med at kontrollere deres egne data og deres egen fremtid. Jeg tror, at der stadig er et øjeblik, hvor det er det originale koncept med internet, socialt netværk. Nu pludselig er det sociale medier. Folk genkender bare ikke. Det er ikke en semantisk forskel.
Dan Costa: Det er monetiseret på en helt anden måde.
Garry Kasparov: Det handler om at forbinde mennesker. Det handler om, at hele ideen var, hvordan man bringer os sammen. Hvordan man bønder individet, får adgang til data og producerer noget, der kan gavne ham eller hende og bare være en del af dette globale system. Sociale medier er forskellige, du er målet. Du er nu… målet for store virksomheder. Hvordan går vi tilbage til dette sociale netværkskoncept? Jeg har ikke løsninger, jeg tilstår min uvidenhed om tekniske løsninger, men jeg ved, at dette er nøjagtigt den filosofi, der er det rigtige spørgsmål, der skal stilles. Jeg tror, at offentligheden ikke forstår alvoret i denne udfordring.
Dan Costa: Du er russisk statsborger...
Garry Kasparov: Også en kroatisk borger, jeg har et E-pas, det er sådan jeg rejser.
Dan Costa:… bor i USA, men du har skrevet meget om propaganda, dens virkninger og dens magter, og hvordan den bruges af den russiske regering. Her i USA har vi nu et Facebook-, Twitter-, Google-medieunivers, der næsten er som en privat propagandamaskine, som regeringer, individuelle virksomheder kan få adgang til. Igen, som nogen, der har behandlet og forstår disse spørgsmål, hvilket råd har du til De Forenede Stater? Når vi bevæger os ind i dette system, hvor vi ikke kan tro, hvad vi ser online mere.
Garry Kasparov: Se, jeg har stået over for fremkomsten af falske nyhedsindustrier og troldfabrikker i Putins Rusland fra begyndelsen af dette århundrede. Omkring 2004-2005, Putins propagandaeksperter, KGB-fyre, tog de en trofast beslutning om ikke at følge Kina af firewalls. Men snarere at skabe de falske internetwebsteder, der bærer en masse rigtig information om disse giftige stykker. I stedet for at have forsiden af en ordentlig avis, historien, som alle skal følge, partilinjen, kunne du sprede den i mange stykker, i snesevis af stykker. Læg den i en pakke indpakket i en masse ægte historier.
Det er ikke så simpelt som at sige, Garry Kasparov er en fjende af staten. Nej, nogen siger Garry Kasparov er en fjende for staten, men så er der en anden der kommer ind og sagde nej, men han var en stor skakspiller, men sandsynligvis blev han nu infiltreret af stemme og propaganda. Nogen vil sige, nej, nej, nej, han er en god fyr. Så hele siden med kommentarer kan være falsk.
Dan Costa: Botserne krangler med bots.
Garry Kasparov: Bots og de er meget gode til dette, så det var derfor en dag, da Putin angreb amerikanske amerikanske valg, han virkelig havde mere end 10 års erfaring med disse brancher. Arbejder i Rusland, i nabolande med store russiske samfund i Østeuropa, i Vesteuropa.
I min bog, vinteren kommer: Hvorfor Vladimir Putin og fjenderne fra den frie verden skal stoppes , 2015, sagde jeg, at det bare var et spørgsmål om tid. Det er ikke hvis, men hvornår og hvor han ville angribe. For igen har de allerede bygget denne maskine, og den er relativt billig. Det er stadig milliarder af dollars investering, men sammenlignet med åben militær intervention, konfrontation… er det relativt billigt. Og det passer også til Putins KGB-mentalitet, hans KGB-baggrund, spionagerbaggrund. Så i stedet for åben konfrontation ser han altid efter en mulighed for at infiltrere. Det er klassiske Judo-metoder, du bruger din modstanders styrker mod ham. For Putin var det strålende, fordi det var vestlig teknologi og den frie verden, og du kunne bruge det til at undergrave selve grundlaget for den frie verden.
Dan Costa: Har du råd til, hvordan du kommer ud af denne situation? Fordi det ser ud til, at det sker, er det ikke rigtig stoppet.
Garry Kasparov: Nej, og det stopper ikke. For alle, der har ubegrænset ekspertise, er svaret indlysende. Forsvar er et tabende forslag. I cybersikkerhed kan du opbygge forsvaret, men i slutningen af dagen er det eneste svar afskrækkelse. Det er som den kolde krig, kan lide det eller ikke lide det, det er en cyber kolde krig. Vi er under konstante angreb fra Putin eller andre fjender fra den frie verden. Uanset om det er stater som Iran eller Nordkorea eller Kina eller kvasistatsorganisationer, der også bruger de samme metoder.
Kun afskrækkelse kunne faktisk stoppe disse angreb eller begrænse dem. Fordi de forstår konsekvenserne af at være for aggressiv. Forsøger at beskytte vores svage steder her og der, er det vigtigt, at vi bygger nogle forsvar. Det er vigtigt, at vi øger offentlighedens bevidsthed om trusler, men det vil ikke fungere. Hvad angår falske nyhedsindustrier, er der mange udfordringer i vores frie samfund, der gjorde det muligt for den falske nyhedsindustri. Det handler om en frygt for partnerskab, det handler om fraværet af en dialog mellem mennesker med forskellige ideologiske synspunkter, der hjalp Putin og andre fjender fra den frie verden til at bruge de falske nyheder til at opsplitse dette hul.
Dan Costa: Så du arbejder med Avast nu, et firma, som PCMag-læsere er meget bekendt med. Hvilke råd giver du forbrugerne om, hvordan man hæver deres forsvarsniveau?
Garry Kasparov: Med hensyn til individuelt forsvarsniveau er det meget let. Den første besked er til ejerne af smarte hjem. Jeg var lidt chokeret, for selv i dette syd ved sydvest talte jeg med en masse mennesker, folk med god ekspertise forstår ikke, hvor sårbare de smarte hjem er i dag.
Amerikansk husstand, 39 millioner har mindst en sårbar enhed. Folk forstår ikke, at en sårbar enhed gør hele det smarte hjem sårbart. Fordi styrkerne i din forsvarspyramide afhænger af det svageste led. Et dårligt æble får hele pakken til at rådne.
De fleste af problemerne er skabt af producenter af traditionelle husholdningsapparater - vaskemaskiner, kaffemaskiner - fordi der ikke er nogen ekspertise inden for bygning af digitale systemer. Men de skal gøre det nu. Til en meget lav pris, fordi det er en priskonkurrence, men de vil være en del af systemet. De fleste af systemerne har bare ikke passende forsvar. Jeg tror, vi har brug for… regerings tilsyn, vi er nødt til at lægge pres for at tvinge for at opfylde visse standarder.
Men også at skulle levere separate manualer, fordi ingen læser 100-siders manual. På side 85 læser du noget om dette digitale ting, folk læser det ikke. De fleste af dem bruger standardtilstand, hvilket naturligvis er en åben invitation til en hacker. Jeg tror, det er meget vigtigt, at folk begynder at gøre, hvad jeg kalder digital hygiejne, fordi vi vasker vores hænder, vi børster vores tænder, vi gør det automatisk. Det redder os ikke fra nogle alvorlige sygdomme, men 90 procent af problemerne kan undgås. Samme med vores mobile tilsluttede enheder, bør vi stadig beskytte os mod vira, men mange ting kan gøres ved at demonstrere, at vi er interesseret i det, fordi det er lige så vigtigt som vores helbred.
Dan Costa: Så jeg vil stille dig de tre spørgsmål, jeg stiller alle, der kommer på showet. Er der en teknologitendens, der vedrører dig, og som holder dig op om natten?
Garry Kasparov: Nej, jeg er en ubemærket optimist. Jeg bekymrer mig om dårlige mennesker, ikke om dårlig teknologi, fordi enhver teknologi har dobbelt anvendelse. Du kan bygge en atomreaktor, men før du desværre bygger en atombombe. Det er ganske uheldigt, at ødelæggelse er lettere end byggeri. Derfor ved vi altid i historien, at en ny, forstyrrende teknologi er blevet testet for en slags skade.
Dan Costa: Er du ikke bekymret for, at det samme sker med AI? Jeg vil blive brugt til at ødelægge, før det bliver vant til at oprette?
Garry Kasparov: Igen handler det ikke om mordrobotter. Det handler om dårlige fyre, dårlige skuespillere bag det. Folk vil sige åh, vi skal tænke på etisk AI. AI kunne ikke være mere etisk end dets skabere. Jeg forstår ikke, hvad det betyder, ligesom etisk elektricitet. Hvis vi har bias i vores samfund, følger AI det. Det ser en forskel, uanset om det er race, det er køn eller en indkomstforskel. Den tager det med i betragtning; AI er en algoritme baseret på odds. Så på en eller anden måde klager man over etisk AI som at klage over et spejl, fordi vi ikke kan lide det, vi ser der.
Dan Costa: Er der en teknologi, du bruger hver dag, der stadig inspirerer undring?
Garry Kasparov: Nej. For mig er verdens virkelige vidunder adgang til information. Da jeg kan indsamle data, gør det det lettere. Jeg voksede op i Sovjetunionen, og oplysningerne var knappe, der var ikke mange bøger. Faktum er, at jeg kan tænde… det får mig bare til at føle mig godt. Der er så meget teknologi, der omgiver os nu, der hjælper os med at blive bedre. Hvad er også forbløffende, folk klager fortsat, åh, hvad kan vi gøre? Der er ikke noget nyt, der kan opfindes… og jeg siger, vent et øjeblik. Du ser på denne enhed i lommen, lad os gå baglæns i 1976 eller 1977, Cray supercomputer var som et mirakel. Hvad er denne enhed? Ti tusind gange kraftigere?
- AI er (også) en styrke til det gode AI er (også) en styrke til det gode
- Denne AI er for kraftig til at frigive til offentligheden Denne AI er for kraftig til at frigive til offentligheden
- Denne AI forudsiger online trolling, før det sker. Denne AI forudsiger online trolling, inden det sker
Dan Costa: Mere kraftfuld end rumfærgen.
Garry Kasparov: Præcis. Vi har så meget magt, og… Jeg vil have os til at begynde at drømme stort igen. Fordi vi har disse muligheder nu. Jeg synes så ked af rumløbet, vi stoppede rumforskning, udforskning af dybhavet. Lad os gå tilbage, lad os prøve at gøre store ting. For fire år siden holdt jeg en begyndelsestale ved Saint Louis University i Missouri. Når jeg taler til kandidatstuderende, sagde jeg, se, du er nødt til at genoplive ånden i udforskning, især fordi St. Louis er porten mod vest, og i dag er det mere sikkert at flyve til Mars end for Columbus at krydse Atlanterhavet. For i det mindste ved vi afstanden, og vi har kortet. Jeg håber, vores børn, vores børnebørn… vil være mere aggressive i deres drømme ved at bruge denne fænomenale teknologi til at skubbe os frem, fordi jeg tror, lad os erkende, lad os indrømme denne vigtige kendsgerning; vores generation er blevet langsommere i vores søgen efter at opdage verdens eller vidunder eller hav eller vidundere.
