Yann lecun diskuterer kraften, grænserne i dyb læring

På en workshop om AI og Future of Work tidligere denne måned talte Yann LeCun, direktør for AI Research på Facebook og grundlægger af NYU Center for Data Science, om "magt og grænserne for dyb læring." LeCun, der var banebrydende for de indviklede neurale netværk, der er kernen i mange af de nylige fremskridt inden for AI, var begge begejstrede for de fremskridt, som området har gjort i de senere år og realistiske over, hvad sådanne systemer kan og ikke kan gøre.

Der har været flere bølger af AI, sagde LeCun, og bemærkede, at selvom den aktuelle bølge har fokuseret på dyb læring, er hvad der skal komme "opfattelse", hvor de største eksempler er applikationer som medicinsk billeddannelse og selvkørende biler. Næsten alle disse applikationer anvender overvåget læring og bruger mest indviklede neurale netværk, som LeCun først beskrev i 1989, og som først blev anvendt til karaktergenkendelse i ATM'er i 1995. LeCun sagde, at patentet på sådanne netværk udløb i 2007.

Det er de store datasæt med store prøvestørrelser såvel som de enorme stigninger i computerkraft (hjulpet af Geoffrey Hintons arbejde med at finde ud af, hvordan man bruger GPU'er til billedgenkendelse), der har resulteret i den mest ændring i de senere år. Selv for LeCun har fremskridtene inden for billedgenkendelse været "intet mindre end forbløffende." Selvom opfattelsen "virkelig fungerer", er det, der stadig mangler, ræsonnement.

LeCun talte om tre forskellige slags tilgange og begrænsningerne for hver af dem. Forstærkningslæring kræver et stort antal prøver. Det er fantastisk til spil, da systemet kan køre millioner af forsøg og blive bedre og bedre, men det er svært at bruge i den virkelige verden, da du ikke ønsker at køre en bil ud af en klippe 50 millioner gange, for eksempel, og realtid er en faktor i den virkelige verden.

Overvåget læring, som er det meste af det, vi ser nu, kræver en medium mængde feedback og fungerer godt. Overvåget maskinlæring har dog nogle problemer. LeCun sagde, at sådanne systemer afspejler partikler i data, selvom han sagde, at han er optimistisk, at dette problem kan overvindes, og mener, at det er lettere at fjerne partiske fordele fra maskiner sammenlignet med mennesker. Men det er også svært at verificere sådanne systemer for pålidelighed og vanskelige at forklare beslutninger, der er taget baseret på output fra sådanne systemer, og LeCun talte om låneansøgninger som et eksempel på dette.

Uovervåget eller forudsigelig læring, som i øjeblikket undersøges for ting som forudsigelse af fremtidige rammer i en video, kræver meget feedback. Uovervåget læring involverer at forudsige fortiden, nutiden eller fremtiden ud fra uanset information, der er tilgængelig, eller med andre ord evnen til at udfylde de tomme emner, som LeCun sagde er effektivt, hvad vi kalder sund fornuft. Han bemærkede, at babyer kan gøre dette, men at det har været meget vanskeligt at få maskiner til at gøre det, og talte om, hvordan forskere arbejder med teknikker som generative modstandersnetværk (GAN) til forudsigelser, der blev fremsat under usikre forhold. Vi er langt fra at have en komplet løsning, sagde han.

LeCun talte om de tre typer af læring som at være som dele af en kage: forstærkningslæring er kirsebæret på toppen, overvåget at lære icing, og forudsigelig læring er hoveddelen af ​​kagen.

LeCun forudsagte, at AI vil ændre, hvordan tingene værdsættes, med varer bygget af robotter, der koster mindre og autentiske menneskelige oplevelser, der koster mere, og sagde, at dette kan betyde, at der er "en lys fremtid for jazzmusikere og kunsthåndværkere."

Samlet set sagde LeCun, at AI er en General Purpose Technology (GPT) som dampmaskinen, elektricitet eller computeren. Som sådan vil det påvirke mange områder af økonomien, men det vil tage 10 eller 20 år, før vi ser en effekt på produktiviteten. LeCun sagde, at AI vil føre til udskiftning af job, men bemærkede, at teknologisk anvendelse er begrænset af, hvor hurtigt arbejdstagere kan træne til det.

Hvad angår en "sand AI-revolution", sagde LeCun, at dette ikke vil ske, før maskiner erhverver sund fornuft, og det kan tage to, fem, tyve eller flere år at bestemme principperne for at opbygge dette; derudover vil det derefter tage år at udvikle praktisk AI-teknologi baseret på disse principper. Efter alt, bemærkede han, tog det tyve år, før indviklingsnet blev vigtigt. Og det hele er baseret på antagelsen om, at principperne er enkle; det bliver meget mere kompliceret, hvis "intelligens er en kludge."