Samovozeći automobili kreću se prema barikadi AI
Skeptici kažu da bi puna autonomija mogla biti udaljenija nego što industrija priznaje
Izdanje AI iz stvarnog svijeta
Ako vjerujete izvršnim direktorima, potpuno autonomni automobil mogao bi biti udaljen samo nekoliko mjeseci.U 2015. godini, Elon Musk predvidio je potpuno autonomni Tesla do 2018. godine;tako i Google. Delphi i MobileEyeov sustav Level 4 trenutno je predviđen za 2019., iste godine kada Nutonomy planira implementiratitisuće taksija bez vozača na ulicama Singapura. GM će u proizvodnju pustiti potpuno autonomni automobil 2019. godine, bez upravljača ili mogućnosti da vozači interveniraju. Iza ovih predviđanja stoji stvarni novac, oklade napravljene pod pretpostavkom da će softver moći sustići hype.
Čini se da je puna autonomija bliža no ikad. Waymo jeveć testiraju automobilena ograničenim, ali javnim cestama u Arizoni. Tesla i mnoštvo drugih oponašatelja već prodaju ograničeni oblik autopilota, računajući da će vozači intervenirati ako se dogodi nešto neočekivano. Dogodilo se nekoliko rušenja, neke smrtonosne, ali sve dok se sustavi poboljšavaju, logika ide, ne možemo biti toliko daleko od toga da uopće ne moramo intervenirati.
No, san o potpuno autonomnom automobilu možda je i dalje nego što mislimo. Među stručnjacima za umjetnu inteligenciju raste zabrinutost da će proći godine, ako ne i desetljeća, prije nego što sustavi za samovozu pouzdano izbjegnu nesreće. Dok se samoobučeni sustavi hvataju u koštac sa kaosom iz stvarnog svijeta, stručnjaci poput Garyja Marcusa iz New Yorka spremaju se za bolnu rekalibraciju očekivanja, korekciju koja se ponekad naziva i AI zima. To kašnjenje moglo bi imati katastrofalne posljedice za tvrtke koje se bave tehnologijom samovoze, stavljajući punu autonomiju izvan dosega cijele generacije.
Automobili bez vozača su poput znanstvenog eksperimenta u kojem ne znamo odgovorLako je shvatiti zašto su automobilske tvrtke optimistične u pogledu autonomije. Tijekom posljednjih deset godina, duboko učenje - metoda koja koristi slojevite algoritme strojnog učenja za izvlačenje strukturiranih informacija iz masivnih skupova podataka - potaknulo je gotovo nezamisliv napredak u AI i tehnološkoj industriji. Omogućuje Google pretraživanje, Facebook vijest vijesti, konverzacijski algoritam govora u tekst i pobjedničke sustave Go-play. Izvan interneta koristimo duboko učenje za otkrivanje potresa, predviđanje bolesti srca i označavanje sumnjivog ponašanja na feedu fotoaparata, zajedno s bezbroj drugih inovacija koje bi inače bile nemoguće.
Ali dubinsko učenje zahtijeva ogromne količine podataka o treningu da bi radili ispravno, uključujući gotovo svaki scenarij koji će algoritam naići. Primjerice, sustavi poput Google Images izvrsno prepoznaju životinje sve dok imaju podatke o dresuri kako bi im pokazali kako svaka životinja izgleda. Marcus opisuje ovu vrstu zadatka kao interpolaciju, uzimajući u obzir sve slike s oznakom ocelot i odlučujući da li nova slika pripada grupi.
Inženjeri mogu biti kreativni u tome odakle podaci potječu i kako su strukturirani, ali postavlja teško ograničenje koliko daleko može doseći određeni algoritam. Isti algoritam ne može prepoznati ocelot, osim ako nije vidio tisuće slika ocelota - čak i ako je vidio slike kućnih mačaka i jaguara, a zna da su oceloti negdje između. Taj proces, koji se naziva generalizacija, zahtijeva drugačiji skup vještina.
Dugo su vremena istraživači mislili da bi mogli poboljšati generalizirajuće vještine pomoću pravih algoritama, no nedavna su istraživanja pokazala da je konvencionalno duboko učenje čak i gore u generaliziranju nego što smo mislili.Jedna studijaotkrio je da je konvencionalnim sustavima dubokog učenja teško čak generalizirati različite okvire videozapisa, označavajući istog polarnog medvjeda kao babuška, mungosa ili lasicu, ovisno o manjim pomacima u pozadini. Sa svakom klasifikacijom koja se temelji na stotinama ukupnih čimbenika, čak i male promjene na slikama mogu u potpunosti promijeniti prosudbu sustava, nešto što su drugi istraživači iskoristili ukontradiktorni skupovi podataka.
Marcus pokazuje namahnitost chat botakao najnoviji primjer hypea koji se suprotstavlja generalizacijskom problemu. Chat botovi su nam obećani 2015. godine, kaže, ali oni nisu ništa dobri jer nije stvar samo u prikupljanju podataka. Kada razgovarate s nekom osobom na mreži, ne želite samo da preispituje ranije razgovore. Želite da oni odgovore na ono što govorite, oslanjajući se na šire vještine razgovora kako bi proizveli svoj jedinstveni odgovor. Dubinsko učenje jednostavno nije moglo stvoriti takvu chat bot. Jednom kad je početni hype nestao, tvrtke su izgubile vjeru u svoje chat bot projekte, a vrlo je malo njih još uvijek u aktivnom razvoju.
terraria kuća
To Teslu i ostale autonomne tvrtke ostavlja zastrašujuće pitanje: Hoće li se samovozeći automobili poboljšavati, poput pretraživanja slika, prepoznavanja glasa i ostalih priča o uspjehu u umjetnoj inteligenciji? Ili će naletjeti na problem generalizacije poput chat botova? Je li autonomija problem interpolacije ili problem generalizacije? Koliko je zapravo nepredvidljiva vožnja?
Možda je prerano znati. Automobili bez vozača su poput znanstvenog eksperimenta u kojem ne znamo odgovor, kaže Marcus. Nikada prije nismo uspjeli automatizirati vožnju na ovoj razini, pa ne znamo o kakvoj je zadaći riječ. U mjeri u kojoj se radi o prepoznavanju poznatih objekata i poštivanju pravila, postojeće tehnologije trebale bi biti na visini zadatka. Ali Marcus se brine da bi dobra vožnja u scenarijima sklonim nesrećama mogla biti složenija nego što industrija želi priznati. U mjeri u kojoj se dogode iznenađujuće nove stvari, to nije dobra stvar za duboko učenje.
Sigurnost nije samo kvaliteta AI tehnologijeEksperimentalni podaci koje imamo dobivaju se iz javnih izvješća o nesrećama, od kojih svaka nudi neke neobične bore.Kobni krah iz 2016. godinevidio model Model S punom brzinom u stražnji dio bijele traktorske prikolice, zbunjen velikom visinom prikolice i jarkim odsjajem sunca. U ožujku je u samoudobnoj nesreći Ubera usmrtila ženu koja je gurala bicikl, nakon što je izašla s neovlaštenog pješačkog prijelaza. Premaizvješće NTSB-a, Uberov softver ženu je pogrešno identificirao kao nepoznati objekt, zatim vozilo, pa na kraju kao bicikl, ažurirajući svoje projekcije svaki put. U kalifornijskoj nesreći, Model X usmjerio se prema barijeri i ubrzao u trenucima prije udara, iz razloga koji ostaju nejasni.
Svaka se nesreća čini kao rubni slučaj, ne bi se moglo očekivati da će inženjeri unaprijed predvidjeti takve stvari. No, gotovo svaka prometna nesreća uključuje neku vrstu nepredviđenih okolnosti, a bez snage generaliziranja, samovozeći automobili morat će se suočiti sa svakim od ovih scenarija kao da je prvi put. Rezultat bi bio niz nezgoda slučajnosti koje s vremenom ne postaju rjeđe ili manje opasne. Za skeptike okretizvješća o ručnom isključenjupokazuje da je scenarij već u tijeku, a napredak je već dosegao visoravan.
Andrew Ng - bivši izvršni direktor Baidua, član uprave Drive.AI, i jedan od najistaknutijih poticaja u industriji - tvrdi da je problem manje u izgradnji savršenog sustava vožnje nego u osposobljavanju prolaznika za predviđanje ponašanja u vožnji. Drugim riječima, možemo učiniti ceste sigurnima za automobile, umjesto obrnuto. Kao primjer nepredvidivog slučaja, pitao sam ga misli li da moderni sustavi mogu nositi pješaka na pogo palici, čak i ako ga nikada prije nisu vidjeli. Mislim da bi mnogi AV timovi mogli podnijeti korisnika pogo stick-a na pješačkom prelazu, rekao mi je Ng. Rekavši to, odskakanje na pogonskom štapu usred autoceste bilo bi stvarno opasno.
Umjesto da gradimo AI za rješavanje problema pogo stick-a, trebali bismo se udružiti s vladom i tražiti od ljudi da budu zakoniti i pažljivi, rekao je. Sigurnost nije samo kvaliteta AI tehnologije.
To nije lako izoliran problemDubinsko učenje nije jedina tehnika umjetne inteligencije, a tvrtke već istražuju alternative. Iako se tehnike pomno čuvaju u industriji (pogledajte samo nedavnu tužbu Wayma protiv Ubera), mnoge su tvrtke prešle na AI temeljenu na pravilima, stariju tehniku koja inženjerima omogućuje specifična ponašanja ili logiku u inače sebi usmjeren sustav. Nema isti kapacitet za pisanje vlastitog ponašanja samo proučavanjem podataka, što duboko učenje čini toliko uzbudljivim, ali omogućilo bi tvrtkama da izbjegnu neka ograničenja dubokog učenja. No s obzirom na to da su osnovni zadaci percepcije još uvijek duboko oblikovani tehnikama dubokog učenja, teško je reći koliko uspješno inženjeri mogu staviti u karantenu potencijalne pogreške.
google grupe
Ann Miura-Ko, rizična kapitalistica koja sjedi u upravi Lyfta, kaže kako misli da su dio problema velika očekivanja za same autonomne automobile, a sve manje od pune autonomije klasificiraju kao neuspjeh. Očekivati da će oni prijeći s nule na petu razinu više je neusklađenost očekivanja nego neuspjeh tehnologije, kaže Miura-Ko. Sva ta mikro poboljšanja vidim kao izvanredne značajke na putu prema punoj autonomiji.
Ipak, nije jasno koliko dugo samovozeći automobili mogu ostati u trenutnom limbu. Poluautonomni proizvodi poput Teslinog autopilota dovoljno su pametni da se nose s većinom situacija, ali zahtijevaju ljudsku intervenciju ako se dogodi nešto previše nepredvidljivo. Kada nešto pođe po zlu, teško je znati je li automobil ili vozač kriv. Zaneki kritičari, taj je hibrid vjerojatno manje siguran od ljudskog vozača, čak i ako je pogreške teško u potpunosti kriviti na stroju.Jedna studija tvrtke Rand Corporationprocijenio je da bi samovozeći automobili morali preći 275 milijuna kilometara bez smrtnih slučajeva kako bi dokazali da su sigurni kao i ljudski vozači. Prva smrt povezana s Teslinim autopilotom dosegla je otprilike 130 milijuna milja u projektu, što je znatno manje od te mjere.
No s dubokim učenjem u središtu toga kako automobili percipiraju predmete i odlučuju se na reakciju, poboljšanje stope nesreća može biti teže nego što izgleda. To nije lako izoliran problem, kaže profesorica vojvode Mary Cummings, ukazujući na nesreću Ubera koja je početkom ove godine usmrtila pješaka. Ciklus percepcije i odluke često je povezan, kao u slučaju pješačke smrti. Donesena je odluka da se ne poduzima ništa na temelju dvosmislenosti percepcije, a kočenje u nuždi isključeno je jer je od senzora dobilo previše lažnih alarma
Ta je nesreća završila tako što je Uber pauzirao vlastite napore na ljeto, što je zloslutni znak za druge tvrtke koje planiraju uvođenje. Širom industrije tvrtke se utrkuju za više podataka kako bi riješile problem, pod pretpostavkom da će tvrtka s najviše kilometara izgraditi najjači sustav. No tamo gdje tvrtke vide problem s podacima, Marcus vidi nešto puno teže riješiti. Oni se samo koriste tehnikama koje imaju u nadi da će to uspjeti, kaže Marcus. Oni se oslanjaju na velike podatke jer su to štake koje imaju, ali nema dokaza koji će vas ikad dovesti do razine preciznosti koja nam treba.
Ispravak: Ovaj je članak Andrewa Nga izvorno opisao kao osnivača Drive.AI. Zapravo sjedi u odboru tvrtke.Granicažali zbog pogreške.
