Autonomní řízení 6: Ještě větší provar, než jsme doufali

Zhruba před rokem jsem napsal článek o tom, že autonomní řízení upadá do problémů. Rok s rokem se sešel a ukazuje se, že autonomní řízení je na tom ještě hůř, než si všichni mysleli.

V minulém článku jsem zmiňoval automobilky, které naskočily na módní vlnu a naslibovaly zákazníkům autonomní řízení. Jednalo se například o Volvo nebo Ford. Od té doby jsme o nich neslyšeli. Jejich projekty autonomního řízení totiž mají zpoždění a nedovedou ani říci, jak velké to zpoždění je.

V polovině roku odpískaly svoje plány GM, respektive jejich autonomní divize Cruise, na vypuštění flotily autonomních taxíků na bázi elektrického crossoveru Chevrolet Bolt, ke kterému mělo dojít do konce roku 2019. Nový termín neoznámili. CEO Ammann sdělil serveru Automotive News tuto vysoce konkrétní větu: „Cruise cars are a very present thing and will be even more present. It’s going to be clear that we’re up to something, and that something is around the corner.” Bla bla.

Debakl musela přiznat také Toyota. Zvolili pro Toyotu příznačnou cestu, totiž neriskovat vlastní vývoj s nejistým výsledkem a všechno od někoho nakoupit. Najednou zjistili, že autonomní řízení nemají od koho koupit, protože ho nikdo nemá. Velcí dodavatelé mají obrovská zpoždění ve vývoji svých systémů. Startupy nemají ani to zpoždění, protože nemají vůbec nic kromě barevných prezentací a báječných standup show na téma, jak bude svět skvělý, až nebude v autě volant. Kompletní propadák.

U VW jsou konzervativní a nesdílejí svazácké nadšení progresivních automobilek jako je třeba Volvo. Spočítali si, že to bude pěkně drahý a chtějí se o náklady podělit. Ani tady to nevypadá, že by v dohledné době byli schopni uvést na trh cokoli, co si bude člověk moci koupit a užívat bez rizika, že ho to zabije.

Pak jsou tady tzv. technologické firmy. Začínám být pomalu alergický na toto slovní spojení, protože z nich nakonec vypadne něco, co je dotykové, barevné a otravuje to lidem život. Sice je to sice zbaví pěti velkých starostí a deset podobně velkých starostí jim to způsobí. Tak třeba Google a jeho projekt Waymo, jsou pravděpodobně nejdál ze všech. V roce 2017 vykřikoval CEO Waymo Krafcik, že autonomní řízení je tady. Někdy na podzim 2019 nadešel ten velký okamžik, kdy se Waymo rozhodlo nabídnout autonomní řízení bez lidského řidiče ve velkém předem vybraným „early adopters“, a to vše na strikně vymezených a zmapovaných územích, za téměř ideálních meteorologických podmínek a s dokonalou konektivitou. To vše bez jakéhokoli schválení nezávislou autoritou nebo certifikace řídícího systému. Testování autonomního řízení na lidech se tak dostalo na další level. Musk prováděl testy na lidech, kteří se mu přihlásili dobrovolně a koupili si od něj elektromobil, Waymo testuje na lidech, kteří náhodně chodí po ulici a s účastí v testovacím programu nesouhlasili. Jak to bude dál je otázka, zatím to nevypadá, že by Waymo udělalo na své zákazníky dojem. Nejvíce 70% humánních testovacích subjektů bylo s jízdou spokojených, zatímco podíl negativních hodnocení dosahuje v některých oblastech 47%, což pravděpodobné bude více než srovnatelné s řízením manuálním. Padaly tam zajímavé komentáře, například že se autonomní řízení konečně vyrovnalo lidskému, ale pouze pokud jde o idiotské chování některých řidičů. Testovacím subjektům zejména nešmakují nepředvídatelná náhodná zastavení, ze kterých je jim na zvracení a skutečnost, že je autonomní vozidlo nevyložilo v blízkosti cíle, ale několik set metrů od něho.

Samozřejmě je tady Tesla. Plná autonomie muss sein. Firma Keen Security Lab, dvojnásobný vítěz soutěže o to, kdo najde v řídícím systému Tesly nějakou prasárnu, na to tentokrát šla jinak a odhalila zásadní slabinu všech těchto systémů, totiž neschopnost „deep learning“ algoritmů rozlišovat mezi tím, jak obraz vypadá a co na něm ve skutečnosti je. Po určitých počátečních pokusech se zmanipulováním vodorovného dopravního značení Keen usoudil, že nebude třeba jít na komára s kanónem. K vykolejení teslího autopilota stačily tři malé samolepky nalepené na silnici. Tím se povedlo navést Teslu do protisměru, protože samolepky kamera vyhodnotila jako zakončení „jejího“ jízdního pruhu. Kromě toho lidi z Keen Labs hackli také automatické stěrače a získali root přístup do modulu ovládání řízení. Celý report můžete najít zde, je to zajímavé čtení, člověk místy skoro až nevěří, na jak vratkých základech to všechno stojí. Každopádně Tesla se k výsledkům Keenových výzkumů nepostavila zády a o další spolupráci s čínskou firmou projevila zájem, což je po minulých reakcích Tesly na podobnou kritiku příjemná změna. Vypadá to, že k tomu, aby začal výrobce autonomní mobility brát téma bezpečnosti vážně, musí nejprve pár lidí zabít.

Kromě toho se ukazuje, že i level 2 systémy mají mouchy a jejich užitek je problematický. V tomto směru mi udělalo radost ČVUT, které podrobilo kritickému zkoumání „inteligentní“ tempomat, přičemž se ukázalo, že není o moc lepší než běžný řidič, tedy používá příliš velké bezpečností rezervy, na situaci reaguje se zpožděním a reaguje příliš. Člověk by takové studie očekával od fakulty dopravní a nikoli elektrotechnické, ale to je zase jiná kapitola.

Kde je problém? V podstatě se jedná o dva částečně se prolínající okruhy překážek.

První překážku představuje skutečnost, že při vývoji autonomního řízení nelze praktikovat postup obvyklý pro vývoj běžného software. Tedy „to se pak ňák dodělá“. Už jsme si zvykli na to, že dodavatelé software v podstatě soustavně a až do konce useful life jejich produktu publikují různé updaty a záplaty, kterými napravují chyby svého produktu v okamžiku, kdy se tyto chyby projeví. Jenže v případě autonomního řízení nejde tento iterativní proces použít, protože by to mohlo někoho zabít. Současné vývojové postupy prostě nejsou dost dobré. Pravděpodobně se bude muset změnit systém projektového řízení a legislativa. Nabízí se zde určitá analogie s odfláknutým postupem testování a certifikace dopravního letadla Boeing 737 MAX8, které by třeba nakonec nebylo ani tak špatné, kdyby jeho testování a uvedení do provozu neproběhlo pod tak extrémním termínovým tlakem.

Druhý okruh problémů plyne z toho, že ty AI algoritmy nejspíš nejsou tak dobré, jak si vysnili propagátoři AI v jejich standup prezentacích. Když se s tím seznámíte detailněji, zjistíte, že ty jejich „deep learning“ funkce pouze přiřazují výstup vstupům na základě nějakého souboru znaků, ale nemají vůbec žádné povědomí o tom, proč to dělají. Je jim jedno, zda čtou data z kamery u krmítka a identifikují různé druhy sýkorek pro účely statistiky zvědavých ptákologů, nebo zda řídí auto s lidmi na palubě. Ty algoritmy si vedou docela dobře v prostředí, které je finitní a člověk ho předtím zmapoval, jako je třeba počítačová hra. Pokud mají něco extrapolovat mimo toto prostředí, většinou neuspějí, protože na rozdíl od lidí neznají kauzální souvislosti. V případě řízení automobilu je to obzvlášť tristní, u lidských řidičů je řízení bez ohledu na následky vnímáno jako bezohlednost a jeho tolerance ve společnosti není vysoká. Poslední dobou se ozývají názory, že stojíme na prahu další „AI winter“, česky třeba „zimního spánku umělé inteligence“, protože očekávání, která ve společnosti vznikla z důvodu agresivního marketingu AI technologií jsou prostě příliš vzdálena od toho, co ta technologie momentálně dovede. Pokud se nepovede průlom v nějakých dalších dvou nebo třech letech, investoři prostě dají od toho ruce pryč, protože jsou jiné a nadějnější příležitosti v dohledu.

Dá se tedy s uspokojením říct, že ani v tomto roce se s autonomií na levelu 4 nesvezeme. A abych se přiznal, vůbec mi to není líto.

Závěrem bych nadnesl ještě dvě teze. Obě jsou totálně politicky nekorektní a málo progresivní, takže by je asi neměli fanouškové autonomního řízení číst.

První je otázka, zda autonomní řízení skutečně někdo potřebuje nebo zda to je pouze nice-to-have záležitost a hračka. Autonomní řízení má různé aspekty a vždy existuje někdo, kdo ho využije pro své plány. Vlády si najdou backdoor do řídících systémů vozidel stejně jako si je hledají v případě neautonomních (e-call, logování dat na úrovni lokálních ECU a jejich odesílání, sledování elektromobilů) a tím kontrolovat mobilitu populace. Dál je zde třeba aspekt politický, protože na určitou část populace působí dobře, když vláda podporuje „moderní technologie“, mezi které autonomní řízení počítají, a tomu, kdo tyhle věci propaguje, jsou ochotni věnovat svoji přízeň. Státy mohou utrácet peníze daňových poplatníků a nabízet pobídky „technologickým firmám“ (barevné dotykové k ničemu) na výstavbu výzkumných a testovacích center, aby od nich pak dvacetkrát po sobě každý rok slyšeli „už to skoro máme, chybí nám jen taková maličkost“. Ale ty peníze si samozřejmě rádi vezmou, takže je tu i zájem ekonomický. Tihle všichni autonomní řízení potřebují, aby naplnily nějaký svůj mocenský, politický nebo ekonomický záměr. Ale potřebujeme ho my jako zákazníci? Jaký benefit z něho můžeme mít? Že nebudeme muset řídit, zatímco se budeme dopravovat? OK, dobře, ale jsme si jisti, že čas strávený na cestě „neřízením“ strávíme skutečně produktivněji a hodnotněji, než kdybychom řídili? Skutečně učiní náš život kvalitnějším? Já o tom pochybuji. Jakékoli kritické zkoumání tohoto aspektu ve společnosti chybí, protože je ovládána svazáckým nadšením z toho, že „nebude třeba řídit“. Dobře, nebude třeba trávit čas řízením, a co dál?

Je autonomní řízení levičácký nesmysl? Podle mého názoru zcela jednoznačně ano. Existuje jedna věc, která všechny levičáky na světě spojuje. Není to Karl Marx, Che Guevara, lenost, neschopnost ani neutišitelná potřeba vnucovat zbytku populace svůj světonázor, jak by se mohlo zdát z řádění současných social justice warriors. To, co levičáky skutečně spojuje, je extrémní nedůvěra v člověka, jeho schopnosti a svobodu. V představách levičáků je člověk v zásadě nesvéprávný a sám sobě nebezpečný. Pravděpodobně zde levičáci reflektují sami sebe, svoje nedospělé mozky a nešikovné ruce. Levičáci proto podporují všechno, čím lze nahradit lidskou vůli. Například sociálně inženýrské zákony a sankce za jejich nedodržení, společenské procesy a doktríny (například politická korektnost, která má zařidit, aby lidé neříkali, co si myslí) a nejnověji také techniku. Vzniká tak něco jako techkominterna.

Levičáci například nikdy nepochopili, že člověk podvědomě hledá maximální užitek a tak věří tomu, že maximální užitek je jedinci třeba nanutit nějakým osvícencem pro jeho vlastní blaho. Techkominterna díky tomu už teď ví, že vy přece nechcete řídit auto, vy si přece chcete hrát hru nebo číst knihu, zatímco řídí software napsaný za pár dolarů indickými profesionály. Techkominterně nevysvětlíte, že kdyby lidé ta auta skutečně nechtěli řídit, tak že by je neřídili už teď. A chraň nás bůh říct nahlas, že chceme řídit auta, protože nás to baví, odpočineme si přitom, odreagujeme se a podobně. S takovým jedincem je určitě něco špatně a je třeba ho začít převychovávat. Také se ve společnosti velmi usilovně buduje chiméra, že autonomní řízení bude jednou bezpečnější než to lidské. Sice pro to neexistuje naprosto žádná opora v současném stavu vývoje autonomního řízení, jehož safety record je ve skutečnosti pochybný, ale budeme tomu alespoň věřit. Připustit opak by znamenalo také připustit, že bezpečnost lidsky řízeného silničního provozu není ani trochu špatná a že člověk vlastně není vůbec tak nedokonalý řídící systém, což mladým komoušům v zásadě nejde z úst.

Osobně bych byl rád, kdyby se místo této této sociálně inženýrské blbiny plošné náhrady člověka strojem prosadil nějaký evoluční přístup založený za zdokonalování současných asistentů, ale tento názor je zatím silně v menšině. Budeme tedy muset nechat techkominternu, aby si za peníze daňových poplatníků trochu zablbla.

12.01.2019 D-FENS

Související články: