Autonomní řízení 4: Když je oběť viník

Ono se tak nějak předpokládalo, že to brzy někoho zabije, a tak se taky stalo. Stalo se to vlastně politicky tím nejpřijatelnějším způsobem, protože oběť je jasný viník srážky. Taky to mohlo zabít někoho zcela nevinného.

Zhruba před rokem jsme se zabývali nehodou samořízeného vozidla, Tesly pana Joshuy, který tak dalece důvěřoval technologii pana Muska, až z toho úplně ztratil hlavu. Nejednalo se o nehodu autonomního vozidla, jak se někdy uvádí, protože na palubě vozidla žádný systém autonomního řízení nebyl. Nacházel se tam jen vylepšený tempomat, jinými slovy autonomní řídící systém druhého stupně, který v důsledku nepochopení a agresivního marketingu výrobce někteří uživatelé chápali jako autonomně řídící systém. Mezitím vešly ve známost další nehody. V lednu 2016 zahynul v Číně řidič Gao Yaning, který havaroval s Teslou na dálnici a autopilot byl zapnutý, a nejnověji měl v USA smůlu pan Wei Huang, softwarový inženýr u Apple, jehož Tesla X se zapnutým autopilotem trefila bezpečnostní zábranu na dálnici, což rezultovalo v požár vozu a vážné zranění pana Huanga, který mu později podlehl. Podle tvrzení Tesly dostal pan Huang několik varování, že má převzít řízení, ale neragoval na ně. Větší štěstí měli aktéři nehody z 22. ledna u Los Angeles, kdy se Tesla údajně ovládaná autopilotem trefila do hasičského vozidla, které stálo na silnici. Nikdo nezemřel.

Nyní ale máme novou situaci, protože ve veřejnou známost vešla první nehoda plně autonomního vozidla se smrtelnými následky.

Stalo se to, že testovací vozidlo firmy Uber Technologies, SUV Volvo XC90 s živým, ale neaktivním řidičem na palubě srazilo chodkyni vedoucí bicykl. Odehrálo se to 21. března t.r. kolem desáté večer ve městě Tempe, Arizona. Volvo jelo v samořídícím módu rychlostí asi 35-38 mph. Chodkyní byla 49-letá Elaine Herzberg, která dostala skvělý nápad přecházet vozovku s šesti jízdními pruhy potmě a po kolizi se samořiditelným Volvem byla převezena do nemocnice, kde zemřela.

Uber v Arizoně testuje rád. Nejprve své testovací aktivity směřoval do Phoenixu, pak své působení rozšířil i do oblasti Tempe. Je to kvůli liberálnímu přístupu autorit, kvalitní silniční infrastruktuře a pěknému počasí. To poslední je třeba, protože se ještě nepovedlo uspokojivě vyřešit problém se sněhem, deštěm a kamerami. Kromě Uberu tam testuje třeba Waymo svoje autonomní dodávky. Celkově se po Arizoně pohybovalo asi 600 vozidel. Po incidentu Uber svá vozidla uzemnil.

Společnost Uber zveřejnila video, které má zobrazovat srážku. Video má zhruba kvalitu záznamu z autokamery koupené na Aliexpresu za deset dolarů a není na něm vidět nic jiného, než jak auto vrazí do ženské vedoucí kolo a jak řidič hnípe za volantem. Zveřejnění videa se stalo předmětem kritiky, protože prý může podlomit důvěru veřejnosti v autonomní řízení. Což je mimochodem ukázkou toho, čím se budu zabývat po chvíli – totiž autonomním řízením jako subjektem politické korektnosti.

Vysvětlení, že tam neměla co přecházet a že by to s živým řidičem dopadlo lautr stejně, média v podstatě přejala. Pokládám tento závěr za velice povrchní.

Předně to není postačující vysvětlení. Jasně že tam chodkyně neměla co přecházet a jasně že je to její chyba. Nějaký uvědomělý blbec z Besipu by vám klidně řekl, že v ČR by se to nestalo, protože chodkyně by měla povinně reflexní nášivky, a pokud ne, tak by měla dostat pokutu in memoriam. Ale nebylo ono náhodou hlavním argumentem při propagaci autonomního řízení mezi lid, že bude podstatně lepší než řízení člověkem? Že díky pokročilé senzorice, zahrnující radary, lidary, kamery a infrakamery bude schopné reagovat právě na situace, jako tahle, protože nebude závislé na vizuálním kontaktu? Výsledkem je, že se objeví ženská s kolem, která leze přes cestu, a vozidlo na ní zjevně nezareaguje vůbec nijak. Buď ji „pokročilá senzorika“ nezaznamenala, nebo software dospěl k názoru, že na ni není třeba reagovat. Uber zjevnou nečinnost řídícího systému zatím nijak nekomentoval, takže se domnívám, že šlo o druhou možnost. Asi by se těžko vysvětlovalo veřejnosti, že chodec opírající se o sakrální objekt zelených levičáků – jízdní kolo – je něco, kvůli čemu není třeba ani trochu přibrzdit.

Existuje navíc dokonce odborný názor jistého Zachary Moorea, který je jinak znalcem v oboru dopravy, a který serveru Bloomberg Technology poskytl vyjádření, že situace zase nebyla tak beznadějná, jak se jeví na první pohled a že průměrný řidič by vozidlo zastavil osm stop před Herzbergovou s kolem.

Z právního, morálního, bezpečnostního a mnoha dalších hledisek není bez dalšího přijatelné provádět testy na lidech, tedy beta testy v běžném provozu na veřejných komunikacích. Tak se prosadilo řešení, které umožní dosáhnout srovnatelné bezpečnosti, i když B-vzorek selže. To je v praxi přítomnost živého řidiče, který bude připraven převzít kontrolu nad vozidlem, kdyby se něco zvrtlo, čímž vlastně bude dosažen stejný bezpečnostní standard, jaký máme teď. Tento řidič je klíčová osoba, protože kromě korekčního zásahu do řízení je to on, kdo disponuje informacemi o chování systému i nad rámec toho, jak je zaznamená stroj. Jaká byla praxe Uberu? Tohle je asi nejabsurdnější moment celé události. Vozidlo řídila Rafaela Vasquez, transgender jedinec, muž, který před nějakou dobou zjistil, že je žena. Druhým významným momentem jeho/jejího života bylo, když se pokusil/-a vyloupit videopůjčovnu, kde předtím pracoval/-a, protože chtěl/-a zahájit vlastní byznys. Nevím, nakolik mužena s dubiózním CV splňuje představy veřejnosti o tom, jací lidé by se na vývoji a testování autonomní mobility měli podílet. Veřejnost asi podvědomě očekává, že tam budou všude sedět týmy expertů složené z vysoce trénovaných řidičů jištěných armádami nerdů s notebooky, a místo toho tam najdeme muženu, která se evidentně nevěnuje řízení, spíš to vypadá, že píše esemesky.

Faktem je, že mužena dosud nebyl obviněná. Zákony státu Arizona stanoví výslovně, že mimo přechod mají auta přednost před chodci. Úřady evidentně aplikují common sense a určitý základní smysl pro spravedlnost, který říká, že tam Herzberg s jejím kolem neměla co pohledávat a když se rozhodla tak rozsáhle rezignovat na svoji bezpečnost, nelze někomu jinému přičítat k tíži, že se jí něco stalo. Mužena má štěstí, že testy probíhají v Arizoně (díky širokým a přehledným komunikacím, slunečnému počasí a laxnímu přístupu autorit) a ne v ČR, protože tady by si muženu vychutnali policajti a státní zástupce. Práce pro Uber, SUV, přejetí svěcené krávy cyklisty, muženě by nepohla ani svěcená voda a za pár měsíců by se přetahoval ve sprše o mýdlo s Čukem a Gekem.

Autonomní řízení jako projekt je v ohromném časovém a finančním skluzu bez ohledu na to, kdo se mu věnuje. Ukazuje se, že to nebude tak snadné a od předvádění samojezdících aut na liduprázdném okruhu a nadšených standup prezentaci nejrůznějších vizionářů a pošuků je k uvedení technologie do reálného života ještě hodně daleko. Problém je naučit stroje chápat interakce mezi lidmi. Kromě takových neočekávatelných neobyčejných věcí jako sníh a déšť, které způsobují problémy kamerovým systémům, jsou zde objekty jako paní Herzberg – taková zajímavá kombinace z chodce, cyklisty a tašek, kterou stroj nemá kam zařadit. Pak objekty, které sice zařadit jde, ale je obtížné na ně reagovat, protože jsou nepředvídatelní. Být třeba takový cyklista, tak se autonomního řízení straním jak čert kříže. Cyklistické chování je často netransparentní a rádi vsázejí na různé malé ústupky lidského řidiče, že je určitě vidí a bude muset přibrzdit nebo že se nějak uhne, zatímco u stroje budou podobné porozumění vynucovat stěží.

Celá ta věc má před sebou evidentně ještě léta vývoje. Tři roky stará predikce Elona Muska, že rozvoj autonomního řízení může vést k zákazu řízení lidmi, se v dnešním kontextu jeví jako utopie. Dosavadní přístup, masivní použití agilních metod a výměna bezpečnosti za pokrok celému záměru spíše škodí a vůbec není nerealistické, aby naopak přišlo dát k ledu autonomní řízení.

Osobně jsem toho názoru, že autonomní řízení už není marketingová záležitost a už dávno nejde o to, nabídnout zákazníkům nějakou užitečnou funkci za peníze. Stále více je to úchylný projekt fachidiotů a vysoce politická záležitost. Prosazuje se násilím za silné politické podpory mladých komunistů, kteří nejasným myšlenkovým postupem našli spojení mezi sdílením vozidel a autonomní mobilitou. Banda agresivních mladých levičáků okupuje média a provádí samohanu nad samořízením, aby si zrealizovala svůj hipsterský sen o tom, že se konečně povede nacpat lidem komunismus jinou cestou a otravné soukromé vlastnictví bude zrušeno, protože je přece nespravedlivé, aby jeden měl auto za dvacet tisíc a druhý za tři mega. Třídní boj 2.0 se tak odehraje v zájmu bezpečnosti, protože samořiditelné auto přece není nutné vlastnit a samořiditelné auto je daleko lepší, protože ty úžasné kamery a lidary a senzory jsou přece daleko spolehlivější než člověk, takže člověka za volantem zakážeme. Za chybu na řádku 188 se omlouváme, to se stává nejvýše jednou za patnáct let.

Jeden aby se dnes pomalu bál říct, že si chce řídit auto sám, protože ho to baví. Správné a korektní je nyní řídit auto nerad. Vyvrhelem se spolehlivě stanete, když k tomu ještě dodáte, že byste chtěli současně auto výhradně vlastnit a sedět na své sedačce, nikoli na té, co předtím v rámci carsharingu proprděl někdo před námi. Neprojevovat dostatečné nadšení nebo nedej bože pochybovat o samořízení v dnešní době je skoro stejný delikt jako nazvat černocha černochem, říkat, že elektromobil má emise, kriticky se zamýšlet nad výhodami a nevýhodami Sovětského svazu západu nebo se ptát u doktora, jaké to očkování má nějaké vedlejší efekty. Prostě o některých věcech se nepochybuje, jsou správné z podstaty a pokud se vám zdá, že zástup indických programátorů, banda agresivních obchodních zástupců nabízejících nejrůznější neodzkoušená čidla v (nejlepším případě) ve stavu B-fáze a mužena za volantem nejsou právě ten správný tým, který by měl vyvíjet krabici, do které si sednete, tak riskujete společenský problém.

01.04.2018 D-FENS

Související články: