Fixed: „Autonomní řízení I: Tested on real people“

Snad poprvé jsem musel dát D-FENSovi za 5 a nyní si vysvětlíme proč. První odstavec je fakticky správně, ovšem z kontextu článku by mohl čtenář vyvodit špatné závěry. Autonomní řízení není bullshit, ale dost pravděpodobně se jím stane, až se jej chytí nějací oportunisti a zkazí to pro všechny.

Pro státní aparát a kasu nebude úplně přínosné, až bude přestupky řešit právní oddělení automobilky nikoli řidič/provozovatel a „palivo“ si budou „taxi“ společnosti „čepovat“ ze solárních panelů. Tuto ztrátu bude muset někdo zaplatit a zaměstnanci aparátu budou potřebovat nové inovativní způsoby, jak lidem komplikovat život, protože něco dělat přece musejí. Do palebné přípravy se nám tu bohužel zapojil i D-FENS.

Pan Brown

Víme, že ve vysoké rychlosti a se zapnutými asistenčními systémy naboural do náklaďáku, který jel kolmo ke směru pohybu pana Browna (americké dálnice…). Ve voze se našel přenosný dvd přehrávač, na kterém údajně běžel Harry Potter. Nabourané vozidlo se po nehodě samo okamžitě nezastavilo, ale chovalo se jinak a ujelo 347 stop, což rozhodně není „čtvrt míle“, ale 105 m. Jedná se o první potvrzenou FATÁLNÍ nehodu s autopilotem a nikdo nic jiného včetně Tesly nikdy netvrdil. NTSB oznámila, že vyšetřování může trvat až 12 měsíců.

D-FENS nicméně provádí vlastní závěry. Nikdo neví, jestli přehrávač běžel i před nehodou a pokud běžel, zda se na něj pan Brown díval a pouze neposlouchal (kdo neviděl Harryho Pottera alespoň 3x před tím, než vyšel na DVD?). Nikdo neví, zda třeba zrovna něco nezadával do GPS, nespadl mu kus svačiny pod nohy, nepsal sms, neměl mikrospánek atd. V klidu srovnává samostatně umístěný přehrávač s chováním nabouraného vozidla, kterému mohla na plynu stát mrtvola (baterie byla odpojena, vizte výše). Nevadí, uzavřeno jako nehoda z důvodu nepozorného betatestera.

„Betatest“

Předně je potřeba říct, že autopilot je v „betatestu“ asi jako gmail, nebo asistenční systémy jiných automobilek. Pochopitelně stejně jako nemůžete zabránit, aby se po mailu posílaly viry, nezabráníte, aby se asistenční systémy užívaly špatně. Nechápu tu posedlost s tím testováním na reálných lidech v reálném provozu. Nic takového se vlastně neděje. Tesla dodá hardware a software s určitými schopnostmi, možnostmi a omezeními, vy to používáte, jak chcete a uznáte za vhodné, stejně jako od jakékoli jiné automobilky. Rozdíl je v tom, že ten od Tesly je prostě lepší a navíc, protože Teslu vede nerd, který se programováním živil už jako dítě, zabudovali do Tesly možnost komunikace auta s výrobcem, což umožňuje sběr dat, který pak použijí na update systému na lepší verzi, což se mimo jiné nedlouho po nehodě taky stalo. Srovnejte tento přístup se svolávacími akcemi kvůli SW problémům a bezpečností u jiných automobilek. Třeba GM a Chrysler vs. Tesla, která má dokonce vypsány odměny pro hackery. Závěry vyvozené z paralely s léky jsou přesně opačné, než by měly být, což dojde každému, kdo si alespoň jednou přečetl nějaký příbalový leták. A už vůbec nechápu tu narážku na vyšetřování, neboť Teslu samozřejmě vyšetřuje hromada vládních agentur, ale i soukromých subjektů, které z různých důvodů dodávají podněty Tesle nebo těm agenturám. Pochopitelně na rozdíl od D-FENSe si ti, kteří nesou za svá rozhodnutí odpovědnost, nedovolí učinit nepodložené závěry a navrhovat, či zavádět, nesmyslná opatření.

Autonomní řízení

Na závěr si D-FENS dovolil takovou drobnou argumentační zkratku a z autopilota, tedy asistenčního systému, udělal hrozbu pro autonomní řízení a srovnal jej se skutečným betatestem plně autonomního vozidla. Hned na to provedl další zkratku a prohlásil, že na sedadle autonomního vozidla nesmí umřít nikdo, aby to náhodou společnost nezakázala, a pokud někdo umře, je to zbytečná oběť nehledě na kvality autonomního systému a množství kilometrů bez nehod. Pokud se podíváme na statistiky úmrtnosti na silnicích v jakémkoli státě, dojde nám, že auto, které bude v řízení o 5% lepší než člověk, by mělo být uvedeno (nikoli nuceno) do provozu (5% např. u léčby bohatě může stačit). Jak už ale uvedl i Elon Musk, který rozhodně ze svých představ o konci řízení lidmi nevycouval, když někomu berete kontrolu nad něčím, co pro něj doteď fungovalo bez chyb (relativně, kolik z nás už bouralo a jak často), musíte mít dobrý důvod – 2-10x lepší než řidič, než to projde i skrz náš omezený emocionální pohled na svět a legislativní proces. Taky nikdo nedokáže vyrobit 1 mld. autonomních aut za rok, takže zákaz manuálu, který ani možná nebude potřeba, bude trvat ještě dlouho (odhaduji 15-30 let). A co se týče neobvyklých situací mimo scénář – většina řidičů je taky nezvládne jinak, než brzděním, nebo stržením volantu a počítač je nemusí umět vyřešit dokonale, ale stačí, že bude brzdit dříve a strhávat volant kontrolovaněji. Všechny ty myšlenkové experimenty a etické otázky jsou cool pro filosofy, a média, politiky, bloggery či oportunisty a další, co nechápou skutečný svět.

Média

Docela chápu, proč se toto stalo i D-FENSovi. Když shoří spalovák, tak se nic nestane, stejně jako u tisíců jiných požárů spalováků ročně, ale když chytne Tesla, je z toho mediální pozdvižení. Když se nehody na dálnici účastní Mercedes, nikoho nenapadne se optat, zda náhodou nebyly zapnuty asistenční systémy, ale u Tesly je o tom hromada článků včetně spekulace o zapnutí autopilota, i kdyby ta Tesla stála zaparkovaná v řadě vozidel posledních 14 dní před nehodou. Pak si na X serverech přečteme o tom, zda má auto zabít řidiče nebo rozmasakrovat školku na výletě a jak budou počítače řešit další varianty slavného Trolley problému. Po takové mediální masáži zkrátka podlehnou i nejodolnější. Ještěže budou Facebook a jemu podobní upozorňovat na fake news…

Závěr

Nerad bych dělal z Tesly nějaký svatý grál, ale bylo by dobré, kdyby byla kritizována za to, co je skutečně její chyba. Například zatajení informace zákazníkům o omezeném počtu použití maximálního potenciálu jejich auta, zpoždění při uvádění modelů, kvalitativní problémy jejich produktů, nebo divně nastavený software, kdy nemůžete aktivovat alespoň tempomat, pokud nefunguje radar (jedno z rambling videí od Bjorn Nyland). Ovšem kritizovat automobilku za vohnouty, kteří nechápou, že, dokud sedí za volantem, mají řídit, je asi tak mimo jako kritizovat, že Dräger není povinnou součástí výbavy auta, a proto můžou jezdit lidi ožralí.

01.01.2017 Tohares

Související články: