K trolley dilemma je potřeba přidat ještě jeden pohled – zákona, tedy toho trestního. Pokud se rozhodnete jednat, pak si s největší pravděpodobností půjdete sednout a rodina zemřelého nešťastníka Vás stáhne z kůže. Pod tíhou všech okolností si troufám tvrdit, že 99,9% lidí raději neudělá nic.
Jacques
Tak mě napadá – byl by v konečném důsledku nějaký zásadní rozdíl mezi situací, kdy auto s autonomním řízením prostě jede a před chodcem mimo přechod nezastaví, a situací před zavedením přednosti chodců, což jsme se ještě za Husáka učili v dopravní výchově ve škole, že před přechodem se máme pozorně rozhlédnout, jestli nejede auto a pak teprve vstoupit do vozovky?
Ona ta nedoknutelnost chodců je fajn, ale na druhou stranu už nenutí chodce vnímat okolí, takže typicky naběhne do silnice rozjařená školní mládež nebo pitomec se sluchátky (případně + s černými brýlemi a s kapucí na hlavě), protože maj přeci přednost.
Navíc dalším logickým krokem by byla nějaká komunikace mezi signalizačním zařízením na přechodu a řídící jednotkou auta.
Téma zodpovědnosti automatu za lidské životy překračuje naši dobu. Na světě možná není nikdo, kdo by dokázal definovat pravidla (manifest, nebo snad legislativu) toho jak se má autoauto zachovat. Jestli je přednější negr, nebo bílá holčička apod.
Viděl bych to podobně jako v civilním letectví. Dnes je bezpečnost na poměrně vysoké úrovni a dá se říct, že na 99,9999…% doletíte do cíle v pořádku, ale stálo to prakticky 100 let vývoje a tisíce mrtvých. Stejně to bude asi i u autoaut. Budou nehody, budou mrtví a výrobci je budou analyzovat a každá další generace automatů se poučí z chyb té předchozí až třeba po 100, 200 letech bude autoauto povážováno za stejně bezpečné jako letadlo a v ruku v ruce s tím půjdou normy, legislativa i společenské povědomí.
Náš problém je, že žijeme zrovna v době zrodu této technologie, kdy je ještě nespolehlivá a na rozdíl od letadel před těmi 100 lety se nás dotýká poněkud více (nějakou tu teslu budeme potkávat stále častěji). Řešení neexistuje – buď nebudete vycházet z domu/bytu, nebo musíte příjmout určité riziko, že zrovna Vás autoauto vyhodnotí jako méněcenného a přejede. To čeho jsme svědky je pokrok a ten se nezastaví před ničím.
Sysop
Zadny vyrobce si zodpovednost toho kramu za zivot lidi nevezme na triko. Nikdy. Bude to jako s Windows – az se ukaze, ze je to kram a lidem to pusobi skody, tak se napise padesatistrankovy Elaborat o tom, ze uzivatel souhlasi s tim, ze to kram je a hlavne – uzivatel bude mit kram jen pronajaty, nebude ho ani vlastnit, aby ho treba nenapadlo si v tom neco opravit, nebo vylepsit. Proste to neni tvoje, takze hnaty pryc, prachy sem a kdyz se neco posere, tak za to muzes ty, protoze jsi souhlasil s Elaboratem.
Standa
Myslím si, že tento problém je víceméně umělý. Kolik případů reálné aplikace dilematu nastane?
Dopravní nehody jsou zrovna situací, kde stroj je (nebo bude) schopen provést analýzu mnohem přesněji než člověk.
Analýza možných trajektorií, masivity překážek a brzdných drah je řádově jednodušší než implementace algoritmu na klasifikaci osob.
A jako programátor bych se klonil k Paretovu pravidlu: správnou implementací základních pravidel řešení krizových situací vyřeším 80% nehod. Zbylých 20%, které by mohlo vyřešit pětinásobné navýšení komplikovanosti programu, může ve výsledku situaci zhoršit. Například, zpoždění odpovědi centrálního serveru na rozpoznávání obličejů zkrátí dobu na provedení vyhýbacího manévru natolik, že se nezdaří.
bakulou pogulach
keby za to mal byť zodpovedný výrobca, táto dilema by nastávala asi tak sedemkrát za sekundu
keď bude zodpovedný (akože asi bude) vodič, dilemu bude mať on ak ho zažalujú
v ideálnom prípade sa to zašmodrchá aby zodpovednosť nemal nikto – šofér povie „nedalo sa“ v tej rýchlosti, a výrobca je z obliga lebo zákazník podpísal
Standa
A realita ukazuje, že autonomní řízení je schopno odhalit nebezpečné situace dříve než řidič, a předejít jim, dokonce i když se nebezpečná situace týká jiného vozidla.
Zde je ukázka, kdy Tesla predikovala srážku vozidel, a začala brzdit dvě sekundy před tím, než k ní došlo. Řidič tak mohl v klidu zpovzdálí pozorovat létající auta.
Vzhledem k tomu, jak hloupě se dotyčný choval po nehodě, je vysoká pravděpodobnost, že by to sám nedal. (Namísto okamžitého zajetí do odstavného pruhu, postavení výstražného trojúhelníku a opuštění stojícího vozidla zůstane v levém pruhu, a přikazuje spolucestujícím, aby zůstali v autě.)
masiton
Auto predikovalo prd. Systém se aktivoval, když vozidlo vpředu vyjelo ze zákrytu a bylo možné dopočítat, že rychlost auta za ním už nedovoluje bezpečně zabrzdit. Dobrý řidič by měl skončit se stejným výsledkem.
Brundibal
Auto „nepredikovalo prd“. Auto predikovalo srážku, tak, jak píše Standa, a ostatně i vy ve zbytku vlastní věty. To si nevidíte do huby?
Anebo je tu nějaké nedorozumění ve významu slova „predikovat“?
bakulou pogulach
len počkajte keď vám bruselokoti z policajného euroštátu nariadia vysielať váš risk profil do okolia aby ostatní mohli „predikovať“ čo za kikoťinu môžete urobiť
Lojza
Video nutno pustit se zvukem. Kdyz jsem si to pustil bez zvuku, take mi na tom neprislo nic zazracneho, ale se zvukem je to jasne – ozve se jakasi zvukova vystraha skutecne tak sekundu pred tim, nez se ty auta srazej. Docela dobra prace, rekl bych.
O několik aut vpředu to zabrzdilo, na což dotyčnej nereagoval a sundal toho před sebou. Že to tam stojí, na to stačej voči. Nedělalo to nic jinýho než varování, že to tam stojí. Žádná zázračná predikce ničeho, indikovalo to tam tu v tem moment už stojící kolonu o pár aut vpředu. Je fakt k smíchu jak se necháte ukolejbat pohádkama…
Lojza
At to delalo cokoliv, delalo to spravne.
Znovu opakuji – dobra prace.
A samozrejme to tu mame teprve nekde na zacatku – postupem casu se tyhle systemy budou jeste dramaticky zlepsovat. Ostatne, jeden z hlavnich problemu drivejska, totiz nedostatecny vypocetni vykon, jiz dneska myslim problem neni, vse ostatni je jen otazka vyvoje.
Nerikam, jestli si to chci koupit ci ne – jen konstatuji, jak to je.
Odborné diskuse kolem videa vysvětlují, že zvukovou výstrahu spustil radar, který nejspíš detekoval prudké brždění ob jedno auto, možná i kolizní kurs auta před ním.
Nehádám se o tom, že dobrý řidič by to zvládl také. Jenže ten před ním jednoucí to evidentně nezvládl, ač to měl před sebou napřímo. A když už byla srážka nevyhnutelná, udělal další chybu, když se na poslední chvíli pokoušel auto podjet. Tím šel do mnohem nebezpečnější srážky rohy vozidel.
Dachsmeister
Tak ono pres to SUV nebylo moc videt, ale nedodrzel bezpecnou vzdalenost, pozdni reakce a podvedome se zkusil vyhnout, misto aby zaslapl brzdy na max a oprel se o tu kravu pred sebou. Kdyby byl vlevo kamion tak by ho rozsmelcoval na cimprcampr.
Lidi neradi bouraj a rychle rozhodnuti mezi dvema zly od nich necekejte.
I o tom je ten clanek mimochodem.
Reakce Tesly O.K.
Dachsmeister
Vpravo kamion.
A jak malo staci malemu hatchbacku k rolloveru 2t SUV…
Lojza
Jj, snaha nenabourat s tim, ze se nakonec stane neco mnohem horsiho… Osobni zkusenosti s tim ma napriklad bracha, kdy proti nemu jelo auto, za nim se ritilo dalsi, prvni zacal brzdit do krizovatky, za nim to nedobrzdil a misto, aby to teda zlehka tuknul do toho pred sebou, tak to strhnul do protismeru, kde jel bracha – celni srazka, auta v pici, manzelka potrat a podobne legrace :-((
salenyvychodnar
nejak ma to neprekvapuje, to ze to meria parametre vozidla pred alebo 2 vozidla pred je uz len otazka nastavenia sledovania… co ma ale prekvapuje je reakcia vodicou v pravom pruhu, ako sa pekne naskladali mimo pruh.
Vim ze dfense sam komentare necte, ale stejne by me zajimal priklad kdy legislativa predchazela jakykoliv vyznamejsi objev nebo projekt. jak sam dfense pise, tak napriklad silnicni pravidla byla zavedena az dlouho po tom co se auta stala celkem beznou soucasti vetsich mest. a fakt me nenapada zadny priklad toho, kdy tomu bylo naopak.
ocs
Napadá mne jako vhodný příklad třeba zhovadilá legislativa stran DPH, vedoucí k objevu a mnoha projektům tzv. karuselových obchodů; ale to asi neprohlásíte za „významnější“ (já upřímně řečeno také ne :))
jam
:-D ikdyz se odprostim od toho ze to bylo mysleno zertem, tak objev karuselovych obchodu byl dusledek legislativy, stale to nebylo tak, ze by se sesla odborna verejnos a rekla si, tak ted mame na obzoru karuselove obchody, jak se na to legislativne pripravime aby meli co nejlepsi efektivitu?
Pan Krampus
D-fens dle dostupných informací žije v městě „kde by chtěl žít každý“ je to město s vysokou koncentrací buranů, zmrdů a všerůzných postaviček. Popravdě se vůbec nedivím, že mu občas hrábne a vychválí něco, proti čemu sám bojuje. Za mě bojuje proti zmrdům tak dlouho, až se sám nakazil a zmrdem se stává. Věřím, že se D-fens ze svého omylu poučí a zas bude důsledně liberální stejně jako dříve.
K trolley dilemma je potřeba přidat ještě jeden pohled – zákona, tedy toho trestního. Pokud se rozhodnete jednat, pak si s největší pravděpodobností půjdete sednout a rodina zemřelého nešťastníka Vás stáhne z kůže. Pod tíhou všech okolností si troufám tvrdit, že 99,9% lidí raději neudělá nic.
Tak mě napadá – byl by v konečném důsledku nějaký zásadní rozdíl mezi situací, kdy auto s autonomním řízením prostě jede a před chodcem mimo přechod nezastaví, a situací před zavedením přednosti chodců, což jsme se ještě za Husáka učili v dopravní výchově ve škole, že před přechodem se máme pozorně rozhlédnout, jestli nejede auto a pak teprve vstoupit do vozovky?
Ona ta nedoknutelnost chodců je fajn, ale na druhou stranu už nenutí chodce vnímat okolí, takže typicky naběhne do silnice rozjařená školní mládež nebo pitomec se sluchátky (případně + s černými brýlemi a s kapucí na hlavě), protože maj přeci přednost.
Navíc dalším logickým krokem by byla nějaká komunikace mezi signalizačním zařízením na přechodu a řídící jednotkou auta.
Již popsáno: http://ctvrtykral.cz/?p=57
vcelku podobně.
Téma zodpovědnosti automatu za lidské životy překračuje naši dobu. Na světě možná není nikdo, kdo by dokázal definovat pravidla (manifest, nebo snad legislativu) toho jak se má autoauto zachovat. Jestli je přednější negr, nebo bílá holčička apod.
Viděl bych to podobně jako v civilním letectví. Dnes je bezpečnost na poměrně vysoké úrovni a dá se říct, že na 99,9999…% doletíte do cíle v pořádku, ale stálo to prakticky 100 let vývoje a tisíce mrtvých. Stejně to bude asi i u autoaut. Budou nehody, budou mrtví a výrobci je budou analyzovat a každá další generace automatů se poučí z chyb té předchozí až třeba po 100, 200 letech bude autoauto povážováno za stejně bezpečné jako letadlo a v ruku v ruce s tím půjdou normy, legislativa i společenské povědomí.
Náš problém je, že žijeme zrovna v době zrodu této technologie, kdy je ještě nespolehlivá a na rozdíl od letadel před těmi 100 lety se nás dotýká poněkud více (nějakou tu teslu budeme potkávat stále častěji). Řešení neexistuje – buď nebudete vycházet z domu/bytu, nebo musíte příjmout určité riziko, že zrovna Vás autoauto vyhodnotí jako méněcenného a přejede. To čeho jsme svědky je pokrok a ten se nezastaví před ničím.
Zadny vyrobce si zodpovednost toho kramu za zivot lidi nevezme na triko. Nikdy. Bude to jako s Windows – az se ukaze, ze je to kram a lidem to pusobi skody, tak se napise padesatistrankovy Elaborat o tom, ze uzivatel souhlasi s tim, ze to kram je a hlavne – uzivatel bude mit kram jen pronajaty, nebude ho ani vlastnit, aby ho treba nenapadlo si v tom neco opravit, nebo vylepsit. Proste to neni tvoje, takze hnaty pryc, prachy sem a kdyz se neco posere, tak za to muzes ty, protoze jsi souhlasil s Elaboratem.
Myslím si, že tento problém je víceméně umělý. Kolik případů reálné aplikace dilematu nastane?
Dopravní nehody jsou zrovna situací, kde stroj je (nebo bude) schopen provést analýzu mnohem přesněji než člověk.
Analýza možných trajektorií, masivity překážek a brzdných drah je řádově jednodušší než implementace algoritmu na klasifikaci osob.
A jako programátor bych se klonil k Paretovu pravidlu: správnou implementací základních pravidel řešení krizových situací vyřeším 80% nehod. Zbylých 20%, které by mohlo vyřešit pětinásobné navýšení komplikovanosti programu, může ve výsledku situaci zhoršit. Například, zpoždění odpovědi centrálního serveru na rozpoznávání obličejů zkrátí dobu na provedení vyhýbacího manévru natolik, že se nezdaří.
keby za to mal byť zodpovedný výrobca, táto dilema by nastávala asi tak sedemkrát za sekundu
keď bude zodpovedný (akože asi bude) vodič, dilemu bude mať on ak ho zažalujú
v ideálnom prípade sa to zašmodrchá aby zodpovednosť nemal nikto – šofér povie „nedalo sa“ v tej rýchlosti, a výrobca je z obliga lebo zákazník podpísal
A realita ukazuje, že autonomní řízení je schopno odhalit nebezpečné situace dříve než řidič, a předejít jim, dokonce i když se nebezpečná situace týká jiného vozidla.
Zde je ukázka, kdy Tesla predikovala srážku vozidel, a začala brzdit dvě sekundy před tím, než k ní došlo. Řidič tak mohl v klidu zpovzdálí pozorovat létající auta.
https://www.youtube.com/watch?v=D4xt2smoUso
Vzhledem k tomu, jak hloupě se dotyčný choval po nehodě, je vysoká pravděpodobnost, že by to sám nedal. (Namísto okamžitého zajetí do odstavného pruhu, postavení výstražného trojúhelníku a opuštění stojícího vozidla zůstane v levém pruhu, a přikazuje spolucestujícím, aby zůstali v autě.)
Auto predikovalo prd. Systém se aktivoval, když vozidlo vpředu vyjelo ze zákrytu a bylo možné dopočítat, že rychlost auta za ním už nedovoluje bezpečně zabrzdit. Dobrý řidič by měl skončit se stejným výsledkem.
Auto „nepredikovalo prd“. Auto predikovalo srážku, tak, jak píše Standa, a ostatně i vy ve zbytku vlastní věty. To si nevidíte do huby?
Anebo je tu nějaké nedorozumění ve významu slova „predikovat“?
len počkajte keď vám bruselokoti z policajného euroštátu nariadia vysielať váš risk profil do okolia aby ostatní mohli „predikovať“ čo za kikoťinu môžete urobiť
Video nutno pustit se zvukem. Kdyz jsem si to pustil bez zvuku, take mi na tom neprislo nic zazracneho, ale se zvukem je to jasne – ozve se jakasi zvukova vystraha skutecne tak sekundu pred tim, nez se ty auta srazej. Docela dobra prace, rekl bych.
O několik aut vpředu to zabrzdilo, na což dotyčnej nereagoval a sundal toho před sebou. Že to tam stojí, na to stačej voči. Nedělalo to nic jinýho než varování, že to tam stojí. Žádná zázračná predikce ničeho, indikovalo to tam tu v tem moment už stojící kolonu o pár aut vpředu. Je fakt k smíchu jak se necháte ukolejbat pohádkama…
At to delalo cokoliv, delalo to spravne.
Znovu opakuji – dobra prace.
A samozrejme to tu mame teprve nekde na zacatku – postupem casu se tyhle systemy budou jeste dramaticky zlepsovat. Ostatne, jeden z hlavnich problemu drivejska, totiz nedostatecny vypocetni vykon, jiz dneska myslim problem neni, vse ostatni je jen otazka vyvoje.
Nerikam, jestli si to chci koupit ci ne – jen konstatuji, jak to je.
Jó, jasné jasné…
Odborné diskuse kolem videa vysvětlují, že zvukovou výstrahu spustil radar, který nejspíš detekoval prudké brždění ob jedno auto, možná i kolizní kurs auta před ním.
Nehádám se o tom, že dobrý řidič by to zvládl také. Jenže ten před ním jednoucí to evidentně nezvládl, ač to měl před sebou napřímo. A když už byla srážka nevyhnutelná, udělal další chybu, když se na poslední chvíli pokoušel auto podjet. Tím šel do mnohem nebezpečnější srážky rohy vozidel.
Tak ono pres to SUV nebylo moc videt, ale nedodrzel bezpecnou vzdalenost, pozdni reakce a podvedome se zkusil vyhnout, misto aby zaslapl brzdy na max a oprel se o tu kravu pred sebou. Kdyby byl vlevo kamion tak by ho rozsmelcoval na cimprcampr.
Lidi neradi bouraj a rychle rozhodnuti mezi dvema zly od nich necekejte.
I o tom je ten clanek mimochodem.
Reakce Tesly O.K.
Vpravo kamion.
A jak malo staci malemu hatchbacku k rolloveru 2t SUV…
Jj, snaha nenabourat s tim, ze se nakonec stane neco mnohem horsiho… Osobni zkusenosti s tim ma napriklad bracha, kdy proti nemu jelo auto, za nim se ritilo dalsi, prvni zacal brzdit do krizovatky, za nim to nedobrzdil a misto, aby to teda zlehka tuknul do toho pred sebou, tak to strhnul do protismeru, kde jel bracha – celni srazka, auta v pici, manzelka potrat a podobne legrace :-((
nejak ma to neprekvapuje, to ze to meria parametre vozidla pred alebo 2 vozidla pred je uz len otazka nastavenia sledovania… co ma ale prekvapuje je reakcia vodicou v pravom pruhu, ako sa pekne naskladali mimo pruh.
Jeden se tam složil čirou náhodou. Asi jako tato Lada: https://youtu.be/kEo30KvNejk
Vim ze dfense sam komentare necte, ale stejne by me zajimal priklad kdy legislativa predchazela jakykoliv vyznamejsi objev nebo projekt. jak sam dfense pise, tak napriklad silnicni pravidla byla zavedena az dlouho po tom co se auta stala celkem beznou soucasti vetsich mest. a fakt me nenapada zadny priklad toho, kdy tomu bylo naopak.
Napadá mne jako vhodný příklad třeba zhovadilá legislativa stran DPH, vedoucí k objevu a mnoha projektům tzv. karuselových obchodů; ale to asi neprohlásíte za „významnější“ (já upřímně řečeno také ne :))
:-D ikdyz se odprostim od toho ze to bylo mysleno zertem, tak objev karuselovych obchodu byl dusledek legislativy, stale to nebylo tak, ze by se sesla odborna verejnos a rekla si, tak ted mame na obzoru karuselove obchody, jak se na to legislativne pripravime aby meli co nejlepsi efektivitu?
D-fens dle dostupných informací žije v městě „kde by chtěl žít každý“ je to město s vysokou koncentrací buranů, zmrdů a všerůzných postaviček. Popravdě se vůbec nedivím, že mu občas hrábne a vychválí něco, proti čemu sám bojuje. Za mě bojuje proti zmrdům tak dlouho, až se sám nakazil a zmrdem se stává. Věřím, že se D-fens ze svého omylu poučí a zas bude důsledně liberální stejně jako dříve.
nepouci…