No, on ten boj mezi systémem pravidel a hlubokém učení má jeden podstatný zádrhel: u systému pravidel v zásadě lze říct, proč to udělalo co to udělalo, ale do „hlubokého učení a neurální sítě“ nikdo nevidí. Prostě při analýze nehody sice víte co to udělalo, ale nikdo nedokáže říct proč se to rozhodlo jak se to rozhodlo.
jak
Karkulka: To je hrubá nepravda, jednak se dá do auta zabudovat černá skříňka se záznamem poslední půlhodiny provozu a hlavně zatím všechny AI co máme jsou na bázi standardních počítačových programů, je tedy možné opětovně simulovat a analyzovat jejich chování v laboratoři.
PanPredseda
Obávám se, že v případě neustále se učící neuronové sítě nemáte pravdu Vy. V „černé skříňce“ sice budete mít uloženy hodnoty vah jednotlivých neuronů v době nehody, možná z toho přijdete na to, která hodnota či spíše kombinace hodnot byla příčinou nehody, ale pokud nebudete ukládat každou změnu hodnot vah + její příčinu či dokonce všechna vstupní data ze senzorů (což bude opravdu velké množství dat), nepřijdete na to, co vedlo ke změnám hodnot vah, které v dané okamžiky byly správné, ale ve výsledku vedly k právě té kombinaci, která zapříčinila nehodu.
Sysop
Musely by se archivovat veskere udalosti vedouci ke zmene vah. Podle mne neresitelne, protoze sit reaguje na sebemensi podnet a ve finale muze bejt blby rozhodnuti jen proto, ze nejaka vaha konecne o 0,000hovno0001 prekrocila nejakou hranicni mez a vystup se preklopil. Tedy zadna udalost, ktera by zasadne vycnivala nad ostatni.
Je to, jako chtit zjistit, proc je BFU blbej, kdyz je mu 30, ze ZS davno pryc a on zase na zimu nema zradlo pro ovce.
PanPredseda
Souhlasím.
Žrádlo pro ovce mi snad na zimu vyjde…
JASAN
Souhlas taky, kozy sice žerou slámu. Ale letos si opravdu nemůžou moc vyskakovat.
Karkulka
V čem je to nepravda? Černou skříňku samozřejmě mít můžete, byť půl hodiny nekompresovaných dat z tuším osmi kamer, to bude asi docela raketa. Zpětně simulovat to samozřejmě taky můžete. Jenže… viděl jste třeba Flight s Denzelem Washingtonem, nebo Sully: zázrak na řece Hudson? To je přesně ono: máte informace o tom co se stalo, můžete to nasimulovat – ale stejně se těch lidí ptají PROČ udělali co udělali. A o tom to je: vy to můžete zpětně nasimulovat, ale dostanete jen výsledek, nikoli informace o tom proč se to rozhodlo jak se to rozhodlo. Řečeno jinak: vidíte že to srazilo tu bábu s kolem co nesla koberec, ale už se nedozvíte, že ta neurální síť tu bábu vyhodnotila jako tučňáka, a raději srazila tučňáka než aby to narvala do sloupu.
jak
Karkulka: To se právě dozvíme, všechny AI které dneska máme jsou tvořeny technologií, která umožňuje rekonstrukci a zpětnou simulaci. Ostatně znalostní báze současné AI na základě které provádí rozhodnutí není nějaké abstraktní fluidum, ale standardní data v RAM s kopií někde na SSD.
JASAN
Já jsem tedy velký laik ale přijde mi, že kdyby se měly vzorkovat všechny proměnné s frekvencí výpočetního cyklu, že by taková reálná paměť asi hodně rychle došla.
jak
JASAN: To by došla ale nepotřebujeme vše. Informace vedoucí k tomu proč byla bába rozpoznána jako tučnák zpětně získat lze.
JASAN
No mě takový proces samoučení připadá jako hodně nelineární systém a u takových by sice zpětně bylo možné popsat zpětně vnější chování ale řekl bych že s opakovatelností už by to nebylo tak slavné. Protože prostě při dírách v datech byste narazil na to že nemáte kompletní soubor počátečních podmínek.
jak
JASAN: Proces samoučení AI, pokud je u automobilu vůbec povolen, to nevím, je běh na dlouhou trať, se jedná o stovky a tisíce situací. Jeden kontakt s bábou nemá velký vliv.
Shi
Mé znalosti jsou sice zastaralé, ale u neuronových sítí bývaly a nejspíš stále ještě jsou dva problémy:
1) Neuronová síť vám poskytne výsledek, ale nedozvíte se proč je výsledek takový jaký je – nedostanete zdůvodnění, pouze výsledek. Tedy dostanete odpověď na otázku „co to je“ – s poměrně vysokou pravděpodobností je to tučňák, ale jako zdůvodnění – proč je to tučňák, dostanete hromadu číslel „vektorů/matic“ a přeberte si tuto hromadu čísel jak uznáte za vhodné.
2) Neuronová síť se může přeučit, tedy průběžné učení nemusí být příliš žádoucí.
Mám celkem solidní pochyby, že je vůbec možné systém, který spoléhá na něco tak nedeterministického jako je neuronová síť, certifikovat podle ISO 26262 a pustit to do provozu.
Sysop
Tak nejak si to pamatuju taky. Zeby dnes byl jiny princip modelovani…? Mluvil jsem s klukem, nekdy pred 10 lety, delal neuronovky do pracek (optimalizace vody/prasku/otacek/blabla…), tusim se tomu rikalo ‚fuzzy logic‘, nebo tak nejak. A zjistil jsem, ze pouzivaji uplne ty stejne modely, jako ja patnact let pred nim. Porad stejny system, porad stejne problemy. Pro laika to je jako kdyz se na sampon napise „light“. Proste je to tam napsany, tak je to „in“ a je to uzasny. Prece nekecaj.
Shi
Fuzzy logika je něco úplně jiného, než neuronové sítě a osobně fuzzy nepovažuji za umělou inteligenci. Fuzzy logika je 100% deterministické řešení, není v tom učení se, je v tom pouze nastavení funkcí příslušnosti „dle názoru expertů“.
Umělá inteligence má hromadu zajímavých metod, neuronové sítě jsou jen jedna z mnoha.
Já si ze školy odnesl poznatek, že když člověk nevím co s tím, tak že se dá zkusit nasadit neuronovka a třeba to dopadne dobře. Ale také naopak, že když je někde použita neuronovka, tak autoři nevěděli jak problém uchopit (například neuměli udělat solidní model) a zkusili na to jít hrubou výpočetní silou přes neuronovku.
Sysop
Ja jsem utrpel vzdelani mimo jine v automatizaci, tam byla modla vseho PID regulator a protoze i u nej se fura veci po velmi dlouhych a slozitych vypoctech nakonec nastavila hrubym odhadem, tak neuronove site se pouzivaly i na nastaveni PID. A bylo to jako obvykle… vetisnou to frcelo par excellence, ale kdyz se to vysralo, tak naprosto totalne, zcela nelogicky a nejlepe u regulatoru, ktery by jinak sel nastavit tremi potencemetry od oka.
MS
To stale funguje, v modernych dobach pride clovek s 25 Siemens certifikatmi a cerstvo nafasovanym notebookom so Siemens Total Integration Automation. Nasledne necha osem hodin bezat Autotune a vobec mu nepride divne nechat piect tri 595 kW plynove horaky, lebo software ladi prekmit poslednych dvoch stotin stupna.
Vacsinou na druhy den si necha povedat, ze to skusime trafit od oka a poznamka operatorov „+/- 3 stupne su super“ znamena, ze stotinky fakt nenahaname.
Ale na fakulte a skoleni sa takyto postup neuznava, no.
Sysop
Nejezdi nahodou tito ‚odbornici pres kotle‘ s notebooky ze Siemense z Brna Olomoucke? Je mi to totiz silne povedome…
jak
Shi: Co to plácáte za nesmysly? Všechny dnešní umělé neuronové sítě jsou polopaticky program v počítači nebo v podobném výpočetním hardware a jeho činnost je deterministická, tak jako u všech jiných počítačových programů. Polopaticky jde analyzovat proč došlo ke konkrétnímu úsudku a ne že ne.
Sysop
Re: jak
23.11.2018 v 8:07
Mylis se.
jak
Sysop: A něco jako důkaz by nebylo? Nebo už jsme na tom jako lidstvo tak špatně, že se nám vymyká software z pod kontroly a už ani nedokážeme sledovat co vlastně dělá? To snad ne :-)
Sysop
Re: jak
23.11.2018 v 8:13
Ale my umime sledovat, co ta sit dela. Naprosto bez problemu. Jen nevime, co zpusobilo toto nastaveni. Je to jako:
– predlozim pred sit obrazek duchodce, ktery chce prejit silnici
– sit odpovi „to je poulicni reklama“
– dotaz: proc je to poulicni reklama?
– sit: protoze to odpovida na 76 %.
– dotaz: na zaklade CEHO jsi takto rozhodla?
– sit: ??
A co ted? Kdyz se podivas na matice rozhodovacich vah, tak jsou to jen hordy cisel. Zadny algoritmus. Co presne tam jako chces najit?
Muzes to simulovat, muzes siti rict, ze 76 % nestaci, muzes ji predlozit obrazky poulicnich reklam, aby se „doucila“, coz zpusobi zmenu te hromady cisel. Vsechno dobry, ale ty se ptas PROC. Tak to v tech cislech hledej, smudlo.
jak
Sysop: Nepřekvapivě tam nebudeš hledat dvoudimenzionální plochu pixelů, ale výsledek celého algoritmu AI po zpracování obrazu a správně jsi uvedl jako „hordu čísel“, tedy nebudeš hledat bitmapu, ale posuzovat míru shody „hordy čísel“ s novou „hordou čísel“ generovanou novým vstupem. Horda čísel nespadla z nebes, ale v případě AI pro automobily byla z velké části vygenerována v laboratoři, tudíž proces tvorby je deterministický.
Sysop
Re: jak
23.11.2018 v 9:07
Vypada to, ze jsi s neuronovou siti nikdy nedelal. Ty nejprve reknes, ze chces vedet PROC nejaky vstup vede k nejakemu vystupu a pak zase, ze chces posuzovat nejakou miru shody a jinou hordou cisel. Toto, v pripade neuronove site, nejsou synonyma.
Proces inicializace samozreme deterministicky je. Ale v okamziku, kdy tu sit nechas ucit ze zpetnou vazbou a bude treba brat obrazy z kamery jedouciho auta a na kazdy dotaz site „co je toto“ ty odpovis bud „prechazejici clovek/zvire/etc.“ a nebo „sloup/reklama/tancici debil“, tak se ty vahy budou menit a menit… a menit…. a menit… takze tam uz je pak tezke hovorit o nejakem determinismu, pokud nehodlas archivovat ty hromady a hromady obrazu, ktere vedly ke konecnemu nastaveni site.
A o tom cela ta debata je. Predstavujes si to moc jednoduse. Sit sama o sobe je velmi jednoducha vec. Ale prave ta data v maticich jsou jeji know-how a vzlhedem k tomu, ze u ucici site se dynamicky meni, tak tezko zjistis pricinu, proc zrovna tahle pani byla siti povazovana za reklamu. Najit tu pricinu je prakticky nemozne. Ty vis, ze to zpusobily vahy, ty vis, ze to zpusobil proces uceni, ale pokud nemas celou historii uceni, pak to proste nedohledas. To neni, jako se hrabat v nejakem algoritmu.
Neco podobneho nastava treba u mechanickych stroju, kdyz se poserou. Pokud se nenajde konkretni pricina „proc ta hridel praskla zrovna ted, kurva“, tak se to svede na unavu materialu. Sit se neunavi, takze tam to proste takhle snadne neni.
jak
Sysop: To si rozumíme, nedají se zpětně rekonstruovat původní data na základě kterých došlo k naučení se konkrétní příčiny, tedy nedokážeme zpětně určit vstupní data která vedla ke konkrétnímu rozhodnutí, to s vámi souhlasím.
První obrázek je struktura jednoduché sítě, druhý obrázek je struktura jednoho neuronu a tam si všimněte, jak do neuronu máte hromadu vstupů a hromadu vah. A tyto neurony jsou navzájem propojeny. Učení sítě spočívá v tom, že celkem primitivním učícím se algoritmem nastavujete (poměrně bezmyšlenkovitě) tyto váhy. Takže odpověď na otázku proč síť nějak rozhodla je skryta v sadě vektorů vah pro jednotlivé neurony. Proč je sestava vah zrovna taková jaká z učícího se procesu vypadla, to ví bůh.
Sysop
Jeste tam chybi feedback, aby to bylo jeste slozitejsi. Cili ono „samouceni“. To uz pak se v tech cislech ani prase nevyzna, protoze jen vidime vysledek. Dokud to tam busi nejaka cvicena opice v bilem plasti, tak je to dobry, to jde jeste archivovat a treba udelat i step back, pokud z toho lezou picoviny.
Kdyz si ale sit nastavuje vahy sama, pak zalezi na algoritmu, ktery k tomu nekdo naprogramuje, jak rychle tam ten kyzeny maglajs na vahach nastane. A mozna ani Buh nevi, proc tam pak nejaka konkretni cisla jsou.
jak
Shi: Vaše laické vývody nejsou směroplatné. Umělou AI implementovanou jako program v počítači lze zkoumat do posledního bitu.
PanPredseda
jak:
Ano, lze prozkoumat jaké váhy jsou v daný moment u neuronů v síti. Ale právě u neuronové sítě nejste bez naprosto shodné množiny dat, na kterých se ona síť učila dospět ze sítě čisté, znalostmi neposkvrněné k síti shodně naučené. A jak tu psal Sysop: zjišťovat, na kterém prvku z učící množiny dat došlo k jakým změnám vah (které pak třeba někdy v budoucnu vedly v kombinaci k nesprávnému výsledku) je slovy Luboše Lakatoše neřešitelný problém, hoši.
Ale možná je tohle nad Vaše chápání.
jak
PanPredseda: To souhlasí, nedokážeme rekonstruovat původní vstupní data, máme k dispozici jen výsledky algoritmu po zpracování těchto dat uložené do znalostní báze v RAM. Připouštím, že bez znalosti původních vstupních dat nás AI může značně překvapit.
Nicméně v případě AI do auta většinu původních dat máme.
Sysop
Prohlasit neuronovou sit za algoritmus je asi tak stejne, jako prohlasit o Tchien-che 2, ze je to elektricky spotrebic. Samozrejme, ze to je pravda, jen to tak nejak nevystihuje podstatu.
PanPredseda
Ad jak:
Vraťte se prosím k prvnímu příspěvku tohoto vlákna diskuse, který napsal(a) Karkulka a k Vaší reakci na něj. Přečtěte si je znovu a zkuste je pochopit.
Shi
Jasně že AI lze zkoumat do posledního bitu. Dokonce máte pravdu v tom, že neuronová síť je detyerministická, tedy v tom smyslu, že jednou naučená síť, která už se dál neučí, vám na stejné vstupy dá pokaždé identický výsledek.
Jenomže současně platí, že můžete mít dvě neuronové sítě s identickou architekturou, s identickou trénovací množinou a každá se naučí jinak, takže nakonec bude existovat situace, kdy těmto sítím s identickou trénovací množinou předložíte obrázek tučňáka a jedna siť pozná tučňáka a druhá řekne, že to je popelnice.
A na otázku, proč jedna tučnáka poznala a druhá ne, bude existovat odpověd, která bude správná – protože síť, která poznala správně má jinak nastavené váhy, než síť, která nepoznala. Vektory vah pak můžete zkoumat jak dlouho chcete, ale nijak vám to nepomůže v hledání řešení. Tedy vám to nijak nepomůže předejít tomu, aby se příště podobná chyba neopakovala – a jako na potvoru příště s nepatrně jiným snímkem může dojít k situaci, kdy síť, která rozpoznala tučňáka správně udělá chybu, zatímco siť, která na prvbním snímku viděla popelnici by chybu neudělala. Blbýá co ?
Zakopaný pes je v tom, že standardně se na počátku učení váhy nastavují náhodně, takže i se stejnou trénovací množinou je každá nově naučená neuronová síť trochu jiná.
A to jsme do toho ještě nezamontovali samoučení se, protože tam se pak váhy adaptují za provozu, takže výsledek je ovlivněn nejen novými zkušenostmi, ale také šumem dat ze snámíčů a asynchronností číslicových systémů a komunikací. Sice si nakonec z černé skříňky můžete vytáhnotu všechna data, ale pokud je cílem vašeho snažení předejít příští chybné klasifikaci objektu, tak vám tato data, v případě neuronové sítě, moc nepomohou.
Nějak se mi zdá, že zapomínáte, že reálný svět není tvořen z jedniček a nul, subsystémy autonomního řízení nepracují jako synchronní a svět není lineární.
Takže jo, zkoumat si to můžete do posledního bitu, ale k ničemu vám to nebude.
PanPredseda
Ad Shi:
Vidíte, na náhodné nastavení počátečních vah jsem zapomněl a tudíž je nutné brát mé předchozí příspěvky s reservou a přihlédnout k tomuto opomenutí. Ovšem při shodném algoritmu, stavbě sítě, shodných počátečních vahách a shodné učící množině by měli vzniknout identické kopie, ne? Nebo přehlížím ještě něco?
A co se týká jaka, obávám se, že je to marný…
Shi
Jsem opravdu laik, znám jen základní principy, takže nevím, jestli moderní učící se algoritmy nevyužívají nějakou náhodnost i během procesu učení. Algoritmy, které znám já, by za vámi stanovených podmínek skutečně vedly na identicky naučené sítě.
(Jo, je to asi marný.)
trevor12
a je to proste z principu black box nebo v budoucnu (zatim to neumime) pujde navrhnout neuronovou sit a deep learning tak aby slo delat analyzy, upravovat, ladit atd .. ? proste v procesu uceni nejake kotvy (kontrolni body) od kterych se lze odrazit nebo uplne jinak … nebo je to proste neco na principu predpovedi pocasi (deterministicky chaos) nebo je v navrhu inherentne prvek nahody apod. ktery nasledne znemoznuje tu analyzu ? Ja tam nevidim zadne turbulence, nahodne fluktuace, nekonecna apod. .. tak mi to pripada deterministicke
Shi
Jakmile složitost struktury (počet vrstev, počet neuronů, počet vazeb) překročí nějakou rozumnou mez, která je navíc hodně nízká, tak vám nezbude než považovat to za black box, protože množství vzájemných vazeb je neuchopitelně vysoké. Víc já nevím.
fatdwi
Shi: dle mého nemáte pravdu s tou deterministickou neuronovou sítí. Z podstaty věci není deterministická a současně ani být nemůže, stejně jako nic, co máte na CPU. Abyste dosáhl skutečně deterministického chování, musíte mít něco, co se chová stále stejně, tedy zpracovává instrukce ve stále stejné posloupnosti. Na to máte hradlová pole, ale rozhodně ne CPU a neuronová síť je něco jako halda CPU, takže ani v případě identických vstupů nemusí dát stejný výsledek, protože se může lišit postup jejich zpracování.
Jedním z hlavních bojů v rámci autonomního řízení je právě nereálný požadavek na deterministické chování (vidím dítě –> zastavím) kombinovaný s dalším nereálným požadavkem na co největší abstrakci (poznám, že jde o dítě, ať vypadá jakkoliv). Když se k tomu přidá nedokonalost vstupů (rozlišení kamer, jejich počet, směr atd.), je to boj předem prohraný. To ví každý, kdo se tomu věnuje. Nicméně protože v tom lítají obrovské peníze a většina jich patří lidem, kteří se tomu nevěnují a tedy neví, mrtvá kobyla bude ještě nějakou dobu úspěšně běhat. Všechna reálná řešení zahrnují nějakou formu omezení všech ostatních (nestrojových) účastníků provozu (zákazem vstup počínaje a nastřelováním čipů konče).
Nicméně s Vámi souhlasím pokud jde o hodnocení možností zjištění na otázku „proč“. Zní to možně, ale možné to není. Lze akorát zodpovědět otázku „co“ (to způsobilo). A to na prevenci jak píšete nestačí.
Shi
To už je akademický spor o to co ještě je a co už není determinismus. Jedna věc je exaktní matematický pohled a druhá je realistický inženýrský pohled.
Televize s dálkovým ovládáním se chová deterministicky – po zmáčknutí tlačítka se přepne kanál, uživatel je spokojen a z jeho pohledu se to chová pokaždé stejně, účel byl splněn. Synchornní „stroj“ televize určitě není – máte v cestě minimálně dva zcela asynchronně bežící procesory s bůh ví jak uplácanými aplikacemi a mezi nimi neskutečně primitivní asynchronní komunikační kanál… A přesto je to ve výsledku dostatečně deterministické na to, aby v tom nikdo neviděl problém.
fatdwi
Shi: pokud vidíte determinismus takhle, tak to není dál co řešit.
Shi
Můj pohled je realistický, váš pohled je matematicko-utopický. Z podstaty toho, jak funguje vesmír, dokonale deterministické není nic, ani to vaše synchrionně běžící hradlové pole. Jako na potvoru totiž oscilátor, který generuje hodiny pro vaše hradlové pole, nekmitá na konstatní frekvenci.
Takže ve výsledku nakonec jde jen o to, jestli je z makropohledu poznat rozdíl, respektive jestli lze uživateli něco garantovat.
trevor12
kdyby byl CPU tak nedeterministicky, nemohl by fungovat ani bezny software. determinismus neni v mikrosvete (kvantova fyzika, fotony atd..), ale v makrosvete se z hlediska bezneho fungovani cloveka vetsina deju deje deterministicky (zrejme ten soucet pravdepodobnostne-statistickych dilcich udaju z mikrosveta je pomerne staly).
PanPredseda
Proč se následovník 486-ky jmenuje Pentium a ne 586?
Odpověď : Protože když mu při závěrečných testech dali vypočítat příklad “Kolik je 486 + 100,” okamžitě blikla odpověď: 585.9952.
fatdwi
trevor12: nechápete ani základy toho, jak CPU funguje, zkuste si to dostudovat. Stačí wiki a procesor vs. hradlové pole. Když si pak zkusíte představit, jak by se choval Váš notebook kdyby mu tam místo CPU běželo hradlové pole (teď neřeším technické problémy), pochopíte, proč je CPU nedeterministické.
fatdwi
Shi: nikoliv, můj pohled je, chcete-li, aplikační. Potřebujete-li striktně deterministický systém, pak hradlové pole je to, u čeho skončíte. Nevím, co přesně myslíte tím, že oscilátor nekmitá na konstantní frekvenci – pokud pole funguje, pak právě na konstantní frekvenci. Její změna „za pochodu“ vlivem poruchy je konec fungování rozjetého programu. Jinak řečeno, program počítá s určitou frekvencí a deterministicky funguje na ní.
Z makropohledu jistě, ale když se bavíme o zjišťování příčiny určité reakce systému, tak se snad bavíme o něčem jiném (tedy já ano, možná proto si nerozumíme – z makropohledu, tedy z pohledu uživatele takového systému je úplně fuk, co se děje, pokud auto nebourá, ale to je z pohledu troubleshootingu pohled nesmyslný).
PanPredseda
Ad fatdwi:
Oscilátor nekmitá na zcela přesně konstantní frekvenci. Jinak by nemělo smysl udávat stabilitu oscilátoru (u krystalových, pamatuji-li si to dobře, je to v řádu desítek ppm).
Sysop
Re: PanPredseda
23.11.2018 v 17:43
Odchylka v ppm muze byt i u idealniho a zcela stabilniho oscilatoru, ktery jen holt bude mit konstantni frekvencni odchylku. Ostatne to, hned za odchylkou diky teplote, je nejcastejsi problem krystalovych oscilatoru. Celkem bezne to na 10 megahrncovym profesoru udela i jednotky sekund za pul hodiny. A pritom ta odchylka muze byt stale stejna, pokud drzime stejnou teplotu.
Shi
fatdwi: Ale vůbec ne, v oblasti průmyslového řízení a systémů pracujících v reálném čase je definováno něco jako time-utility function, která vyjadřuje požadavky řízeného systému na schopnost řídicího systému pracovat v reálném čase, aby se dal garantovat determinismus řídicího systému. Absolutní determinismus vašeho pojetí je teoreticky možný, prakticky pro většinu aplikací zbytečný a použití hradláčů pro systémy, které nesmí selhat, pak přináší další problémy a proto se také hradláče pro tyto systémy zatím moc neprosadily.
Navíc se pak podívejte jak to mají vyřešené programovatelné automaty, aby byl zajištěn determinismus – pracují s konstatním cyklem a světe div se, uvnitř většiny z nich je nějaké CPU, nikoliv hradláč.
No a jak je to s těmi oscilátory vám již napal PanPredseda – oscilátory permanentně někam ujíždí a to ještě dost nepříjemným způsobem, takže pokud potřebujete systém, kde jsou hodiny dlouhodobě hodně stabilní, tak se dělají dost šílené kejkle a teplotní stabilizace je jen začátek.
fatdwi
Shi: však tam taky ten determinismus z uživatelského pohledu stačí.
Otázkou je, co Vy vidíte jako „systémy, které nesmí selhat“. A samozřejmě, hradlová pole mají svá omezení. Nicméně to neřeším – původně jsem reagoval na to, že jste tvrdil, že neuronová síť je deterministická.
Shi
Neuronová síť, pokud je naučená a dál se neučí, deterministická je – na stejné vstupy vám dá stejné výstupy, navíc mě nenapadá důvod, proč by to provedení celkem jednoduchého výpočtu mělo pokaždé trvat jinak dlouho, aby to mohlo způsobovat nedeterminičnost v časové doméně – ve výsledku je to jen pouhé pronásobení a sečtení několika vektorů …
A systémy, které nesmí selhat, jsou systémy, kde se musí splnit nějaká safety norma (např. IEC 61508, ISO 26262, …) a splnění normy nelze dosáhnout bez redundance. Jako extrém si představte třeba fly-by- wire v dopravním letadle.
PanPredseda
Ad fatdwi 23.11.2018 v 10:46
A o jakých CPU se vlastně bavíme? O Intelu 8080, 386, Pentiu, Pentiu MMX, nějakém Atmelu či PICu? :-/
fatdwi
PanPredseda: primárně Intel x86 (aktuální Xeony).
Shi
Jo procesory, kde instrukce už nejsou zadrátovány, ale jsou interpretovány v závislosti na verzi mikrokódu a to ještě tak zběsile, že ani výrobce nakonec sám netuší, co přesně mu ten mu krám vlastně asi tak dělá (Spectre, Meltdown, …) …
Škoda že se nám líp neuchytila Transmeta, to mohla být prdel, trololol.
PanPredseda
Ad fatdwi 23.11.2018 v 22:13
Řada Intel x86 ale v širší definici začíná od procesoru 8086, v užší definici (je vyžadován 32 bitový procesor) od 386.
Ty starší procesory se pak podle mého skromného názoru chovají deterministicky.
Nedeterministické chování se může projevovat u vícejádra či Hyper-Threadingu, nepletu-li se.
PanPredseda
Oprostěme se od automobilu-samochodu a uvažujme jen a pouze algoritmus používající neuronovou síť, který má na digitalisovaných fotografiích odlišit tučňáky od babek s kolem. Jednu kopii neuronové sítě budete učit na milionu fotek, druhou na stovce fotek (ekvivalent Vaší černé skříňky na půl hodiny záznamu). Chcete mi tvrdit, že poté budou tyto dvě neuronové sítě poskytovat stejné výsledky, respektive z té méně naučené půjde zjistit, proč ta lépe naučená rozhodla na daném konkrétním obrázku špatně?
Sysop
Neumim si predstavit, ze by se v tech datech nekdo umel pohrabat tak, aby zjistil „proc“ a kde presne nastal ten rozdil. Kdyby totiz tohle nekdo umel, slo by to uceni dost zasadne optimalizovat.
Pravda, ja jsem s neuronovymi sitemi delal na pocatku 90. let, tehdy to bylo v ramci projektu uceni pocitacu rozeznavani pozemnich objektu diky satelitnim snimkum. Delali jsme to tehdy na SPZ lezicich na zemi (jo, uz tehdy umely satelity na nizkych obeznych drahach nasnimkovat SPZ tak, ze sice horko-tezko, ale sla precist). Z dnesniho pohledu pomerne jednoducha vec, ovsem tehdy honena na 386 s koprem to bylo jine kafe. Rozhodne si ale neumim predstavit, ze bych se hrabal v tech maticich a hledal tam to jadro krysarika, kdy tedy uz sit umi cislo rozpoznat jako cislo a ne jako finger.
Mozna se to dneska dela cele jinak, ja jsem to delal v dobe kamenny.
PanPredseda
No já jsem utrpěl jen kousek vzdělání ohledně neuronových sítí už před nějakým tím pátkem (ale ne v pravěku, jako Vy :-)), moje reakce mají za cíl hlavně ukázat jakovi, že plácá nesmysly, když označil úvodní Karkulkův (Karkulčin?) příspěvek za nepravdu.
Sysop
Chapu, Karkulka ma samozrejme pravdu.
h72
Pane Predsedo, su také ajťák. Schopnost jakéhokoliv systému něco dělat (a v rámci systému se vyvíjet) není dána množstvím !zážitků“, alébrž především software, algoritmy. Pokud jest debilní, dějí se debilní věci.
PanPredseda
Domnívám se, že v případě neuronových sítí se mýlíte.
Sysop
Pravdu mate oba. Vysledek neuronove site se tim vice blizi ocekavani, cim vice ‚zazitku‘ sit ma, ovsem zpraseny algoritmus pro toto jest esem trumfovym.
PanPredseda
Pokud není síť „přeučená“.
V příspěvku o kus výše jsem předpokládal dvě „stejné“ neuronové sítě, ovšem jinak naučené.
jak
PanPredseda: Co to zase plácáte za nesmysly s učením? Neuronová síť v laboratoři se nebude učit, jednoduše se zkopíruje znalostní báze z havarovaného vozu, to je blok dat v RAM s kopií na Flash/SSD a laboratorní exemplář bude mít identické chování.
PanPredseda
jak: Identické (a pro náš příklad předpokládejme, že v určitém aspektu chybné) chování je Vám dosti málo platné, když neznáte jeho příčinu.
Sysop
Identicke chovani zajiste POUZE na indentickem vstupu. Pokud auto pojede po silnici a za nim druhe se stejnou siti, stejnou databazi vah, zajistis i UPLNE stejny obraz? Poloha vetvi stromu, lidi, objektu vstupujiciho do vozovky, i ptaku letajicich okolo? Nevim proc, ale mam ten nevyvratitelny dojem, ze nevis, o cem pises. Ve finale, po hromade a hromade simulaci, se treba ukaze, ze auto kdysi jelo okolo reklamy, kde letel havran a jak na potvoru ta prechazejici babka mavla rukou v cernem kabate, coz v kombinaci se stinem vzdalene pripominalo tu reklamu. Za pul sekundy uz to bylo jinak.
Michas tady nejakou laboratorni situaci s realnou situaci v provozu. Myslim, ze nikdo ani na sekundu tady nepochybuje nad tim, ze neco je schopno v laboratori fungovat uspokojivym zpusobem.
jak
Sysop: Nic o identickém vstupu z kamery jsem nepsal.
Sysop
Prave. A to je nutna podminka k tomu, aby dve stejne nastavene site davaly stejne vysledky. Dokonce si troufam tvrdit, ze pokud vystupem site je treba jen jednobitovy udaj, pak prave ten rozdil na vstupu muze mit vetsi vliv, nez samotny drobny rozdil ve vahach.
Shi
Příklad s havranem je vynikající. Je potřeba dodat, že ani informace, že problém způsobil havran v kombinaci s rukávem, se z neuronové sítě nedá dostat nijak. Dá se na to přijít jedině tak, že se neuronové síti předkládá pořád dokola ta stejná scéna s drobnou modifikací a že se stylem pokus-omyl hledá při jaké konstalaci objektů síť klasifikuje správně a kdy už ne.
Další krok pak je v procesu učení vyhrabat, že tato klasifikace nějak souvisí s reklamou, která se během učení vyskytla ve vstupních datech. To identifikovat půjde jedině tak, že se opět metodou pokus omyl bude hledat vynecháním kterého tréninkového vzoru se dosáhne toho, že se síť nesplete, když uvidí rukáv a havrana.
Shi
„jednoduše se zkopíruje znalostní báze z havarovaného vozu“
Vím, jak jste to myslel, nicméně s výjimkou těch nejjednodušších příkladů neuronová síť nemá nic, co by se dalo považovat znalostní bázi (například typu „if X then Y“) a to ani znalostní bázi stochastickou (if X then Y with probability P).Naučená NS má pouze celkem zběsilou a prakticky neinterpretovatelnou hromadu vah, které jsou takové prostě proto, že tak dopadl proces učení (se) a nelze z nich nic moc usuzovat.
Vím, že byly pokusy o zpětnou interpretaci vah naučené neuronové sítě, ale nevím, jestli se v tomto směru vůbec podařilo nějakého pokroku dosáhnout. A v případě deep learningu, ke mají sítě mnoho vrstev, o tom silně pochybuji.
ssamsung
Kraviny vymýšlet, na to je užije, ale implementovat do vozů konečně standardně síbíčko (vysílačku), to né…
(A i kdyby ne ve starém, po světě rozšířeném pásmu 27MHz, tak už dávno mohlo být navrženo pásmo jiné, odolné rušení a gumákům… Samozřejmě hlavně ne přes mobilní síť…)
(Kdo nechce řídit, ať jede autobusem, taxíkem nebo ať ho vozí manželka. To už je jak v Cimrmanovi – strašně chtěl jezdit autem, ale řízení ho nebavilo…)
Sysop
Predstava, ze kazdej curak ma CB, mne dost desi, rikam uprimne. Zlata doba, kdyz na konci 80ek zacali prvni CB z rad radioamateru. Poradek, respekt, zadne zaklicovavani, obsazovani freqenci a dalsi prasarny.
Nevim, jestli by bylo dobry, aby to byla tlacharna, kde jeden sulin zaklicuje a vsichni maji utrum.
ssamsung
Je široké pole možností, např. vysílat v signálu i digitální ID, vázané na RZ vozu třeba, nebo jinak, zcela nové pásmo a typ provozu, k tomu samozřejmě trestní sazebník za zneužití či nedovolené úpravy… Žijeme v 21 století. A taky bych trochu víc věřil lidem…. No ale jak už jsem tu psal, kromě Anglie, kde mají v zákoně řidiči výjimku na používání radiostanic za jízdy, je jinde v EU snaha CB zakázat úplně (německo) a zakázáno držet mikrofon při řízení už máme…
ssamsung
Ano, mazání problém byl, tehdy, ale v provozu a na dálnici zvlášť pak docela zanedbatelný, protože ta zpráva z vozu do vozu na krátkou vzdálenost se přenese bez problémů.
Dneska každé nové auto musí mít simku kvůlu nouzovému hlášení nehody, nový typ radiostanice klidně může spolupracovat s nějakou takovou identifikací (mluvím ale pořád o vysílání bez mobilní sítě, přímo!) – a to tak, že na displayi se zobrazí ID vysílané stanice. To myslím není technicky problém vyřešit zvláště pak v digi provozu. Prostě mi to přijde hrozně legrační, čím vším jsou auta dneska prošpikována, ale to blbé CB za tisíc korun tam nemá skoro nikdo a v zácpě či při nehodě už jen všichni hloupě hledí a nevědí…. Mimochodem podařilo se někomu z vás v aplikaci WAZE komunikovat nebo aspoň vidět vaše známé (jejich pozici, mluvit s nima, psát jim, jsou li zrovna taky na WAZu)? Mně ne.
Sysop
Tak on lze ‚majk‘ bez problemu rozsirit o VOX spinac a pri rozumnem nastaveni (jo, je potreba si hrat s umistenim krofounu) to chodi jako hands-free docela dobre.
Ja lidem neverim a zatim se mi to vzdy vyplatilo. Krome toho prave s debily na pasmu (v Cesku a Italii) mam ty nejhorsi zkusenosti. Zakony jsou uplne k hovnu, ty plati proti zaklicovani pasma uz dnes a vysledek nikde. Digitalni ID je prvni vec, kterou kazdej smaze, navic by se to tezko vnucovalo na stacionarky. A dalsi pasma? A jak se vyresi svolavaci kanal? TO jich jako bude vic? Nedovolene upravy? :-D Topeni ma v aute dneska skoro kazdej. A? A hovno.
Ac byvaly nadseny radioamater jak z CB, tak z dvoumetru i 70 cm, tak dneska, pokud se clovek pohybuje v Evrope, radeji uprednostnim GSM. A tam bych cekal klidne lokalni BTS se sdilenim dopravnich zprav pres SMS zdarma a podobne.
CB je pekna hracka, o tom zadna, ale pokud by se to aplikovalo masove, tak se tim pohrbi uplne vsechno.
Sysop
Mam jet do Tyniste, z Klatov. Koukam, vlakem tam a z5 druhou tridou 930 Kc.
Muze mne nekdo prosvedcit, proc je to vyhodnejsi, nez jet autem, i kdyz v nem budu sam?
A proc tedy dotujeme CD?
pest
Proč je to výhodnější? Pro mě osobně třeba proto, že i když je to jeden z hodně špatných směrů pro cestování vlakem, tak ve vlaku si prostě sednu a spím | čtu | pracuju. Autem je to reálně ke čtyřem hodinám (plus velké riziko zácpy kdekoli v Praze a okolí), krát dva krát běžná hodinová sazba a ono to dá i na první třídu. Mimochodem, daleko větší smysl by dávalo dojet autem z Klatov do Plzně a teprve tam sednout na vlak.
Sysop
Sere mne ta cena, ktera se proste nevyplati. Stravim ve vlaku vic casu, navic presedani. Komfort nerizeni zase vyvazuje diskomfort ruznych individui okolo. Jako jo, taky jsem jel vlakem nekdy pred dvema tydny do Prahy a ve vlaku udelal furu prace. Ale uz takhle nepojedu, protoze autem to mam pohodlnejsi, jsem vice panem sveho casu a muzu jeste i vyridit par veci po ceste.
Kdyby to stalo vlakem pulku, nereknu ani popel.
Childeater
Existují šotoušci, který preferujou vlak za každou cenu, ale to musíš mít fakt odpor k cestování po silnicích, anebo milovat vlak. Od nás z venkova znám i mladý lidi, který prostě odmítají řídit po Praze a jedou z toho důvodu do Phy vlakem, klidně s celou rodinou. Zajímalo by mne, zdali proběhla nějaká studie, která by třebas řekla, o kolik procent by narostl počet cestujících vlakem, kdyby jízdenka stála o 25% méně a zdali by se to ve finále nevyplatilo.
Ovšem – neboj se nic – podíl lidí, kteří cestují vlakem začne narůstat.
Čím dál tím víc se města snaží lidem vlastnictví vozu znechutit, takže auta za chvíli začnou z měst mizet a zbydou dinosauři na venkově, kerý se bez auta holt neobejdou.
deacon
Jenze z mest realne mizi i lidi, protoze se ve mestech valne vetsine lidi nevyplati bydlet. Viz Brno. Diky tomu, ze se tam roky nic nepostavilo, jsou ceny nemovitosti uplne silene mimo dosah beznych smrtelniku. Takze valna vetsina lidi dojizdi a predstava, ze tito vsichni presednou na vlak me neprestava bavit, vzhledem k tomu jak „prazdne“ jezdi tramvaje z nadrazi ke kancelarskym centrum :D
Childeater
Z Brna mizí lidi? To je pravda? V ČB přibyly řádově stovky občanů, ale přesto je přírůstek. Pozor, netvrdím, že dojíždějící do města přesednou na vlak, říkám, že se aut začínají zbavovat rezidenti.
Přibývá šérovaných aut, půjčovaných, přibývá rodin, které auto nemaj a mít nechtějí. Vesměs se ale jedná o lidi z města s přístupem k MHD.
Mladí hipsteři, většině se rožne jakmile si pořídí děcka…
Childeater
Vesměs levicové intoušstvo, typicky učitelé, nižší úředníci atd.
deacon
Let me rephrase that.
Jakmile se mladi chteji zahnizdit, tak zjisti, ze bud budou jezdit 45 minut do prace/z prace MHD z okrajove casti, protoze nikde jinde si bydleni dovolit nemohou(protoze studenti sroubuji ceny), nebo odjedou mimo Brno, kde ceny klesaji na rozumnejsi ceny a vznika tim padem nutnost dojizdeni.
Takhle jsem to myslel. Kdyz zapocteme studenty, tak do Brna prodi davy lidi, nicmene z tech rejzuji hlavne pronajimatele bytu, kteri nastavuji cenovou politiku takovou, ze si to mlada rodina nemuze dovolit(aktualne se bavime o cenach pro jednoho mezi 3.6kKC do 4.6kKC ve SDILENEM pokoji. Na tripokojovem byte ti to dela 21 – 27 tisic mesicne. To ti mlada rodina neda a to ty byty jsou vybaveny tim nejlevnejsim z IKEA a kolikrat v bidnem stavu. 3+1 v Brne je kolem 3.5m co jsem naposled koukal.
Childeater
…což jenom potvrzuje mojí teorii o tom, že až tahle bublina s nemovitostmi v ČR prdne, tak to bude bolet opravdu hodně. Postačí trochu zajímavější krize v automotive a ti šroubující studenti zmizí jak pára nad hrncem. Investiční nemovitosti se začnou prodávat a jejich cena slušně spadne, zvláště v Brně.
Blbý je, že ty mladý rodiny si to těžko koupí i potom… :-/
deacon
Jeste doplnim, ze tech 45 minut se da dojet autem z nejaky prdele, kde za cenu mestske 3+1 mas relativne rozumnej barak. Nebo luxusni byt :) Ale i tahle migrace zvysuje ceny i v perdelich, no, je to tady vesely, no :)
pest
Round trip ca 550-600 km. 930 Kč za vlak se nevyplatí a dejme tomu patnáct stovek za benzín + osm hodin zabitého času v autě ano? (Amortizaci zcela opomíjím.) No užitek je samozřejmě subjektivní, ale pokud opravdu potřebujete do toho Týniště a ne do nějaké díry u něj, kam z nádraží jede pět autobusů za den, tak já osobně v tom tu logiku a hodnotu fakt nevidím.
deacon
Ma jistotu topeni(deje se relativne bezne u horsich spoju a v novych vagonech obcas to topeni bejva spis zaple na klimatizaci, nebo fakt nevim, asi jsem moc zimomrivej :D)
Ma jistotu, ze mu neujede spoj, protoze zpozdeni aktualni vlaku
Ma jistotu, ze ho nikdo nebude otravovat smradem
Ma jistotu, ze se nepobleje v autobuse, protoze vyluka :D (OK, to plati primarne pro me :D)
Ma moznost to zajet rychleji(depends, nekontroloval jsem to)
Jako auto ma svy vyhody. Mi jezdi domu primy rychlik, 15m na/z nadrazi. I tak jsem si po 4 letech dojizdeni proste koupil auto a udelal ridicak, protoze proste NE. V zime „my se omlouvame, ale tento vagon ma poruchu topeni(nastupuju v druhe zastavce od vychozi BTW, je nam to lito“. Tohle se delo nejmene 1x mesicne, v zime. BOZI. V autobuse bleju, proto jezdim vlakem. Jenze kdyz ti kazdy leto daj vyluku na trat a kazdy leto ti tam daji neklimatizovany autobusy a jedno leto dokonce autobusy Brnenske MHD(ktere fakt nejsou na dalkove jizdy upraveny, protoze vetsina lidi v nich STOJI), tak to je taky BOZI!@#!!!! A to nemluvim o tom, kdyz si k tobe prisedne nejaky individuum, ktery smrdi jak pes, kterej se prave vyvalel ve zdechly rybe(no, dobre, trochu prehanim, ale proste smrdi). A pruvodci na to mrda a tobe zbejvaji 2 moznosti, najit jiny volny misto, nebo jit do konfliktu a dotycnej odpad vyhodit z kupe. Taky bozi, to se to panecku spinka, kdyz vedle tebe nekdo hnije. No a nebo si taky pristoupi omladina a na plny kule pusti neco z mobilu, to se to spinka, odpociva a cte. A pruvodci na to mrda. Ale zkus si v lete udelat vetraci skviru v okne ze zavesu, to te pruvodci zprca na 3 doby, ze zaves tam je od jine funkce!!!
Mohl bych pokracovat, ale fakt, ze me CD donutily udelat si ridicak a koupit si auto by mohlo mluvit za vse :) Faktem ale je, ze kdybych jezdil na vice profanovanych trati, kde masivne jezdi IC/EC/Pendolino/Jancura/atp., mozna bych mluvil jinak, jenze tyhle vymozenosti se me netykaly. Protoze ano, na tech tratich sly CD kurevsky nahoru, bohuzel vsude jinde to nahoru leze snecim tempem.
JASAN
Na vlak to prostě chce romantickou duši a samozřejmě necestovat pak z nádraží někam další hodinu. Minulý rok jsem si dal na konci léta cestu celkem i s metrem 2h 30min do práglu – namísto autem 1h 15 min. Vzal jsem si knížku, ale otevřel jsem jí jednom párkrát, páč venku bylo pořád na co koukat. Po příjezdu domu jsem měl takových zážitků, že jsem si připadal jako že sem zažil asi 40 hodinový den a pořád sem se přiblble usmíval – namísto toho abych vystoupil večer dobitej z auta. No ale samozřejmě takovýmhle stavům předchází zenový cvičení v podobě kanclu s výhledem na polonáves, kde dvakrát tejdně projede starej Franta s králičim hnojem a jednou denně soused s kravskym hnojem – ale ten to veze na lžíci takže nejni čas se tolik pokochat…
No, on ten boj mezi systémem pravidel a hlubokém učení má jeden podstatný zádrhel: u systému pravidel v zásadě lze říct, proč to udělalo co to udělalo, ale do „hlubokého učení a neurální sítě“ nikdo nevidí. Prostě při analýze nehody sice víte co to udělalo, ale nikdo nedokáže říct proč se to rozhodlo jak se to rozhodlo.
Karkulka: To je hrubá nepravda, jednak se dá do auta zabudovat černá skříňka se záznamem poslední půlhodiny provozu a hlavně zatím všechny AI co máme jsou na bázi standardních počítačových programů, je tedy možné opětovně simulovat a analyzovat jejich chování v laboratoři.
Obávám se, že v případě neustále se učící neuronové sítě nemáte pravdu Vy. V „černé skříňce“ sice budete mít uloženy hodnoty vah jednotlivých neuronů v době nehody, možná z toho přijdete na to, která hodnota či spíše kombinace hodnot byla příčinou nehody, ale pokud nebudete ukládat každou změnu hodnot vah + její příčinu či dokonce všechna vstupní data ze senzorů (což bude opravdu velké množství dat), nepřijdete na to, co vedlo ke změnám hodnot vah, které v dané okamžiky byly správné, ale ve výsledku vedly k právě té kombinaci, která zapříčinila nehodu.
Musely by se archivovat veskere udalosti vedouci ke zmene vah. Podle mne neresitelne, protoze sit reaguje na sebemensi podnet a ve finale muze bejt blby rozhodnuti jen proto, ze nejaka vaha konecne o 0,000hovno0001 prekrocila nejakou hranicni mez a vystup se preklopil. Tedy zadna udalost, ktera by zasadne vycnivala nad ostatni.
Je to, jako chtit zjistit, proc je BFU blbej, kdyz je mu 30, ze ZS davno pryc a on zase na zimu nema zradlo pro ovce.
Souhlasím.
Žrádlo pro ovce mi snad na zimu vyjde…
Souhlas taky, kozy sice žerou slámu. Ale letos si opravdu nemůžou moc vyskakovat.
V čem je to nepravda? Černou skříňku samozřejmě mít můžete, byť půl hodiny nekompresovaných dat z tuším osmi kamer, to bude asi docela raketa. Zpětně simulovat to samozřejmě taky můžete. Jenže… viděl jste třeba Flight s Denzelem Washingtonem, nebo Sully: zázrak na řece Hudson? To je přesně ono: máte informace o tom co se stalo, můžete to nasimulovat – ale stejně se těch lidí ptají PROČ udělali co udělali. A o tom to je: vy to můžete zpětně nasimulovat, ale dostanete jen výsledek, nikoli informace o tom proč se to rozhodlo jak se to rozhodlo. Řečeno jinak: vidíte že to srazilo tu bábu s kolem co nesla koberec, ale už se nedozvíte, že ta neurální síť tu bábu vyhodnotila jako tučňáka, a raději srazila tučňáka než aby to narvala do sloupu.
Karkulka: To se právě dozvíme, všechny AI které dneska máme jsou tvořeny technologií, která umožňuje rekonstrukci a zpětnou simulaci. Ostatně znalostní báze současné AI na základě které provádí rozhodnutí není nějaké abstraktní fluidum, ale standardní data v RAM s kopií někde na SSD.
Já jsem tedy velký laik ale přijde mi, že kdyby se měly vzorkovat všechny proměnné s frekvencí výpočetního cyklu, že by taková reálná paměť asi hodně rychle došla.
JASAN: To by došla ale nepotřebujeme vše. Informace vedoucí k tomu proč byla bába rozpoznána jako tučnák zpětně získat lze.
No mě takový proces samoučení připadá jako hodně nelineární systém a u takových by sice zpětně bylo možné popsat zpětně vnější chování ale řekl bych že s opakovatelností už by to nebylo tak slavné. Protože prostě při dírách v datech byste narazil na to že nemáte kompletní soubor počátečních podmínek.
JASAN: Proces samoučení AI, pokud je u automobilu vůbec povolen, to nevím, je běh na dlouhou trať, se jedná o stovky a tisíce situací. Jeden kontakt s bábou nemá velký vliv.
Mé znalosti jsou sice zastaralé, ale u neuronových sítí bývaly a nejspíš stále ještě jsou dva problémy:
1) Neuronová síť vám poskytne výsledek, ale nedozvíte se proč je výsledek takový jaký je – nedostanete zdůvodnění, pouze výsledek. Tedy dostanete odpověď na otázku „co to je“ – s poměrně vysokou pravděpodobností je to tučňák, ale jako zdůvodnění – proč je to tučňák, dostanete hromadu číslel „vektorů/matic“ a přeberte si tuto hromadu čísel jak uznáte za vhodné.
2) Neuronová síť se může přeučit, tedy průběžné učení nemusí být příliš žádoucí.
Mám celkem solidní pochyby, že je vůbec možné systém, který spoléhá na něco tak nedeterministického jako je neuronová síť, certifikovat podle ISO 26262 a pustit to do provozu.
Tak nejak si to pamatuju taky. Zeby dnes byl jiny princip modelovani…? Mluvil jsem s klukem, nekdy pred 10 lety, delal neuronovky do pracek (optimalizace vody/prasku/otacek/blabla…), tusim se tomu rikalo ‚fuzzy logic‘, nebo tak nejak. A zjistil jsem, ze pouzivaji uplne ty stejne modely, jako ja patnact let pred nim. Porad stejny system, porad stejne problemy. Pro laika to je jako kdyz se na sampon napise „light“. Proste je to tam napsany, tak je to „in“ a je to uzasny. Prece nekecaj.
Fuzzy logika je něco úplně jiného, než neuronové sítě a osobně fuzzy nepovažuji za umělou inteligenci. Fuzzy logika je 100% deterministické řešení, není v tom učení se, je v tom pouze nastavení funkcí příslušnosti „dle názoru expertů“.
Umělá inteligence má hromadu zajímavých metod, neuronové sítě jsou jen jedna z mnoha.
Já si ze školy odnesl poznatek, že když člověk nevím co s tím, tak že se dá zkusit nasadit neuronovka a třeba to dopadne dobře. Ale také naopak, že když je někde použita neuronovka, tak autoři nevěděli jak problém uchopit (například neuměli udělat solidní model) a zkusili na to jít hrubou výpočetní silou přes neuronovku.
Ja jsem utrpel vzdelani mimo jine v automatizaci, tam byla modla vseho PID regulator a protoze i u nej se fura veci po velmi dlouhych a slozitych vypoctech nakonec nastavila hrubym odhadem, tak neuronove site se pouzivaly i na nastaveni PID. A bylo to jako obvykle… vetisnou to frcelo par excellence, ale kdyz se to vysralo, tak naprosto totalne, zcela nelogicky a nejlepe u regulatoru, ktery by jinak sel nastavit tremi potencemetry od oka.
To stale funguje, v modernych dobach pride clovek s 25 Siemens certifikatmi a cerstvo nafasovanym notebookom so Siemens Total Integration Automation. Nasledne necha osem hodin bezat Autotune a vobec mu nepride divne nechat piect tri 595 kW plynove horaky, lebo software ladi prekmit poslednych dvoch stotin stupna.
Vacsinou na druhy den si necha povedat, ze to skusime trafit od oka a poznamka operatorov „+/- 3 stupne su super“ znamena, ze stotinky fakt nenahaname.
Ale na fakulte a skoleni sa takyto postup neuznava, no.
Nejezdi nahodou tito ‚odbornici pres kotle‘ s notebooky ze Siemense z Brna Olomoucke? Je mi to totiz silne povedome…
Shi: Co to plácáte za nesmysly? Všechny dnešní umělé neuronové sítě jsou polopaticky program v počítači nebo v podobném výpočetním hardware a jeho činnost je deterministická, tak jako u všech jiných počítačových programů. Polopaticky jde analyzovat proč došlo ke konkrétnímu úsudku a ne že ne.
Re: jak
23.11.2018 v 8:07
Mylis se.
Sysop: A něco jako důkaz by nebylo? Nebo už jsme na tom jako lidstvo tak špatně, že se nám vymyká software z pod kontroly a už ani nedokážeme sledovat co vlastně dělá? To snad ne :-)
Re: jak
23.11.2018 v 8:13
Ale my umime sledovat, co ta sit dela. Naprosto bez problemu. Jen nevime, co zpusobilo toto nastaveni. Je to jako:
– predlozim pred sit obrazek duchodce, ktery chce prejit silnici
– sit odpovi „to je poulicni reklama“
– dotaz: proc je to poulicni reklama?
– sit: protoze to odpovida na 76 %.
– dotaz: na zaklade CEHO jsi takto rozhodla?
– sit: ??
A co ted? Kdyz se podivas na matice rozhodovacich vah, tak jsou to jen hordy cisel. Zadny algoritmus. Co presne tam jako chces najit?
Muzes to simulovat, muzes siti rict, ze 76 % nestaci, muzes ji predlozit obrazky poulicnich reklam, aby se „doucila“, coz zpusobi zmenu te hromady cisel. Vsechno dobry, ale ty se ptas PROC. Tak to v tech cislech hledej, smudlo.
Sysop: Nepřekvapivě tam nebudeš hledat dvoudimenzionální plochu pixelů, ale výsledek celého algoritmu AI po zpracování obrazu a správně jsi uvedl jako „hordu čísel“, tedy nebudeš hledat bitmapu, ale posuzovat míru shody „hordy čísel“ s novou „hordou čísel“ generovanou novým vstupem. Horda čísel nespadla z nebes, ale v případě AI pro automobily byla z velké části vygenerována v laboratoři, tudíž proces tvorby je deterministický.
Re: jak
23.11.2018 v 9:07
Vypada to, ze jsi s neuronovou siti nikdy nedelal. Ty nejprve reknes, ze chces vedet PROC nejaky vstup vede k nejakemu vystupu a pak zase, ze chces posuzovat nejakou miru shody a jinou hordou cisel. Toto, v pripade neuronove site, nejsou synonyma.
Proces inicializace samozreme deterministicky je. Ale v okamziku, kdy tu sit nechas ucit ze zpetnou vazbou a bude treba brat obrazy z kamery jedouciho auta a na kazdy dotaz site „co je toto“ ty odpovis bud „prechazejici clovek/zvire/etc.“ a nebo „sloup/reklama/tancici debil“, tak se ty vahy budou menit a menit… a menit…. a menit… takze tam uz je pak tezke hovorit o nejakem determinismu, pokud nehodlas archivovat ty hromady a hromady obrazu, ktere vedly ke konecnemu nastaveni site.
A o tom cela ta debata je. Predstavujes si to moc jednoduse. Sit sama o sobe je velmi jednoducha vec. Ale prave ta data v maticich jsou jeji know-how a vzlhedem k tomu, ze u ucici site se dynamicky meni, tak tezko zjistis pricinu, proc zrovna tahle pani byla siti povazovana za reklamu. Najit tu pricinu je prakticky nemozne. Ty vis, ze to zpusobily vahy, ty vis, ze to zpusobil proces uceni, ale pokud nemas celou historii uceni, pak to proste nedohledas. To neni, jako se hrabat v nejakem algoritmu.
Neco podobneho nastava treba u mechanickych stroju, kdyz se poserou. Pokud se nenajde konkretni pricina „proc ta hridel praskla zrovna ted, kurva“, tak se to svede na unavu materialu. Sit se neunavi, takze tam to proste takhle snadne neni.
Sysop: To si rozumíme, nedají se zpětně rekonstruovat původní data na základě kterých došlo k naučení se konkrétní příčiny, tedy nedokážeme zpětně určit vstupní data která vedla ke konkrétnímu rozhodnutí, to s vámi souhlasím.
Podívejte se na první a druhý druhý obrázek na tomto odkaze:
https://www.dspguide.com/ch26/2.htm
První obrázek je struktura jednoduché sítě, druhý obrázek je struktura jednoho neuronu a tam si všimněte, jak do neuronu máte hromadu vstupů a hromadu vah. A tyto neurony jsou navzájem propojeny. Učení sítě spočívá v tom, že celkem primitivním učícím se algoritmem nastavujete (poměrně bezmyšlenkovitě) tyto váhy. Takže odpověď na otázku proč síť nějak rozhodla je skryta v sadě vektorů vah pro jednotlivé neurony. Proč je sestava vah zrovna taková jaká z učícího se procesu vypadla, to ví bůh.
Jeste tam chybi feedback, aby to bylo jeste slozitejsi. Cili ono „samouceni“. To uz pak se v tech cislech ani prase nevyzna, protoze jen vidime vysledek. Dokud to tam busi nejaka cvicena opice v bilem plasti, tak je to dobry, to jde jeste archivovat a treba udelat i step back, pokud z toho lezou picoviny.
Kdyz si ale sit nastavuje vahy sama, pak zalezi na algoritmu, ktery k tomu nekdo naprogramuje, jak rychle tam ten kyzeny maglajs na vahach nastane. A mozna ani Buh nevi, proc tam pak nejaka konkretni cisla jsou.
Shi: Vaše laické vývody nejsou směroplatné. Umělou AI implementovanou jako program v počítači lze zkoumat do posledního bitu.
jak:
Ano, lze prozkoumat jaké váhy jsou v daný moment u neuronů v síti. Ale právě u neuronové sítě nejste bez naprosto shodné množiny dat, na kterých se ona síť učila dospět ze sítě čisté, znalostmi neposkvrněné k síti shodně naučené. A jak tu psal Sysop: zjišťovat, na kterém prvku z učící množiny dat došlo k jakým změnám vah (které pak třeba někdy v budoucnu vedly v kombinaci k nesprávnému výsledku) je slovy Luboše Lakatoše neřešitelný problém, hoši.
Ale možná je tohle nad Vaše chápání.
PanPredseda: To souhlasí, nedokážeme rekonstruovat původní vstupní data, máme k dispozici jen výsledky algoritmu po zpracování těchto dat uložené do znalostní báze v RAM. Připouštím, že bez znalosti původních vstupních dat nás AI může značně překvapit.
Nicméně v případě AI do auta většinu původních dat máme.
Prohlasit neuronovou sit za algoritmus je asi tak stejne, jako prohlasit o Tchien-che 2, ze je to elektricky spotrebic. Samozrejme, ze to je pravda, jen to tak nejak nevystihuje podstatu.
Ad jak:
Vraťte se prosím k prvnímu příspěvku tohoto vlákna diskuse, který napsal(a) Karkulka a k Vaší reakci na něj. Přečtěte si je znovu a zkuste je pochopit.
Jasně že AI lze zkoumat do posledního bitu. Dokonce máte pravdu v tom, že neuronová síť je detyerministická, tedy v tom smyslu, že jednou naučená síť, která už se dál neučí, vám na stejné vstupy dá pokaždé identický výsledek.
Jenomže současně platí, že můžete mít dvě neuronové sítě s identickou architekturou, s identickou trénovací množinou a každá se naučí jinak, takže nakonec bude existovat situace, kdy těmto sítím s identickou trénovací množinou předložíte obrázek tučňáka a jedna siť pozná tučňáka a druhá řekne, že to je popelnice.
A na otázku, proč jedna tučnáka poznala a druhá ne, bude existovat odpověd, která bude správná – protože síť, která poznala správně má jinak nastavené váhy, než síť, která nepoznala. Vektory vah pak můžete zkoumat jak dlouho chcete, ale nijak vám to nepomůže v hledání řešení. Tedy vám to nijak nepomůže předejít tomu, aby se příště podobná chyba neopakovala – a jako na potvoru příště s nepatrně jiným snímkem může dojít k situaci, kdy síť, která rozpoznala tučňáka správně udělá chybu, zatímco siť, která na prvbním snímku viděla popelnici by chybu neudělala. Blbýá co ?
Zakopaný pes je v tom, že standardně se na počátku učení váhy nastavují náhodně, takže i se stejnou trénovací množinou je každá nově naučená neuronová síť trochu jiná.
A to jsme do toho ještě nezamontovali samoučení se, protože tam se pak váhy adaptují za provozu, takže výsledek je ovlivněn nejen novými zkušenostmi, ale také šumem dat ze snámíčů a asynchronností číslicových systémů a komunikací. Sice si nakonec z černé skříňky můžete vytáhnotu všechna data, ale pokud je cílem vašeho snažení předejít příští chybné klasifikaci objektu, tak vám tato data, v případě neuronové sítě, moc nepomohou.
Nějak se mi zdá, že zapomínáte, že reálný svět není tvořen z jedniček a nul, subsystémy autonomního řízení nepracují jako synchronní a svět není lineární.
Takže jo, zkoumat si to můžete do posledního bitu, ale k ničemu vám to nebude.
Ad Shi:
Vidíte, na náhodné nastavení počátečních vah jsem zapomněl a tudíž je nutné brát mé předchozí příspěvky s reservou a přihlédnout k tomuto opomenutí. Ovšem při shodném algoritmu, stavbě sítě, shodných počátečních vahách a shodné učící množině by měli vzniknout identické kopie, ne? Nebo přehlížím ještě něco?
A co se týká jaka, obávám se, že je to marný…
Jsem opravdu laik, znám jen základní principy, takže nevím, jestli moderní učící se algoritmy nevyužívají nějakou náhodnost i během procesu učení. Algoritmy, které znám já, by za vámi stanovených podmínek skutečně vedly na identicky naučené sítě.
(Jo, je to asi marný.)
a je to proste z principu black box nebo v budoucnu (zatim to neumime) pujde navrhnout neuronovou sit a deep learning tak aby slo delat analyzy, upravovat, ladit atd .. ? proste v procesu uceni nejake kotvy (kontrolni body) od kterych se lze odrazit nebo uplne jinak … nebo je to proste neco na principu predpovedi pocasi (deterministicky chaos) nebo je v navrhu inherentne prvek nahody apod. ktery nasledne znemoznuje tu analyzu ? Ja tam nevidim zadne turbulence, nahodne fluktuace, nekonecna apod. .. tak mi to pripada deterministicke
Jakmile složitost struktury (počet vrstev, počet neuronů, počet vazeb) překročí nějakou rozumnou mez, která je navíc hodně nízká, tak vám nezbude než považovat to za black box, protože množství vzájemných vazeb je neuchopitelně vysoké. Víc já nevím.
Shi: dle mého nemáte pravdu s tou deterministickou neuronovou sítí. Z podstaty věci není deterministická a současně ani být nemůže, stejně jako nic, co máte na CPU. Abyste dosáhl skutečně deterministického chování, musíte mít něco, co se chová stále stejně, tedy zpracovává instrukce ve stále stejné posloupnosti. Na to máte hradlová pole, ale rozhodně ne CPU a neuronová síť je něco jako halda CPU, takže ani v případě identických vstupů nemusí dát stejný výsledek, protože se může lišit postup jejich zpracování.
Jedním z hlavních bojů v rámci autonomního řízení je právě nereálný požadavek na deterministické chování (vidím dítě –> zastavím) kombinovaný s dalším nereálným požadavkem na co největší abstrakci (poznám, že jde o dítě, ať vypadá jakkoliv). Když se k tomu přidá nedokonalost vstupů (rozlišení kamer, jejich počet, směr atd.), je to boj předem prohraný. To ví každý, kdo se tomu věnuje. Nicméně protože v tom lítají obrovské peníze a většina jich patří lidem, kteří se tomu nevěnují a tedy neví, mrtvá kobyla bude ještě nějakou dobu úspěšně běhat. Všechna reálná řešení zahrnují nějakou formu omezení všech ostatních (nestrojových) účastníků provozu (zákazem vstup počínaje a nastřelováním čipů konče).
Nicméně s Vámi souhlasím pokud jde o hodnocení možností zjištění na otázku „proč“. Zní to možně, ale možné to není. Lze akorát zodpovědět otázku „co“ (to způsobilo). A to na prevenci jak píšete nestačí.
To už je akademický spor o to co ještě je a co už není determinismus. Jedna věc je exaktní matematický pohled a druhá je realistický inženýrský pohled.
Televize s dálkovým ovládáním se chová deterministicky – po zmáčknutí tlačítka se přepne kanál, uživatel je spokojen a z jeho pohledu se to chová pokaždé stejně, účel byl splněn. Synchornní „stroj“ televize určitě není – máte v cestě minimálně dva zcela asynchronně bežící procesory s bůh ví jak uplácanými aplikacemi a mezi nimi neskutečně primitivní asynchronní komunikační kanál… A přesto je to ve výsledku dostatečně deterministické na to, aby v tom nikdo neviděl problém.
Shi: pokud vidíte determinismus takhle, tak to není dál co řešit.
Můj pohled je realistický, váš pohled je matematicko-utopický. Z podstaty toho, jak funguje vesmír, dokonale deterministické není nic, ani to vaše synchrionně běžící hradlové pole. Jako na potvoru totiž oscilátor, který generuje hodiny pro vaše hradlové pole, nekmitá na konstatní frekvenci.
Takže ve výsledku nakonec jde jen o to, jestli je z makropohledu poznat rozdíl, respektive jestli lze uživateli něco garantovat.
kdyby byl CPU tak nedeterministicky, nemohl by fungovat ani bezny software. determinismus neni v mikrosvete (kvantova fyzika, fotony atd..), ale v makrosvete se z hlediska bezneho fungovani cloveka vetsina deju deje deterministicky (zrejme ten soucet pravdepodobnostne-statistickych dilcich udaju z mikrosveta je pomerne staly).
Proč se následovník 486-ky jmenuje Pentium a ne 586?
Odpověď : Protože když mu při závěrečných testech dali vypočítat příklad “Kolik je 486 + 100,” okamžitě blikla odpověď: 585.9952.
trevor12: nechápete ani základy toho, jak CPU funguje, zkuste si to dostudovat. Stačí wiki a procesor vs. hradlové pole. Když si pak zkusíte představit, jak by se choval Váš notebook kdyby mu tam místo CPU běželo hradlové pole (teď neřeším technické problémy), pochopíte, proč je CPU nedeterministické.
Shi: nikoliv, můj pohled je, chcete-li, aplikační. Potřebujete-li striktně deterministický systém, pak hradlové pole je to, u čeho skončíte. Nevím, co přesně myslíte tím, že oscilátor nekmitá na konstantní frekvenci – pokud pole funguje, pak právě na konstantní frekvenci. Její změna „za pochodu“ vlivem poruchy je konec fungování rozjetého programu. Jinak řečeno, program počítá s určitou frekvencí a deterministicky funguje na ní.
Z makropohledu jistě, ale když se bavíme o zjišťování příčiny určité reakce systému, tak se snad bavíme o něčem jiném (tedy já ano, možná proto si nerozumíme – z makropohledu, tedy z pohledu uživatele takového systému je úplně fuk, co se děje, pokud auto nebourá, ale to je z pohledu troubleshootingu pohled nesmyslný).
Ad fatdwi:
Oscilátor nekmitá na zcela přesně konstantní frekvenci. Jinak by nemělo smysl udávat stabilitu oscilátoru (u krystalových, pamatuji-li si to dobře, je to v řádu desítek ppm).
Re: PanPredseda
23.11.2018 v 17:43
Odchylka v ppm muze byt i u idealniho a zcela stabilniho oscilatoru, ktery jen holt bude mit konstantni frekvencni odchylku. Ostatne to, hned za odchylkou diky teplote, je nejcastejsi problem krystalovych oscilatoru. Celkem bezne to na 10 megahrncovym profesoru udela i jednotky sekund za pul hodiny. A pritom ta odchylka muze byt stale stejna, pokud drzime stejnou teplotu.
fatdwi: Ale vůbec ne, v oblasti průmyslového řízení a systémů pracujících v reálném čase je definováno něco jako time-utility function, která vyjadřuje požadavky řízeného systému na schopnost řídicího systému pracovat v reálném čase, aby se dal garantovat determinismus řídicího systému. Absolutní determinismus vašeho pojetí je teoreticky možný, prakticky pro většinu aplikací zbytečný a použití hradláčů pro systémy, které nesmí selhat, pak přináší další problémy a proto se také hradláče pro tyto systémy zatím moc neprosadily.
Navíc se pak podívejte jak to mají vyřešené programovatelné automaty, aby byl zajištěn determinismus – pracují s konstatním cyklem a světe div se, uvnitř většiny z nich je nějaké CPU, nikoliv hradláč.
No a jak je to s těmi oscilátory vám již napal PanPredseda – oscilátory permanentně někam ujíždí a to ještě dost nepříjemným způsobem, takže pokud potřebujete systém, kde jsou hodiny dlouhodobě hodně stabilní, tak se dělají dost šílené kejkle a teplotní stabilizace je jen začátek.
Shi: však tam taky ten determinismus z uživatelského pohledu stačí.
Otázkou je, co Vy vidíte jako „systémy, které nesmí selhat“. A samozřejmě, hradlová pole mají svá omezení. Nicméně to neřeším – původně jsem reagoval na to, že jste tvrdil, že neuronová síť je deterministická.
Neuronová síť, pokud je naučená a dál se neučí, deterministická je – na stejné vstupy vám dá stejné výstupy, navíc mě nenapadá důvod, proč by to provedení celkem jednoduchého výpočtu mělo pokaždé trvat jinak dlouho, aby to mohlo způsobovat nedeterminičnost v časové doméně – ve výsledku je to jen pouhé pronásobení a sečtení několika vektorů …
A systémy, které nesmí selhat, jsou systémy, kde se musí splnit nějaká safety norma (např. IEC 61508, ISO 26262, …) a splnění normy nelze dosáhnout bez redundance. Jako extrém si představte třeba fly-by- wire v dopravním letadle.
Ad fatdwi 23.11.2018 v 10:46
A o jakých CPU se vlastně bavíme? O Intelu 8080, 386, Pentiu, Pentiu MMX, nějakém Atmelu či PICu? :-/
PanPredseda: primárně Intel x86 (aktuální Xeony).
Jo procesory, kde instrukce už nejsou zadrátovány, ale jsou interpretovány v závislosti na verzi mikrokódu a to ještě tak zběsile, že ani výrobce nakonec sám netuší, co přesně mu ten mu krám vlastně asi tak dělá (Spectre, Meltdown, …) …
Shi
23.11.2018 v 22:55
Škoda že se nám líp neuchytila Transmeta, to mohla být prdel, trololol.
Ad fatdwi 23.11.2018 v 22:13
Řada Intel x86 ale v širší definici začíná od procesoru 8086, v užší definici (je vyžadován 32 bitový procesor) od 386.
Ty starší procesory se pak podle mého skromného názoru chovají deterministicky.
Nedeterministické chování se může projevovat u vícejádra či Hyper-Threadingu, nepletu-li se.
Oprostěme se od automobilu-samochodu a uvažujme jen a pouze algoritmus používající neuronovou síť, který má na digitalisovaných fotografiích odlišit tučňáky od babek s kolem. Jednu kopii neuronové sítě budete učit na milionu fotek, druhou na stovce fotek (ekvivalent Vaší černé skříňky na půl hodiny záznamu). Chcete mi tvrdit, že poté budou tyto dvě neuronové sítě poskytovat stejné výsledky, respektive z té méně naučené půjde zjistit, proč ta lépe naučená rozhodla na daném konkrétním obrázku špatně?
Neumim si predstavit, ze by se v tech datech nekdo umel pohrabat tak, aby zjistil „proc“ a kde presne nastal ten rozdil. Kdyby totiz tohle nekdo umel, slo by to uceni dost zasadne optimalizovat.
Pravda, ja jsem s neuronovymi sitemi delal na pocatku 90. let, tehdy to bylo v ramci projektu uceni pocitacu rozeznavani pozemnich objektu diky satelitnim snimkum. Delali jsme to tehdy na SPZ lezicich na zemi (jo, uz tehdy umely satelity na nizkych obeznych drahach nasnimkovat SPZ tak, ze sice horko-tezko, ale sla precist). Z dnesniho pohledu pomerne jednoducha vec, ovsem tehdy honena na 386 s koprem to bylo jine kafe. Rozhodne si ale neumim predstavit, ze bych se hrabal v tech maticich a hledal tam to jadro krysarika, kdy tedy uz sit umi cislo rozpoznat jako cislo a ne jako finger.
Mozna se to dneska dela cele jinak, ja jsem to delal v dobe kamenny.
No já jsem utrpěl jen kousek vzdělání ohledně neuronových sítí už před nějakým tím pátkem (ale ne v pravěku, jako Vy :-)), moje reakce mají za cíl hlavně ukázat jakovi, že plácá nesmysly, když označil úvodní Karkulkův (Karkulčin?) příspěvek za nepravdu.
Chapu, Karkulka ma samozrejme pravdu.
Pane Predsedo, su také ajťák. Schopnost jakéhokoliv systému něco dělat (a v rámci systému se vyvíjet) není dána množstvím !zážitků“, alébrž především software, algoritmy. Pokud jest debilní, dějí se debilní věci.
Domnívám se, že v případě neuronových sítí se mýlíte.
Pravdu mate oba. Vysledek neuronove site se tim vice blizi ocekavani, cim vice ‚zazitku‘ sit ma, ovsem zpraseny algoritmus pro toto jest esem trumfovym.
Pokud není síť „přeučená“.
V příspěvku o kus výše jsem předpokládal dvě „stejné“ neuronové sítě, ovšem jinak naučené.
PanPredseda: Co to zase plácáte za nesmysly s učením? Neuronová síť v laboratoři se nebude učit, jednoduše se zkopíruje znalostní báze z havarovaného vozu, to je blok dat v RAM s kopií na Flash/SSD a laboratorní exemplář bude mít identické chování.
jak: Identické (a pro náš příklad předpokládejme, že v určitém aspektu chybné) chování je Vám dosti málo platné, když neznáte jeho příčinu.
Identicke chovani zajiste POUZE na indentickem vstupu. Pokud auto pojede po silnici a za nim druhe se stejnou siti, stejnou databazi vah, zajistis i UPLNE stejny obraz? Poloha vetvi stromu, lidi, objektu vstupujiciho do vozovky, i ptaku letajicich okolo? Nevim proc, ale mam ten nevyvratitelny dojem, ze nevis, o cem pises. Ve finale, po hromade a hromade simulaci, se treba ukaze, ze auto kdysi jelo okolo reklamy, kde letel havran a jak na potvoru ta prechazejici babka mavla rukou v cernem kabate, coz v kombinaci se stinem vzdalene pripominalo tu reklamu. Za pul sekundy uz to bylo jinak.
Michas tady nejakou laboratorni situaci s realnou situaci v provozu. Myslim, ze nikdo ani na sekundu tady nepochybuje nad tim, ze neco je schopno v laboratori fungovat uspokojivym zpusobem.
Sysop: Nic o identickém vstupu z kamery jsem nepsal.
Prave. A to je nutna podminka k tomu, aby dve stejne nastavene site davaly stejne vysledky. Dokonce si troufam tvrdit, ze pokud vystupem site je treba jen jednobitovy udaj, pak prave ten rozdil na vstupu muze mit vetsi vliv, nez samotny drobny rozdil ve vahach.
Příklad s havranem je vynikající. Je potřeba dodat, že ani informace, že problém způsobil havran v kombinaci s rukávem, se z neuronové sítě nedá dostat nijak. Dá se na to přijít jedině tak, že se neuronové síti předkládá pořád dokola ta stejná scéna s drobnou modifikací a že se stylem pokus-omyl hledá při jaké konstalaci objektů síť klasifikuje správně a kdy už ne.
Další krok pak je v procesu učení vyhrabat, že tato klasifikace nějak souvisí s reklamou, která se během učení vyskytla ve vstupních datech. To identifikovat půjde jedině tak, že se opět metodou pokus omyl bude hledat vynecháním kterého tréninkového vzoru se dosáhne toho, že se síť nesplete, když uvidí rukáv a havrana.
„jednoduše se zkopíruje znalostní báze z havarovaného vozu“
Vím, jak jste to myslel, nicméně s výjimkou těch nejjednodušších příkladů neuronová síť nemá nic, co by se dalo považovat znalostní bázi (například typu „if X then Y“) a to ani znalostní bázi stochastickou (if X then Y with probability P).Naučená NS má pouze celkem zběsilou a prakticky neinterpretovatelnou hromadu vah, které jsou takové prostě proto, že tak dopadl proces učení (se) a nelze z nich nic moc usuzovat.
Vím, že byly pokusy o zpětnou interpretaci vah naučené neuronové sítě, ale nevím, jestli se v tomto směru vůbec podařilo nějakého pokroku dosáhnout. A v případě deep learningu, ke mají sítě mnoho vrstev, o tom silně pochybuji.
Kraviny vymýšlet, na to je užije, ale implementovat do vozů konečně standardně síbíčko (vysílačku), to né…
(A i kdyby ne ve starém, po světě rozšířeném pásmu 27MHz, tak už dávno mohlo být navrženo pásmo jiné, odolné rušení a gumákům… Samozřejmě hlavně ne přes mobilní síť…)
(Kdo nechce řídit, ať jede autobusem, taxíkem nebo ať ho vozí manželka. To už je jak v Cimrmanovi – strašně chtěl jezdit autem, ale řízení ho nebavilo…)
Predstava, ze kazdej curak ma CB, mne dost desi, rikam uprimne. Zlata doba, kdyz na konci 80ek zacali prvni CB z rad radioamateru. Poradek, respekt, zadne zaklicovavani, obsazovani freqenci a dalsi prasarny.
Nevim, jestli by bylo dobry, aby to byla tlacharna, kde jeden sulin zaklicuje a vsichni maji utrum.
Je široké pole možností, např. vysílat v signálu i digitální ID, vázané na RZ vozu třeba, nebo jinak, zcela nové pásmo a typ provozu, k tomu samozřejmě trestní sazebník za zneužití či nedovolené úpravy… Žijeme v 21 století. A taky bych trochu víc věřil lidem…. No ale jak už jsem tu psal, kromě Anglie, kde mají v zákoně řidiči výjimku na používání radiostanic za jízdy, je jinde v EU snaha CB zakázat úplně (německo) a zakázáno držet mikrofon při řízení už máme…
Ano, mazání problém byl, tehdy, ale v provozu a na dálnici zvlášť pak docela zanedbatelný, protože ta zpráva z vozu do vozu na krátkou vzdálenost se přenese bez problémů.
Dneska každé nové auto musí mít simku kvůlu nouzovému hlášení nehody, nový typ radiostanice klidně může spolupracovat s nějakou takovou identifikací (mluvím ale pořád o vysílání bez mobilní sítě, přímo!) – a to tak, že na displayi se zobrazí ID vysílané stanice. To myslím není technicky problém vyřešit zvláště pak v digi provozu. Prostě mi to přijde hrozně legrační, čím vším jsou auta dneska prošpikována, ale to blbé CB za tisíc korun tam nemá skoro nikdo a v zácpě či při nehodě už jen všichni hloupě hledí a nevědí…. Mimochodem podařilo se někomu z vás v aplikaci WAZE komunikovat nebo aspoň vidět vaše známé (jejich pozici, mluvit s nima, psát jim, jsou li zrovna taky na WAZu)? Mně ne.
Tak on lze ‚majk‘ bez problemu rozsirit o VOX spinac a pri rozumnem nastaveni (jo, je potreba si hrat s umistenim krofounu) to chodi jako hands-free docela dobre.
Ja lidem neverim a zatim se mi to vzdy vyplatilo. Krome toho prave s debily na pasmu (v Cesku a Italii) mam ty nejhorsi zkusenosti. Zakony jsou uplne k hovnu, ty plati proti zaklicovani pasma uz dnes a vysledek nikde. Digitalni ID je prvni vec, kterou kazdej smaze, navic by se to tezko vnucovalo na stacionarky. A dalsi pasma? A jak se vyresi svolavaci kanal? TO jich jako bude vic? Nedovolene upravy? :-D Topeni ma v aute dneska skoro kazdej. A? A hovno.
Ac byvaly nadseny radioamater jak z CB, tak z dvoumetru i 70 cm, tak dneska, pokud se clovek pohybuje v Evrope, radeji uprednostnim GSM. A tam bych cekal klidne lokalni BTS se sdilenim dopravnich zprav pres SMS zdarma a podobne.
CB je pekna hracka, o tom zadna, ale pokud by se to aplikovalo masove, tak se tim pohrbi uplne vsechno.
Mam jet do Tyniste, z Klatov. Koukam, vlakem tam a z5 druhou tridou 930 Kc.
Muze mne nekdo prosvedcit, proc je to vyhodnejsi, nez jet autem, i kdyz v nem budu sam?
A proc tedy dotujeme CD?
Proč je to výhodnější? Pro mě osobně třeba proto, že i když je to jeden z hodně špatných směrů pro cestování vlakem, tak ve vlaku si prostě sednu a spím | čtu | pracuju. Autem je to reálně ke čtyřem hodinám (plus velké riziko zácpy kdekoli v Praze a okolí), krát dva krát běžná hodinová sazba a ono to dá i na první třídu. Mimochodem, daleko větší smysl by dávalo dojet autem z Klatov do Plzně a teprve tam sednout na vlak.
Sere mne ta cena, ktera se proste nevyplati. Stravim ve vlaku vic casu, navic presedani. Komfort nerizeni zase vyvazuje diskomfort ruznych individui okolo. Jako jo, taky jsem jel vlakem nekdy pred dvema tydny do Prahy a ve vlaku udelal furu prace. Ale uz takhle nepojedu, protoze autem to mam pohodlnejsi, jsem vice panem sveho casu a muzu jeste i vyridit par veci po ceste.
Kdyby to stalo vlakem pulku, nereknu ani popel.
Existují šotoušci, který preferujou vlak za každou cenu, ale to musíš mít fakt odpor k cestování po silnicích, anebo milovat vlak. Od nás z venkova znám i mladý lidi, který prostě odmítají řídit po Praze a jedou z toho důvodu do Phy vlakem, klidně s celou rodinou. Zajímalo by mne, zdali proběhla nějaká studie, která by třebas řekla, o kolik procent by narostl počet cestujících vlakem, kdyby jízdenka stála o 25% méně a zdali by se to ve finále nevyplatilo.
Ovšem – neboj se nic – podíl lidí, kteří cestují vlakem začne narůstat.
Čím dál tím víc se města snaží lidem vlastnictví vozu znechutit, takže auta za chvíli začnou z měst mizet a zbydou dinosauři na venkově, kerý se bez auta holt neobejdou.
Jenze z mest realne mizi i lidi, protoze se ve mestech valne vetsine lidi nevyplati bydlet. Viz Brno. Diky tomu, ze se tam roky nic nepostavilo, jsou ceny nemovitosti uplne silene mimo dosah beznych smrtelniku. Takze valna vetsina lidi dojizdi a predstava, ze tito vsichni presednou na vlak me neprestava bavit, vzhledem k tomu jak „prazdne“ jezdi tramvaje z nadrazi ke kancelarskym centrum :D
Z Brna mizí lidi? To je pravda? V ČB přibyly řádově stovky občanů, ale přesto je přírůstek. Pozor, netvrdím, že dojíždějící do města přesednou na vlak, říkám, že se aut začínají zbavovat rezidenti.
Přibývá šérovaných aut, půjčovaných, přibývá rodin, které auto nemaj a mít nechtějí. Vesměs se ale jedná o lidi z města s přístupem k MHD.
Mladí hipsteři, většině se rožne jakmile si pořídí děcka…
Vesměs levicové intoušstvo, typicky učitelé, nižší úředníci atd.
Let me rephrase that.
Jakmile se mladi chteji zahnizdit, tak zjisti, ze bud budou jezdit 45 minut do prace/z prace MHD z okrajove casti, protoze nikde jinde si bydleni dovolit nemohou(protoze studenti sroubuji ceny), nebo odjedou mimo Brno, kde ceny klesaji na rozumnejsi ceny a vznika tim padem nutnost dojizdeni.
Takhle jsem to myslel. Kdyz zapocteme studenty, tak do Brna prodi davy lidi, nicmene z tech rejzuji hlavne pronajimatele bytu, kteri nastavuji cenovou politiku takovou, ze si to mlada rodina nemuze dovolit(aktualne se bavime o cenach pro jednoho mezi 3.6kKC do 4.6kKC ve SDILENEM pokoji. Na tripokojovem byte ti to dela 21 – 27 tisic mesicne. To ti mlada rodina neda a to ty byty jsou vybaveny tim nejlevnejsim z IKEA a kolikrat v bidnem stavu. 3+1 v Brne je kolem 3.5m co jsem naposled koukal.
…což jenom potvrzuje mojí teorii o tom, že až tahle bublina s nemovitostmi v ČR prdne, tak to bude bolet opravdu hodně. Postačí trochu zajímavější krize v automotive a ti šroubující studenti zmizí jak pára nad hrncem. Investiční nemovitosti se začnou prodávat a jejich cena slušně spadne, zvláště v Brně.
Blbý je, že ty mladý rodiny si to těžko koupí i potom… :-/
Jeste doplnim, ze tech 45 minut se da dojet autem z nejaky prdele, kde za cenu mestske 3+1 mas relativne rozumnej barak. Nebo luxusni byt :) Ale i tahle migrace zvysuje ceny i v perdelich, no, je to tady vesely, no :)
Round trip ca 550-600 km. 930 Kč za vlak se nevyplatí a dejme tomu patnáct stovek za benzín + osm hodin zabitého času v autě ano? (Amortizaci zcela opomíjím.) No užitek je samozřejmě subjektivní, ale pokud opravdu potřebujete do toho Týniště a ne do nějaké díry u něj, kam z nádraží jede pět autobusů za den, tak já osobně v tom tu logiku a hodnotu fakt nevidím.
Ma jistotu topeni(deje se relativne bezne u horsich spoju a v novych vagonech obcas to topeni bejva spis zaple na klimatizaci, nebo fakt nevim, asi jsem moc zimomrivej :D)
Ma jistotu, ze mu neujede spoj, protoze zpozdeni aktualni vlaku
Ma jistotu, ze ho nikdo nebude otravovat smradem
Ma jistotu, ze se nepobleje v autobuse, protoze vyluka :D (OK, to plati primarne pro me :D)
Ma moznost to zajet rychleji(depends, nekontroloval jsem to)
Jako auto ma svy vyhody. Mi jezdi domu primy rychlik, 15m na/z nadrazi. I tak jsem si po 4 letech dojizdeni proste koupil auto a udelal ridicak, protoze proste NE. V zime „my se omlouvame, ale tento vagon ma poruchu topeni(nastupuju v druhe zastavce od vychozi BTW, je nam to lito“. Tohle se delo nejmene 1x mesicne, v zime. BOZI. V autobuse bleju, proto jezdim vlakem. Jenze kdyz ti kazdy leto daj vyluku na trat a kazdy leto ti tam daji neklimatizovany autobusy a jedno leto dokonce autobusy Brnenske MHD(ktere fakt nejsou na dalkove jizdy upraveny, protoze vetsina lidi v nich STOJI), tak to je taky BOZI!@#!!!! A to nemluvim o tom, kdyz si k tobe prisedne nejaky individuum, ktery smrdi jak pes, kterej se prave vyvalel ve zdechly rybe(no, dobre, trochu prehanim, ale proste smrdi). A pruvodci na to mrda a tobe zbejvaji 2 moznosti, najit jiny volny misto, nebo jit do konfliktu a dotycnej odpad vyhodit z kupe. Taky bozi, to se to panecku spinka, kdyz vedle tebe nekdo hnije. No a nebo si taky pristoupi omladina a na plny kule pusti neco z mobilu, to se to spinka, odpociva a cte. A pruvodci na to mrda. Ale zkus si v lete udelat vetraci skviru v okne ze zavesu, to te pruvodci zprca na 3 doby, ze zaves tam je od jine funkce!!!
Mohl bych pokracovat, ale fakt, ze me CD donutily udelat si ridicak a koupit si auto by mohlo mluvit za vse :) Faktem ale je, ze kdybych jezdil na vice profanovanych trati, kde masivne jezdi IC/EC/Pendolino/Jancura/atp., mozna bych mluvil jinak, jenze tyhle vymozenosti se me netykaly. Protoze ano, na tech tratich sly CD kurevsky nahoru, bohuzel vsude jinde to nahoru leze snecim tempem.
Na vlak to prostě chce romantickou duši a samozřejmě necestovat pak z nádraží někam další hodinu. Minulý rok jsem si dal na konci léta cestu celkem i s metrem 2h 30min do práglu – namísto autem 1h 15 min. Vzal jsem si knížku, ale otevřel jsem jí jednom párkrát, páč venku bylo pořád na co koukat. Po příjezdu domu jsem měl takových zážitků, že jsem si připadal jako že sem zažil asi 40 hodinový den a pořád sem se přiblble usmíval – namísto toho abych vystoupil večer dobitej z auta. No ale samozřejmě takovýmhle stavům předchází zenový cvičení v podobě kanclu s výhledem na polonáves, kde dvakrát tejdně projede starej Franta s králičim hnojem a jednou denně soused s kravskym hnojem – ale ten to veze na lžíci takže nejni čas se tolik pokochat…