Milion totalitních chvilek - zpět na článek

Vrábel je „datový analytik“ který má IT firmu s algoritmy na automatizované „vyhledávání dezinformací“.

Pozor, nikoli ideologické hovado jako Kartous, ale „nestranný statistický odborník na mozek pijavky“, který asi skutečně věří, že jeho algoritmy magicky rozeznají deziformace a manipulace podle počtu vykřičníků za větou apod.

Viz rozhovor, kde Vrabela griloval Kaizer z Echa:

A konečně třetí typ dezinformace – ten ani nepopírá existenci viru, ani se nesoustřeďuje na jeho původ, ale zpochybňuje závažnost tohoto viru a jeho potenciálních rizik. Je velmi kritický k proticovidovým opatřením.

A na tom je něco špatně? Otázka, jestli léčba už teď není pro společnost daleko škodlivější než to, co způsobí covid, je úplně legitimní.

Jenže v oblasti dezinformací, manipulativního obsahu nejde jen o fakta. Jde i o to, jakým jazykem jsou příslušné články psány. Jestli jazykem, který podporuje nenávist nebo nesnášenlivost a kterému říkáme polarizační jazyk, kdy už jen díky tomu, jak jsou napsány, podněcují nenávist vůči lidem s opačným názorem. To je přece podlá taktika.

U té třetí skupiny bych ještě doplnil podnarativy, jak je detekuje náš algoritmus. Patří sem zpochybňování statistiky počtu a příčin úmrtí, zpochybňování přesnosti a výsledku testů. Patří sem popírání účinnosti nošení roušek. Objevil se dokonce text s odvoláním na údajnou americkou studii, podle níž prý nositel roušky podstupuje dvacetkrát větší riziko, že chytne covid, než když roušku nenosí. A poněvadž vím, že pochybnosti o nošení roušek se vyskytují i mezi lékaři, neodpustím si poznámku: Předpokládám, že kdyby šli ošetřovat pacienta s ebolou, tak by si všichni ti kritici z lékařské obce roušku vzali… Patří sem i démonizace očkování a vakcín, jako kdyby prostřednictvím vakcín ze světa nezmizely nemoci, na které dlouho umíraly miliony lidí.

A nakonec, a vnímám to třeba i u vás, sem patří popírání účinnosti a potřebnosti epidemiologických opatření.

Náš algoritmus nevyhodnocuje fakta samotná, ale to, jakým způsobem jsou podávána. My jsme schopni v režimu našeho algoritmu ukázat, které z těch článků v obrovském moři článků na dané téma publikovaných lze důvodně považovat za manipulativní. Jaké texty byly určeny k tomu, aby zvětšovaly trhliny, které i v naší společnosti přirozeně jsou. Ale nejsme státní orgánové, pouze chceme, aby někdo, kdo má vliv na veřejné mínění, od nás naši analytickou informaci vzal v potaz.

Co formulujete vy – jako že covid je tu s námi příliš krátkou dobu na to, abychom o něm všechno věděli -, to jsou určitě legitimní otázky, takže ani náš algoritmus je jako dezinformace nevyhodnocuje.

Důležité je pochopit, že tento algoritmus nebere v úvahu jen fakta samotná, my nejsme fact-checkeři.

On bere v úvahu především jazyk, jakým se informace podávají. Dám příklad Ameriky, abych se nedotkl nikoho odsud. Je myslím velký rozdíl, když napíšete, že Joe Biden je nepoučitelný socialista, a když napíšete, že Biden je kryptokomunistické prase. A ten rozdíl naše algoritmy vnímají.

Když někdo napíše nenávistné věty typu Ta německá kráva Merkelová, horší než Hitler atd., tak my to prostě vyhodnotíme jako obsah nebezpečný pro společnost. Můžu vás uklidnit, náš algoritmus označuje jen velké extrémy. Řekl bych, že takové, které s demokratickým právem na diskusi nemají nic společného.

Takže kdybych napsal, že Merkelová zneužívá koronaviru k prosazení nějaké určité politiky – například společné dluhopisy v EU – a odpustil si tu krávu, váš algoritmus mě nezaeviduje?

Přesně tak. Nejdeme ani tak po klíčových slovech, ale po celkovém kontextu.

Neboli jste vlastně takoví češtináři internetu – hodnotíte sloh, kompozici, výrazivo.

Do značné míry ano. Algoritmus nehodnotí jednotlivá tvrzení na základě využití statistiky, jak by si to možná představoval laik. Základem je takzvaná sémantická analýza, která pracuje s morfologií jazyka, významem slov, celkovým kontextem a podobně.

A nejde právě tohle úplně principiálně proti svobodné diskusi, když se ze sebe někdo udělá arbitra stylu a stanovuje, co je ještě přijatelné, a co už ne?

Já myslím, že nejde. Tipoval bych, že kdybyste články označené naším algoritmem za manipulativní, respektive dezinformační viděl, že byste s obsahem velké většiny z nich nesouhlasil, protože byste si sám řekl, že to už bylo přes čáru.

To je možné, ale neosoboval bych si právo rozhodovat, co je možné psát, a co už je fuj. Notabene s úředním pověřením.

Zaprvé my nejsme státní autorita, téhle činnosti se věnujeme z dobré vůle, poněvadž to cítíme jako problém. A chceme státu dát lepší poznání toho, co se v českém kyberprostoru děje. Jak by případně měl komunikaci s lidmi upravit. Například že té komunikaci vůbec nepomáhá, když vládní představitelé říkají každý něco jiného. V takovém prostředí se zdrojům, které se snaží rozdělit českou společnost, logicky pracuje lépe. Tady my poskytujeme ministerstvu zpětnou vazbu, aby upravilo komunikaci a svou informační politiku. Tak aby měla větší dopad na lidi.

Jak vlastně ten váš algoritmus pracuje? Co ho zajímá? Je to robot, do kterého vy vepíšete nějaké zadání?

Ano, je to robot naprogramovaný člověkem, takže ten program nespadá do umělé inteligence. Pohybujeme se v oblasti strojové inteligence, která je pořád ještě chytřejší než inteligence umělá. Náš algoritmus je mimořádně složitý. Vynechám teď, jak se dostane k relevantnímu textu. Ale když už je u něj, když eliminuje reklamu a začne s textem pracovat, tak rozpozná, v jakém je jazyce, rozpozná, jaká témata jsou v něm diskutována. Pracuje s jazykem a snaží se přitom napodobovat práci v našem mozku. Mozek jsme si my lidé vytvořili pro lepší pochopení informací a pro vytváření představ máme jazyk. Tak ten algoritmus pracuje s jazykem. Prostřednictvím morfologie jazyka pracuje se slovy a jejich významy, se slovními spojeními a také s širším kontextem. Umí například rozpoznat, kdy jde o nenávistnou řeč. Výsledkem analýzy, kterou takto provedl náš robot, jsou metadata, informace o informacích. Ke každému článku tak 200, 300 metadat.

Můžete dát příklad?

Máte článek o covidu-19. Algoritmus k tomu přiřadí hodnotu relevance. Například že se článek z 80 procent dotýká covidu. Vypíše další v textu nakousnutá témata: týká se pandemie, zápalu plic, lékařské techniky, plicních ventilátorů, úmrtí, vládních politik… Identifikuje zmíněné instituce a osoby. Zjistí, že se článek týká řekněme ministerstva zdravotnictví, že obsahuje vyjádření toho či onoho. Vypíše, na které zdroje se článek odvolává. Je toho hodně, z každého zpracovaného článku tak vznikne dlouhý seznam čísel. A s těmi algoritmus dál pracuje. Například ho zajímají všechny články, které se týkají nějaké instituce. A nás v Semantic Visions tradičně zajímají články obsahující dezinformační narativy. Z předchozí práce máme těch dezinformačních narativů – typu Rusko bylo vždycky obětí a nevedlo agresivní války – vypracovaných celou řadu. A podobným stylem jsme přistoupili k tématu covid-19. Takže jsme schopni rozlišit téma covid obecně od manipulativního, nenávistného obsahu, jehož cílem je zmást v této věci veřejnost.

Zadání, z něhož robot pozná, co kolem covidu je manipulativní… Tím ho ale krmí vaši lidé?

Přesně tak.

A dávají tam i kritiku vládních opatření, že jsou přehnaná? Tu kritiku jste jmenoval na začátku jako jeden z vašich podnarativů.

Ne ne ne. Teď nevím, jestli nechcete slyšet, co vám vykládám. Aby byl text uznán za dezinformaci, musí splňovat ještě i ty další dimenze, jako je třeba nenávistná řeč. Anebo tam musí být přítomen ještě další narativ, o němž empiricky víme, že tvoří součást repertoáru dezinformační scény. Takže do rastru nám například spadne autor, když napíše, že to je biologická zbraň, a současně tvrdí, že ta biologická zbraň byla vytvořena k oslabení role Ruska a křesťanství ve světě.

Miluji Echo, tu poslední výspu poctivé žurnalistiky která nenechá na zpovídaném niť suchou.