Nová aktualiazace samořídicího softwaru společnosti Tesla nemá dostatečně bezpečnostní prvky, tvrdí experti na bezpečnost amerického spotřebitelské organizace Consumer Reports.
Automobilka Elona Muska začala na začátku tohoto měsíce zavádět novou aktualizaci, které umožňují oprávněným majitelům „plně autonomní jízdu“ v dalších dopravních situací. Systém je zatím v beta verzi, firma ale plánuje okruh spotřebitelů, kteří ho ve voze mají, dále rozšiřovat.
Majitelé stále musí být schopni okamžitě převzít kontrolu nad vozidlem a Musk na Twitteru připustil, že se mohou vyskytnout „nepředvídané problémy“, které bude třeba v budoucnu vyřešit. Zároveň požádal uživatele, aby „byli paranoidní“.
Časopis Consumer Reports (CR) uvedl, že plánuje nezávisle otestovat aktualizaci softwaru, známou jako FSD beta 9, jakmile ji obdrží jeho vlastní vozidlo. Nicméně zástupci organizace vyjádřili znepokojení už nad záběry chování vozu, které se objevily na internetu. Na některých je vidět, jak vůz naráží do křoví, vynechává zatáčky, či dokonce míří k zaparkovaným autům.
Automobil Tesla Autopilot namísto drahého lidaru (de facto „laserového radaru“), který preferuje řada jiných společností z oboru, využívá ke sledování okolí kamery, ultrazvukové senzory a radar. Podle dnešních standardů je autopilot Tesly považován za „částečně automatizovaný“ systém úrovně 2 (přehled standardu najdete na konci článků).
Neplacení betatestři
Vozidla Tesla již měla určitou úroveň autonomie při jízdě po dálnicích. FSD beta 9 však umožňuje větší automatizaci jízdních úkonů, včetně možnosti umožnit mu pohybovat se po křižovatkách a městských ulicích.
„Videa s FSD Beta 9 v akci neukazují systém, který by dělal řízení bezpečnějším nebo dokonce méně stresujícím,“ řekl Jake Fisher, senior ředitel Centra automobilových testů CR. “ Spotřebitelé jednoduše platí za to, že se stávají beta testery vyvíjené technologie bez adekvátní bezpečnostní ochrany.“
Profesor MIT Bryan Reimer, který se zabývá výzkumem automatizace vozidel, řekl pro Consumer Report, že „zatímco řidiči si mohou být vědomi zvýšeného rizika, které podstupují, ostatní účastníci silničního provozu – řidiči, chodci, cyklisté atd. nevědí, že se nacházejí v přítomnosti testovacího vozidla, a podstupují tak riziko, se kterým nesouhlasili.“
Přístup společnosti Tesla je v kontrastu s ostatními společnostmi vyvíjejícími technologii samořízených automobilů, jako jsou Argo AI, Cruise a Waymo. Ty že omezují testování svého softwaru na soukromé tratě, případně využívají vyškolené bezpečnostní řidiče jako kontrolory. Společnost Tesla na žádosti Consumer Report o komentář nereagovala.
Fisher a další se domnívají, že Tesla by měla přinejmenším monitorovat řidiče v reálném čase, aby se ujistila, že dávají pozor při používání nového softwaru. Fisher například tvrdí, že aktualizovaný software má „působivou“ grafiku na obrazovce, ale obává se, že i krátký pohled řidiče na displej může být příliš dlouhý na to, aby systém zabránil nárazu do auta nebo chodce. Některé nové vozy Tesla jsou vybaveny kamerami pro sledování řidiče v reálném čase. Experti Consumer Report ovšem pochybují o o jejich účinnosti.
„Tesle nestačí jen požádat lidi, aby dávali pozor – systém musí zajistit, aby se lidé věnovali řízení, když je v provozu,“ říká Fisher, který doporučuje, aby Tesla používala systémy sledování řidiče ve voze, které zajistí, že řidiči budou mít oči na silnici. „Už víme, že testování samořídicích systémů bez odpovídající podpory řidiče může skončit – a také skončí – smrtelnými nehodami.“
Testovací samořízené vozidlo společnosti Uber v roce 2018 srazilo a způsobilo smrt 49leté Elaine Herzbergové, když přecházela ulici v oblasti Phoenixu. Vyšetřováním bylo zjištěno, že posádka se nevěnovala řízení a nijak nestačila zareagovat na nehodu a bezpečnostní prvky systému byly do značné míry „osekány“. Federální vyšetřování částečně vinilo ze srážky nedostatečnou regulaci a nevhodné bezpečnostní zásady společnosti Uber. Po této tragédii zavedlo mnoho společností přísnější interní bezpečnostní pravidla pro testování samořídicích systémů. Jde například právě o sledování řidičů, které mají zajistit, že se nerozptylují. Firmy také více spoléhají na simulace a uzavřené testovací dráhy.
Jako opilý řidič?
Kromě inženýrů společnosti CR vyjádřili obavy o výkonnost nového softwaru Full Self-Driving i odborníci z oboru, kteří sledovali videa s tímto softwarem v akci.
Selika Josiah Talbottová, profesorka na American University School of Public Affairs ve Washingtonu, D.C., která se zabývá autonomními vozidly, uvedla, že Tesly vybavené FSD beta 9 se na videích, která viděla, chovají „téměř jako opilý řidič“, který se snaží udržet v jízdním pruhu. „Kličkuje vlevo, kličkuje vpravo,“ říká. „Zatímco jeho pravotočivé zatáčky se zdají být poměrně pevné, levotočivé jsou hodně divoké.“
Video, které na YouTube nahrál uživatel AI Addict, ukazuje působivou navigaci kolem zaparkovaných vozidel a přes křižovatky. Auto se při jízdě však také dopouští mnoha chyb. Tesla mimo jiné zavadí o keř, po odbočení najede do špatného pruhu a zamíří přímo do zaparkovaného auta. Software se také občas během jízdy odpojí a náhle přenechá řízení řidiči.
„Je těžké zjistit jen na základě sledování těchto videí, v čem přesně problém spočívá, ale už z pouhého sledování videí je jasné, že má problém s detekcí nebo klasifikací objektů,“ říká Missy Cummingsová, odbornice na automatizaci, která je ředitelkou laboratoře Humans and Autonomy Laboratory na Dukeově univerzitě v Durhamu ve státě New York, N.C. Jinými slovy, auto se snaží určit, co jsou objekty, které vnímá, nebo co má s těmito informacemi dělat, případně obojí.
Podle Cummingsové je možné, že Tesla nakonec vytvoří samořídící vůz. Zatím ovšem automobilka neprovedla dost zkušebních jízd, aby něčeho takového se stávajícího softwaru mohla vůbec dosáhnout. „Nevylučuji, že někdy v budoucnu je to možné. Ale funguje to už nyní? Ne. Přihořívá alespoň? Ne.“
Testování bez souhlasu
Dát beta verze softwaru přímo do rukou spotřebitelů není nic neobvyklého, při vývoji počítačového softwaru je naopak běžný. Na silnici by mohl způsobit skutečné problémy, upozornila Cummingsová: „Je to étos Silicon Valley, že software je z 80 procent hotový, pak ho uvolníte a necháte uživatele, aby odhalily chyby. A to je možná v pořádku pro váš mobilní telefon, ale není to v pořádku pro systém kritický z hlediska bezpečnosti.“
Dodejme, že nikdo nezpochybňuje, že výkony systému se zlepšují. I odborníci oslovení Consumer Report si všimli výrazného zlepšení výkonu mezi staršími a novějšími videi Tesly automatizujícími úkoly řízení. „Je zajímavé, jak rychle inženýři v Tesle zřejmě využívají data ke zlepšení výkonu systému,“ řekl například již citovaný Bryan Reimer z MIT.
Dokud se však Tesly nestanou skutečně autonomními, mohla by taková postupná zlepšení snížit ostražitost řidičů. Ti se začnou spoléhat na to, že auto bude rozhodovat za ně, byť na to ve skutečnosti není připraveno, obává se James Fisher: „Když bude software většinu času fungovat dobře, může se drobná chyba změnit v katastrofu, protože řidiči budou systému více důvěřovat a méně se zapojí, když to bude potřeba.“
Aby se tomu předešlo, Fisher, Reimer, Talbottová a další vyzývají Teslu, aby začlenila robustní systémy monitorování řidiče. Ty by měly v reálném čase sledovat, zda osoba za volantem je připravena převzít řízení. Tesla se ale zatím zdráhá takové řešení zavádět.
To se jí může vymstít, odhaduje Jason Levine, výkonný ředitel amerického Centra pro bezpečnost automobilů (Center for Auto Safety), americké zájmové organizace orientující se na bezpečnost silničního provozu. Levine říká, že automatizace může zachránit životy, ale pouze v případě, že řidiči si bude jasně vědomi omezení technologie. „Výrobci vozidel, kteří se rozhodnou bez souhlasu testovat své nevyzkoušené technologie na majitelích svých vozidel i na široké veřejnosti, v lepším případě ohrožují pokrok ve vývoji a zavádění nových bezpečnostní technologií, v horším případě mohou mít na svědomí nehody a úmrtí, kterým šlo předejít.“ Levine a další navíc tvrdí, že Tesla používá marketingové termíny, jako je „plně samořídící“, které vytvářejí klamný dojem, že vozidla mohou řídit bez zásahu člověka.
Sama mezi všemi
Přístup Tesly k testování softwaru na veřejných silnicích bez monitoringu řidičů dělá z automobilky „vlka samotáře“ v odvětví, které jinak dbá na bezpečnost, tvrdila pro Consumer Report Talbottová, která pracovala mimo jiné i jako odbornice na hodnocení bezpečnosti vozidel a právnička se specializací na tuto oblast: „Zbytek odvětví říká: ‚Chceme to udělat správně, chceme získat důvěru veřejnosti, chceme, aby regulační orgány byly našimi partnery“. Dosud „správná praxe“ podle ní znamenala, že softwar vozidel se před testováním na veřejných silnicích ověřoval na vozech s vyškolenými řidiči a na uzavřených testovacích trasách.
Pravdou je, že především právě po již zmíněné smrtelné nehodě Uberu v roce 2018 jsou ostatní výrobci velmi opatrní. Jistě, i další splečnosti (Argo AI, Cruise, Waymo) zkoušejí prototypy samořídících vozidel na veřejných komunikacích, ale jejich postupy jsou jiné než Tesly. „Každá změna našeho softwaru prochází přísným procesem uvolňování a je testována kombinací simulačních testů, testování na uzavřených tratích a jízd na veřejných komunikacích,“ uvedl pro Consumer Report mluvčí společnosti Waymo Sandy Karp. Ray Wert ze společnosti Cruise zase tvrdil, že autonomní vozidla jeho společnosti budou nasazena až poté, co se společnost přesvědčí, že jsou bezpečnější než lidé za volantem.
Přístup Tesly ovšem zatím nenašel odpůrce tam, kde na tom opravdu záleží. Americké federální úřady se zatím neodhodlaly přesně určilt, jaké druhy softwaru pro řízení vozidel lze na veřejných komunikacích přesně používat. Nepochybně přitom jsou pod jistým tlakem, aby zasáhly: „Nikdy jsem neviděl nic podobného, jako vidíme dnes v případě společnosti Tesla, kdy jako by americké ministerstvo dopravy mělo klapky na očích,“ divila se napříkald Talbottová před novináři.
Jak ale přibývá událostí na silnicích, objevují se náznaky, že americká reuglace přitvrdí. Například Národní úřad pro bezpečnost silničního provozu zpřísnil požadavky na hlášení o nehodách, do kterých byly zapleteny vozy se zapnutými prvky „autonomního řízení“. K výraznější regulaci a zákazům je ovšem v USA ještě daleko.
Známky pro samořidiče
Je jasné, že auta se ještě nějakou dobu neobejdou na silnicích bez lidské pomoci a dozoru. Jejich dospívání k samostatnosti se dnes nejčastěji hodnotí známkováním, které připravila mezinárodní skupina odborníků na automobilovou techniku SAE. Samořídící auta podle se známkují přesně opačně než děti v českých školách: známka 1 je vyhrazena pro ty, co umí nejméně, známka 5 je určena pro ty nejlepší. (Což je stejně jako v Estonsku či Turecku, pro zajímavost.)
1: PODPORA ŘIDIČE
To je vůz, který řidiči pomáhá. Příkladem může být tempomat, který sám udržuje rychlost a odstup od vpředu jedoucího vozidla. Počítač v autě může mírně zasahovat do řízení na základě aktuální jízdní situace, konkrétně zrychlovat, zpomalovat, lehce zatáčet. Ovšem auto může vykonávat vždy jen jednu funkci, nikoli je kombinovat.
2: ČÁSTEČNÁ AUTOMATIZACE
Tomuto stupni se přezdívá „nohy z pedálů, oči na silnici“. Takový systém dokáže v podstatě totéž co „jednička“, ovšem může zkombinovat několik činností najednou. Dokáže samo zároveň například zrychlovat a točit volantem. Řidič ale doslova nemůže spustit oči ze silnice, musí být vždy připraven okamžitě převzít řízení. Dobrý příkladem je systém automatického parkování.
3: PODMÍNĚNÁ AUTOMATIZACE
Na úrovni 3 už může počítač za určitých okolností úplně převzít kontrolu nad vozem. Nezvládne žádné složité situace, ale dokáže si poradit například na široké dálnici s dobře vyznačenými jízdními pruhy. Řidič nemusí mít ruce na volant, a ani nemusí sledovat silnici, ale stále musí být připraven na upozornění systému převzít řízení. Autopilot při jízdě po dálnici automaticky zrychluje, řídí, brzdí, a dokonce se i vyhýbá.
4: VYSOKÁ AUTOMATIZACE
Situace je přesně opačná než v případě stupně 3. Auto se většinou řídí samo, člověk musí zasáhnout pouze občas. Například, pokud je velmi špatné počasí, husté sněžení apod. Důležité je, že auto si umí poradit i v případě, kdy vyzve člověka k převzetí řízení, ale ten nereaguje. Samo pak bezpečně zastaví.
5: PLNÁ AUTOMATIZACE
Stroj zvládá úplně všechny situace, volant není vůbec potřeba. Člověk jen nasedne a dá vědět, kam chce jet.
