Když robot nevidí přívěs. Waymo stáhlo z ulic své autonomní taxíky

Dvakrát stejná chyba vyvolala reakci

Řídí bez volantu, ale zodpovědnost zůstává lidská. Waymo, dceřiná společnost Googlu, stáhla z provozu 1225 svých autonomních vozidel. Důvodem byly dvě nehody během několika vteřin na téměř stejném místě. Co mělo být důkazem technologické vyspělosti, se proměnilo ve varování, že i digitální řidič může minout realitu.

Podle agentury Reuters došlo k oběma incidentům 3. května v americkém Phoenixu. Dvě vozidla Waymo nezávisle na sobě narazila do přívěsu, který částečně zasahoval do jízdního pruhu. Systém jej však vyhodnotil jako součást volné cesty. Nehody se obešly bez zranění, ale společnost nečekala a okamžitě vyhlásila svolávací akci. Všechny její autonomní taxíky obdržely prostřednictvím OTA softwarovou opravu, která má chybu v rozpoznávání podobných překážek odstranit.

Za tak razantním zásahem provozovatele robotických taxíků bylo právě opakování stejné chyby v krátkém časovém intervalu. Šlo totiž o selhání ve scénáři, který systém Waymo nedokázal správně vyhodnotit. V praxi to znamená, že vozidla zareagovala identicky chybně bez zpomalení či změny směru. Případ ukazuje limity strojového učení v prostředí, které není zcela standardní.

Selhání u lídra trhu

Waymo je považováno za technologického lídra v oblasti autonomního řízení. O to větší pozornost vyvolává fakt, že i tento systém může selhat při základním vyhodnocení prostoru. Firma sice zdůraznila, že šlo o výjimečný typ situace, ale incident znovu otevírá otázky bezpečnosti plně autonomních vozů v běžném provozu.

Aktuální případ je už třetí svolávací akcí společnosti Waymo v posledních dvou letech spojenou s nesprávným rozpoznáním objektů. V únoru 2024 firma řešila kolize způsobené chybným vyhodnocením pohybu tažených vozidel. V červnu téhož roku následovala svolávací akce kvůli kolizi s telefonním sloupem. Výhodou systému je samozřejmě schopnost rychlé aktualizace bez fyzického zásahu. Nevýhodou však zůstává, že algoritmus může selhat i v momentě, kdy mu chybí data o atypickém objektu. Právě takové případy se pak stávají nečekaným testem celé technologie.

Waymo uvedlo, že softwarová aktualizace již byla provedena a problém tím byl stejně jako v předchozích případech odstraněn. Otázkou ale zůstává, jak se podobné události promítnou do důvěry veřejnosti a přístupu regulačních úřadů. Systémy bez řidiče možná neúnavně sledují silnici, ale stále potřebují dohled. I v éře autonomie tak zůstává lidská kontrola nezbytnou pojistkou bezpečnosti.