Kauza Uber vs. člověk má další zajímavé zjištění.
Pochopit rozhodování umělé inteligence je nezbytná věc, abychom s jejími vymoženostmi mohli nadále pracovat. Tohle může být ale zdaleka nejtěžší úkol. Jako z béčkového sci-fi filmu pak vyznívají zprávy jako ta z března, kdy vozidlo Uberu řízené umělou inteligencí srazilo 49letou ženu, která na následky nehody na místě zemřela. Uber poté všechny své testy ihned zastavil.
Častokrát se v těchto situacích opomíná fakt, že umělá inteligence má na svědomí o poznání méně nehod za rok než člověk. Ale to může být jen velmi slabá výmluva, protože všechno, co je nové a má schopnost zabíjet – a zároveň nad tím člověk nemá 100% kontrolu – by se nemělo brát na lehkou váhu.
Report: Uber Autonomous Car Detected Pedestrian Before Fatal Impact but Didn't Stop https://t.co/xNtrHzZJuF pic.twitter.com/BK7O28jKKR
— Segway Touring (@SegwayTouring) May 7, 2018
Vážný případ je nyní prošetřován a přináší první zajímavá zjištění. Autonomní vozidlo společnosti Uber má stovky různých čidel, kamerek a také LIDAR, tedy laserové měřidlo vzdálenosti objektů, které dokáže rozlišovat objekty i ve tmě a za nepříznivých podmínek. Ženu podle nejnovějších informací zachytilo a identifikovalo, takže o hardwarové selhání nešlo. Chyba nastala v softwaru, v kódu rozhodovací části mozkové centrály automobilu, při vyhodnocování objektů.
Podle vyšetřování americké policie stroj jednoduše vyhodnotil přecházející postavu jako nedůležitý objekt, a proto nedošlo k dostatečným opatřením, která by smrtelnému střetu zamezila. Auto nezabrzdilo ani nespustilo žádný poplašný systém. Umělá inteligence zkrátka nepovažovala ženu jako dostatečný důvod k zabrzdění.
Tempe Police Vehicular Crimes Unit is actively investigating
— Tempe Police (@TempePolice) March 21, 2018
the details of this incident that occurred on March 18th. We will provide updated information regarding the investigation once it is available. pic.twitter.com/2dVP72TziQ
Umělá inteligence se učí na podle různých situací a rozhoduje se na základě svých senzorů. Jsou dokonalejší než lidské smysly, ale mají zásadní nevýhodu v tom, že nejsou tak zkušené a nedokážou vyhodnocovat situace „selským rozumem“. Není zase tak důležité, když má někdo nebo něco oči jako ostříž, když je neumí používat a nedokáže rozpoznat to, co vidí. A to je přesně tento případ.
„Úzce spolupracujeme s vyšetřovateli, a proto zatím nemůžeme komentovat detaily tohoto případu,“ vyjádřil se Uber. „Zahájili jsme bezpečnostní přezkoumání našeho samořídícího programu a pečlivě se radíme s odborníky. Po otestování nových procesů se snad budeme moci vyjádřit blíže.“ Případ budeme i nadále sledovat.
