W miejscowości Katy w Teksasie (USA) doszło do przerażającego wypadku, który na nowo rozpętał dyskusję o autonomii pojazdów. Pędząca Tesla Model 3 nagle zjechała z drogi i z impetem wbiła się w murowany dom jednorodzinny. Przebywająca wewnątrz 76-letnia kobieta niestety zginęła na miejscu. Kierowca był trzeźwy, ale policji oświadczył wprost – samochód poruszał się z aktywnym Autopilotem. Tragedia pokazuje, jak niebezpieczne bywa bezgraniczne ufanie technologii.
Pułapka marketingu, czyli dlaczego asystenci jazdy wciąż bywają śmiertelnie niebezpieczni
Przypadek z Teksasu to podręcznikowy przykład tzw. uśpienia czujności kierowcy. Chociaż Tesla w oficjalnych dokumentach oraz instrukcjach obsługi drobnym drukiem zaznacza, że jej Autopilot to jedynie zaawansowany asystent jazdy poziomu drugiego (SAE Level 2), nazewnictwo sugeruje coś zupełnie innego. Użytkownicy zbyt mocno ufają algorytmom, zdejmują dłonie z kierownicy i przestają monitorować otoczenie.
W terenie zabudowanym infrastruktura drogowa bywa niezwykle skomplikowana. Gwałtowne cienie, nietypowe odblaski czy brak wyraźnych linii na asfalcie potrafią wtedy kompletnie zdezorientować kamery pojazdu. W ułamku sekundy komputer podejmuje błędną decyzję. Tymczasem zrelaksowany kierowca po prostu nie ma czasu na przejęcie fizycznej kontroli nad kierownicą i pedałem hamulca.
Koszmarny bilans i widmo systemowych zmian. Co dalej z oprogramowaniem Tesli?
Skutki piątkowego incydentu są katastrofalne. Siła uderzenia ważącego niemal dwie tony elektryka była tak ogromna, że auto przebiło ceglaną elewację i wjechało głęboko do wnętrza budynku. Dom został tym samym całkowicie wyłączony z użytku przez inspektorów budowlanych. Rodzina ofiary musiała szukać dachu nad głową w lokalach zastępczych. Córka zmarłej kobiety udostępniła w sieci drastyczne nagranie z monitoringu. Widać na nim, jak Model 3 dosłownie przelatuje przez osiedlową uliczkę.
Sprawą już teraz interesują się amerykańskie federalne agencje bezpieczeństwa, w tym NHTSA. Urzędnicy od dłuższego czasu prowadzą szeroko zakrojone śledztwo w sprawie incydentów z udziałem oprogramowania Tesli. Dla branży automotive to kolejny jasny sygnał. Dopóki producenci nie zaczną wdrażać restrykcyjnych systemów monitorowania wzroku kierowcy, a nazewnictwo funkcji będzie wprowadzać w błąd, na drogach wciąż będzie dochodzić do bezsensownych tragedii.
Źródło: ABC News, The New York Times / Zdjęcie otwierające: Unsplash (@michael_f)
