Pycha absolutna Elona Muska. „Mamy moralny obowiązek wdrożyć to rozwiązanie”

Poniższa rekonstrukcja trasy Huanga opiera się w dużej mierze na dokumentach z akt sprawy prowadzonej przez Narodową Radę Bezpieczeństwa Transportu (NTSB).

Niedługo przed wypadkiem Huang miał problemy ze swoim modelem X. Samochód, którego regularnie używał w trybie autopilota, wielokrotnie zbaczał w stronę betonowej bariery na drodze US 101, którą codziennie jechał do pracy, zmuszając go do korygowania kursu.

23 marca 2018 roku, około godziny dziewiątej rano, kilka minut po odwiezieniu syna Tristana do przedszkola, Huang, inżynier oprogramowania firmy Apple, włączył autopilota i ruszył na południe autostradą 101 w kierunku swojego miejsca pracy. Mniej więcej w tym samym czasie odpalił też grę strategiczną „Three Kingdoms”.

Samochód wykrył, że kierowca nie trzyma kierownicy i wielokrotnie włączał wizualny sygnał ostrzegawczy, który następnie przeradzał się w irytujący dźwięk, mający wywołać jakąś reakcję. To procedura dobrze znana kierowcom wykazującym tendencję do ignorowania alertów systemów automatycznych. Niestety, Huang nie reagował na ostrzeżenia. Autopilot, zaprogramowany do śledzenia linii pasa ruchu i utrzymywania właściwej odległości od pojazdów jadących z przodu, pozostawał aktywny.

Po około 27 minutach jazdy, w pobliżu skrzyżowania autostrady US 101 i drogi stanowej 85, na północ od San Jose, Huang dotarł do miejsca, w którym jego samochód już wcześniej zjeżdżał z trasy. Najwyraźniej nie zareagował wystarczająco szybko. Auto skręciło i jadąc wzdłuż „wyblakłej i prawie całkowicie zamazanej” linii pasa ruchu, znalazło się w pustej przestrzeni między dwiema drogami — ruchliwą US 101 i wjazd na Route 85 rozdzielała tu betonowa bariera.

Gdy SUV Huanga znalazł się na tej ziemi niczyjej, nie miał przed sobą żadnych samochodów, więc zrobił to, do czego został zaprogramowany — przyspieszył do maksymalnej prędkości ustawionej przez kierowcę. W ciągu dwóch sekund wzrosła ona z 99 kilometrów na godzinę do 104, potem do 109, a w ostatniej sekundzie do 112.

Autopilot był ustawiony na 120 kilometrów na godzinę, jednak samochód nigdy nie osiągnął tej prędkości. Tesla Huanga stała się nieposkromioną siłą, która uderzyła w nieruchomy obiekt. Według śledczych wbiła się w barierę z prędkością około 114 kilometrów na godzinę. Stwierdzili oni, że „uderzenie obróciło SUV-a w kierunku przeciwnym do ruchu wskazówek zegara i [doprowadziło do] oddzielenia się przedniej części nadwozia od tylnej”. Wóz uderzył również w dwa inne pojazdy — spowodował niewielkie obrażenia u 25-letniego kierowcy mazdy 3 i poważne uszkodzenia przedniego błotnika po stronie kierowcy, gdy tesla wróciła na pas ruchu, po czym się zatrzymała. Akumulator został rozerwany, a auto stanęło w płomieniach.

Świadkowie wypadku znaleźli Huanga przypiętego do fotela kierowcy. Wyciągnięto go z wraku i przewieziono karetką do szpitala Stanford Health Care. O godzinie 13.02 Waltera Huanga uznano za zmarłego.

Elon Musk po prostu się rozłącza

Robert Sumwalt przez ponad dziesięć lat pracy w Narodowej Radzie Bezpieczeństwa Transportu (NTSB) jeździł na miejsca katastrof lotniczych i kolejowych oraz awarii infrastruktury.

Główny federalny śledczy do spraw bezpieczeństwa siedział przy stole konferencyjnym w swoim gabinecie na szóstym piętrze budynku wchodzącego w skład waszyngtońskiego kompleksu agencji federalnych znanego jako L’Enfant Plaza, wpatrywał się w iPhone’a i nie mógł otrząsnąć się ze zdumienia.

„Rozłączył się” — wydukał.

„Tak, rozłączył się” — potwierdził Dennis Jones, weteran agencji z prawie czterdziestoletnim stażem, który siedział po drugiej stronie stołu i również próbował dojść do siebie po tym, co zaszło.

Ze wspomnień Sumwalta wynika, że podczas odbytej 11 kwietnia 2018 roku ponad 20-minutowej burzliwej rozmowy Elon Musk wściekał się, protestował, groził pozwem, a w końcu, gdy śledczy do spraw bezpieczeństwa odmówili podporządkowania się jego woli, raptownie zakończył rozmowę. Był to podręcznikowy przykład lekceważenia przez Muska społeczeństwa, które obdarzyło go boską władzą, a także pogardy dla instytucji odpowiedzialnych za bezpieczeństwo, mających pilnować, by tej władzy nie nadużywał.

Prezes Tesli był święcie przekonany, że autopilot znacznie poprawi bezpieczeństwo ruchu i stanowi zapowiedź czasów, kiedy ludzie nie będą ginąć na drogach. Pomysł tego oprogramowania zrodził się na zebraniu w Tesli, podczas którego jeden z inżynierów zapisał na tablicy roczną liczbę ofiar wypadków, czym poruszył uczestników spotkania. Już wtedy wielkie firmy technologiczne, takie jak Google i Uber, planowały wprowadzenie na drogi flot pojazdów autonomicznych. Pomysł Tesli wyróżniał się jednak tym, że zakładał autonomię prywatnych pojazdów osobowych. Firmie zależało na jak najszybszej realizacji tego celu.

Autopilot to zestaw funkcji wspomagających, które umożliwiają samochodom przemieszczanie się od wjazdu na autostradę do zjazdu z niej bez fizycznej interwencji kierowcy. To rodzaj zaawansowanego tempomatu, który daje konsumentom namacalny dowód przewagi technologicznej Tesli nad innymi producentami samochodów. Kontroluje prędkość auta i odległość od innych pojazdów, trzyma się linii pasa ruchu, a nawet potrafi zmieniać pasy na trasie. Z kolei full self-driving (system jazdy w pełni autonomicznej) miał przenieść te możliwości na ulice miast i osiedli, dodając funkcję skręcania, zatrzymywania się na czerwonym świetle i znakach stopu oraz podążania za wskazówkami nawigacji.

Tesla opracowała przydatny argument do dyskusji o autopilocie — z porównania danych o wypadkach wynikało, że jazda na nim jest bezpieczniejsza. (Argument ten miał jednak zasadniczą wadę: otóż autopilot był przeznaczony do jazdy po autostradach, a ta jest z natury mniej skomplikowana). Jednak nawet po latach stanowisko Muska nie uległo zmianie. Do oprogramowania full self-driving, bardziej zaawansowanej wersji autopilota, przeznaczonej do użytku podczas znacznie bardziej skomplikowanej jazdy po miastach i ulicach osiedlowych, zastosował tę samą logikę co przy autopilocie. Zachęcał kierowców do postrzegania systemów zaprojektowanych z myślą o ich wygodzie jako przełomowych rozwiązań ratujących życie i mogących zapobiegać wypadkom. Jego twierdzenia były w najlepszym razie niepoparte dowodami, a w najgorszym — lekkomyślne.

Musk wydawał się wierzyć, że nawet jeśli w trakcie tego procesu zginą ludzie, to ci, którzy sprzeciwiają się jego wizji przyszłości, stanowią przeszkodę na drodze do postępu. Tę filozofię w pełni wyraził podczas wydarzenia poświęconego autonomii, które odbyło się kilka lat później, w 2022 roku: „Skoro z naszych ustaleń wynika, że autonomia zmniejsza liczbę obrażeń i ofiar śmiertelnych, mamy moralny obowiązek wdrożyć to rozwiązanie, nawet jeśli zostaniemy pozwani i obarczeni winą. Tak to już jest, że ludzie, którym uratowaliśmy życie, zwykle o tym nie wiedzą. O słuszności naszych twierdzeń przekonują się tylko ci, którzy odnoszą obrażenia lub giną — albo w ich imieniu władze”.

Wychodził z założenia, że mechanizmy ustanowione przez społeczeństwo w celu zapobiegania wypadkom samochodowym są nieskuteczne lub, co gorsza, stanowią wręcz przeszkodę w realizacji tego moralnego imperatywu. Jego wielbiciele i internetowi fani podzielali to przekonanie. Uważali metody za słuszne, a sposób działania Muska za jedyny możliwy. Kim są rządzący, żeby stać mu na drodze? Skąd mogą mieć wiedzę, technologiczne know-how i dane pozwalające go pokonać? Co oni kiedykolwiek stworzyli?

Jak rząd USA uratował Teslę

Musk i Tesla już w przeszłości toczyli walki z organami regulacyjnymi w Waszyngtonie. Tesla postawiła na sztuczną inteligencję i realizację wyzwania stulecia: oddania w ręce klientów w pełni autonomicznego pojazdu. To ambitne przedsięwzięcie różniło się od komercyjnych projektów robotaksówek konkurencyjnych firm technologicznych, takich jak Google i Apple. Organy regulacyjne i urzędnicy do spraw bezpieczeństwa w rządzie federalnym, którzy opracowali zestaw przepisów dotyczących eksperymentów laboratoryjnych w Dolinie Krzemowej (testy na małą skalę w ściśle ograniczonej przestrzeni), nie kryli zaskoczenia, gdy pod koniec 2014 roku Tesla zaczęła wprowadzać do swoich samochodów funkcje autonomiczne.

Musk mógł mieć pretensje do Waszyngtonu za ingerencje w jego pracę, ale w znacznym stopniu to właśnie im zawdzięczał sukces Tesli. W 2009 roku firma znajdowała się na skraju upadłości, ponieważ kryzys finansowy przyniósł spadek popytu na drogie samochody elektryczne. Tesla wyprodukowała elegancki wóz sportowy Roadster, który oferował dreszczyk emocji związany z natychmiastowym momentem obrotowym w połączeniu z elektrycznym układem napędowym, po części zainspirowany autem Lotus Elise, z centralnie umieszczonym silnikiem. Ten dreszczyk emocji miał jednak swoją cenę: pojazd kosztował około 100 tysięcy dolarów, czyli ponaddwukrotnie więcej niż elise. W pogarszającej się sytuacji gospodarczej, która zagrażała produkcji modelu S — samochodu, który później miał zapewnić firmie sukces na całym świecie — Tesla znalazła dwóch wybawców. Koncern motoryzacyjny Daimler (obecnie Mercedes Benz Group AG) zwrócił się do Tesli z propozycją budowy układów napędowych do swoich elektrycznych samochodów Smart. W tym samym czasie na Teslę postawił również rząd USA, który dążył do upowszechnienia samochodów elektrycznych. Departament Energii zaoferował firmie pożyczkę w wysokości 465 milionów dolarów, która okazała się niezbędna do kontynuowania działalności.

W wywiadzie udzielonym w 2011 roku pismu „Atlantic” Musk przyznał, że jego firma jest zależna od rządu.

„Tesla otrzymała pożyczkę rządową — powiedział. — Jeśli mamy skutecznie konkurować z GM, Fordem, Chryslerem i innymi koncernami motoryzacyjnymi, a one otrzymują ogromne kwoty od rządu przy zerowym koszcie kapitału, trudne zadanie, jakie przed nami stoi, staje się jeszcze trudniejsze. Byłoby więc naprawdę nierozsądne, gdybyśmy nie skorzystali z tej oferty”.

W nadchodzących latach Teslę czekał kolejny sukces. Rząd zachęcał dużych producentów samochodów do przejścia na napęd elektryczny, ale nie mieli oni ani możliwości, ani woli, by to uczynić, zwłaszcza w okresie spowolnienia gospodarczego. Tesla natomiast produkowała tysiące pojazdów elektrycznych na kwartał. Dlaczego Detroit nie mogło po prostu przypisać sobie jej zasług? Producenci samochodów, tacy jak Chrysler, zaczęli kupować od niej tak zwane kredyty regulacyjne, by móc przekroczyć stanowe wymagania emisyjne, wynikające z federalnej ustawy o czystym powietrzu. Takie rozwiązanie zapewniło Tesli rentowność, która pomogła Muskowi stać się najbogatszym człowiekiem świata. Jego firma nie tylko uzyskała wieloletnią przewagę nad konkurencyjnymi koncernami, lecz także zarobiła na ich nieumiejętności przystosowania się do nowych warunków.

Fragment książki „Pycha absolutna. Elon Musk. Biografia” Faiza Siddiqui wydanej przez Wydawnictwo W.A.B. Tytuł, lead i skróty od redakcji „Newsweeka”. Książkę można kupić tutaj.