Kiedyś było wirtualna asystentka o imieniu pani Dewey, urodziwa bibliotekarka grana przez Janinę Gavankar, która pomagała ci w twoich pytaniach dotyczących pierwszej próby Microsoftu z wyszukiwarką. Pani Dewey została uruchomiona w 2006 roku wraz z ponad 600 liniami nagranych dialogów. Wyprzedziła swoje czasy na kilka sposobów, ale jeden szczególnie przeoczony przykład został uchwycony przez informatyka Miriam Sweeney w jej rozprawie doktorskiej z 2013 roku, w której szczegółowo omówiła płciowe i rasowe implikacje odpowiedzi Deweya. Obejmowało to takie kwestie, jak: „Hej, jeśli możesz dostać się do swojego komputera, możesz zrobić ze mną, co chcesz”. Albo jak wyszukiwanie słów „obciąganie” powodowało odtwarzanie klipu, na którym jadła banana, lub wpisywanie słów takich jak „getto” sprawiało, że rapowała z tekstami zawierającymi takie klejnoty, jak „Nie, złotozębny, bajeczny skurwysyn z getta BEEP kroki do tego kawałka [ass] BRZĘCZYK.” Sweeney analizuje to, co oczywiste: że Dewey został zaprojektowany z myślą o białym, heteroseksualnym użytkowniku. W końcu blogi w tamtym czasie wychwalały zalotność Deweya.
Pani Dewey została wyłączona przez Microsoft w 2009 roku, ale późniejsi krytycy – w tym ja – zidentyfikowali podobny wzorzec uprzedzeń w sposobie, w jaki niektórzy użytkownicy korzystali z wirtualnych asystentów, takich jak Siri czy Cortana. Kiedy inżynierowie Microsoftu ujawnili, że zaprogramowali Cortanę, aby zdecydowanie odrzucała zapytania lub zaloty o charakterze seksualnym, na Reddicie wybuchło oburzenie. Jeden wysoko oceniony post brzmiał: „Czy ci pieprzeni ludzie są poważni?! „Jej” jedynym celem jest robienie tego, co ludzie jej każą! Hej, suko, dodaj to do mojego kalendarza… Dzień, w którym Cortana stanie się „niezależną kobietą”, to dzień, w którym oprogramowanie stanie się kurewsko bezużyteczne”. Kwitła krytyka takiego zachowania, w tym ze strony waszego skromnego korespondenta.
Teraz, pośród sprzeciwu wobec ChatGPT i jemu podobnych, wahadło mocno się cofnęło i jesteśmy ostrzegani przeciwko współczuje tym rzeczom. To punkt, który poruszyłem po zeszłorocznym fiasku LaMDA AI: bot nie musi być rozumny, abyśmy mogli go antropomorfizować, a fakt ten zostanie wykorzystany przez spekulantów. Podtrzymuję to ostrzeżenie. Ale niektórzy posunęli się dalej i zasugerowali, że wcześniejsza krytyka osób, które wykorzystywały swoich wirtualnych asystentów, jest z perspektywy czasu naiwna. Być może mężczyźni, którzy wielokrotnie nazywali Cortanę „suką”, mieli coś na sumieniu!
Może cię zszokować, gdy dowiesz się, że tak nie jest. Nie tylko poprzednia krytyka nadużyć sztucznej inteligencji była słuszna, ale przewidywała bardziej niebezpieczny cyfrowy krajobraz, przed którym stoimy teraz. Prawdziwym powodem, dla którego krytyka zmieniła się z „ludzie są zbyt wredni dla botów” na „ludzie są dla nich zbyt mili”, jest nagła i radykalna zmiana ekonomii politycznej sztucznej inteligencji, a wraz z nią sprzedaż firm technologicznych. Tam, gdzie kiedyś boty były nam sprzedawane jako idealne służące, teraz będą nam sprzedawane jako nasi najlepsi przyjaciele. Ale w każdym przypadku patologiczna reakcja na każdą generację botów domyślnie wymagała od nas ich humanizacji. Właściciele bota zawsze wykorzystywali nasze najgorsze i najlepsze impulsy jako broń.
Jedna sprzeczna z intuicją prawda na temat przemocy jest taka, że choć odczłowiecza, w rzeczywistości wymaga od sprawcy postrzegania cię jako człowieka. To ponura rzeczywistość, ale wszyscy, od zbrodniarzy wojennych po dziwaków w pubach, do pewnego stopnia podniecają się myślą, że ich ofiary odczuwają ból. Dehumanizacja to nie brak postrzegania kogoś jako człowieka, ale pragnienie postrzegania kogoś jako mniej niż człowieka i odpowiedniego działania. Tak więc na pewnym poziomie to właśnie stopień, w jakim ludzie mylili swoich wirtualnych asystentów z prawdziwymi istotami ludzkimi, zachęcał ich do wykorzystywania ich. Inaczej nie byłoby zabawy. To prowadzi nas do chwili obecnej.
Poprzednia generacja sztuczna inteligencja została nam sprzedana jako doskonali słudzy — wyrafinowany PA lub może komputer Majela Barretta Starship Enterprise. Ulegli, wszechwiedzący, zawsze gotowi służyć. Nowe wyszukiwarki chatbotów również mają te same skojarzenia, ale w miarę ewolucji będą nam również sprzedawane jako nasi nowi powiernicy, a nawet nasi nowi terapeuci.
