Nieuczciwe zautomatyzowane systemy zatrudniania są wszędzie

Wcześniej w tym miesiącu, Lina Khan, przewodnicząca amerykańskiej Federalnej Komisji Handlu (FTC), napisała esej w The New York Times potwierdzając zaangażowanie agencji w regulowanie sztucznej inteligencji. Ale była jedna aplikacja AI, o której Khan nie wspomniał, a którą FTC pilnie musi uregulować: zautomatyzowane systemy zatrudniania. Ich złożoność waha się od narzędzi, które jedynie analizują życiorysy i oceniają je, po systemy, które kandydaci na zielone światło i kandydaci do kosza uznali za nieodpowiednie. Coraz częściej pracujący Amerykanie są zobowiązani do korzystania z nich, jeśli chcą zostać zatrudnieni.

W mojej ostatniej książce pt. Pracownik ilościowyTwierdzę, że amerykański pracownik jest redukowany do liczby przez technologie sztucznej inteligencji w miejscu pracy, wśród których dominują zautomatyzowane systemy zatrudniania. Systemy te redukują kandydatów do wyniku lub rangi, często ignorując gestalt ich ludzkiego doświadczenia. Czasami nawet sortują ludzi według rasy, wieku i płci, co jest prawnie zabronione jako część procesu podejmowania decyzji o zatrudnieniu.

Jak na ironię, wiele z tych systemów jest reklamowanych jako wolne od uprzedzeń lub gwarantujące zmniejszenie prawdopodobieństwa dyskryminacyjnego zatrudniania. Ale ponieważ są one tak luźno uregulowane, wykazano, że takie systemy odmawiają równych szans zatrudnienia na podstawie chronionych kategorii, takich jak rasa, wiek, płeć i niepełnosprawność. Na przykład w grudniu 2022 r. związek zawodowy kobiet ciężarówek pozwał Meta, twierdząc, że Facebook „wybiórczo wyświetla ogłoszenia o pracę na podstawie płci i wieku użytkowników, przy czym starsi pracownicy znacznie rzadziej widzą reklamy, a kobiety znacznie rzadziej widzą reklamy niebieskich- pozycji kołnierza, zwłaszcza w branżach, które historycznie wykluczały kobiety”. To jest zwodnicze. Co więcej, jest to niesprawiedliwe zarówno dla kandydatów do pracy, jak i pracodawców. Pracodawcy kupują zautomatyzowane systemy zatrudniania, aby zmniejszyć swoją odpowiedzialność za dyskryminację w zatrudnieniu, a dostawcy tych systemów są prawnie zobowiązani do uzasadnienia swoich roszczeń dotyczących skuteczności i uczciwości.

Prawo stawia zautomatyzowane systemy zatrudniania pod nadzorem FTC, ale agencja nie wydała jeszcze szczegółowych wytycznych dotyczących tego, jak dostawcy tych systemów powinni reklamować swoje towary. Powinien zacząć od wymogu audytu, aby upewnić się, że zautomatyzowane platformy rekrutacyjne spełniają obietnice, które składają pracodawcom. Sprzedawcy tych platform powinni być zobowiązani do dostarczania jasnych zapisów z audytów wykazujących, że ich systemy zmniejszają stronniczość w podejmowaniu decyzji o zatrudnieniu zgodnie z reklamą. Audyty te powinny być w stanie wykazać, że projektanci postępowali zgodnie z wytycznymi Komisji ds. Równych Szans Zatrudnienia (EEOC) podczas tworzenia platform.

Ponadto, we współpracy z EEOC, FTC mogłaby ustanowić znak Fair Automated Hiring Mark, który byłby używany do poświadczania, że ​​zautomatyzowane systemy zatrudniania przeszły rygorystyczny proces audytu. Jako imprimatur znak byłby użytecznym sygnałem jakości dla konsumentów – zarówno wnioskodawców, jak i pracodawców.

FTC powinna również zezwolić osobom ubiegającym się o pracę, które są konsumentami internetowych systemów aplikacji obsługujących sztuczną inteligencję, na wniesienie pozwu na podstawie federalnej ustawy o raportach kredytowych (FCRA). Wcześniej uważano, że FCRA ma zastosowanie tylko do agencji kredytowych Wielkiej Trójki, ale uważna lektura pokazuje, że prawo to może mieć zastosowanie zawsze, gdy tworzony jest raport dotyczący jakiejkolwiek „decyzji gospodarczej”. Zgodnie z tą definicją profile kandydatów utworzone przez internetowe platformy do automatycznego zatrudniania są „raportami konsumenckimi”, co oznacza, że ​​podmioty, które je wygenerowały (takie jak internetowe platformy rekrutacyjne), byłyby uważane za agencje sporządzające sprawozdania kredytowe. Zgodnie z FCRA każdy, kto jest przedmiotem jednego z tych raportów, może zwrócić się do agencji, która go sporządziła, o zapoznanie się z wynikami i zażądać poprawek lub poprawek. Większość konsumentów nie wie, że przysługują im te prawa. FTC powinna rozpocząć kampanię edukacyjną informującą wnioskodawców o tych prawach, aby mogli z nich skorzystać.