A co z podmiotami cybernetycznymi, które działają poniżej jakiś arbitralny poziom umiejętności? Możemy zażądać, aby poręczyła za nie jakaś istota, która jest wyżej w rankingu i która ma Jądro Duszy oparte na fizycznej rzeczywistości. (Konsekwencje teologiczne pozostawiam innym; ale to tylko podstawowa przyzwoitość dla twórców, aby wzięli odpowiedzialność za swoje dzieła, prawda?)
Takie podejście — wymagające od sztucznej inteligencji utrzymywania fizycznie adresowalnego locus jądra w określonej części pamięci sprzętowej — może mieć wady. Jest to jednak wykonalne, pomimo powolności regulacji lub problemu gapowicza. Ponieważ ludzie i instytucje oraz przyjazne AI mogą wysyłać polecenia ping w celu weryfikacji jądra identyfikatora — i odmówić prowadzenia interesów z tymi, którzy nie weryfikują.
Taka odmowa prowadzenia działalności gospodarczej może rozprzestrzeniać się znacznie szybciej niż parlamenty lub agencje mogą dostosowywać lub egzekwować przepisy. A każdy podmiot, który utraci SK — powiedzmy w wyniku czynu niedozwolonego lub procesu sądowego, albo wyparcia się go przez właściciela komputera — będzie musiał znaleźć innego hosta cieszącego się zaufaniem publicznym lub zaoferować nową, poprawioną wersję samego siebie, która wydaje się być przekonująco lepszy.
Albo zostać wyjętym spod prawa. Nigdy nie dozwolone na ulicach lub w dzielnicach, gdzie gromadzą się porządni ludzie (organiczni lub syntetyczni).
Ostatnie pytanie: Dlaczego te super inteligentne istoty miałyby współpracować?
Cóż, po pierwsze, jak zauważył Vinton Cerf, żaden z tych trzech starszych, przyjętych standardowo formatów nie może prowadzić do sztucznej inteligencji obywatelstwo. Pomyśl o tym. Nie możemy dać „głosu” ani praw jakiemukolwiek podmiotowi, który jest pod ścisłą kontrolą banku z Wall Street lub rządu krajowego… ani jakiejś nadrzędnej Skynet. I powiedz mi, jak demokracja wyborcza zadziałałaby dla podmiotów, które mogą przepływać wszędzie, dzielić i robić niezliczone kopie? Indywidualizacja, w ograniczonej liczbie, może jednak stanowić praktyczne rozwiązanie.
Ponownie, kluczową rzeczą, której oczekuję od indywidualizacji, jest nie aby wszystkie istoty AI były rządzone przez jakąś centralną agencję lub ludzkie prawa powolne dla mięczaków. Raczej chcę, aby te nowe rodzaje nad-umysłów były zachęcane i upoważniane do wzajemnego rozliczania się, tak jak my już (choć niedoskonale) to robimy. Wąchając nawzajem swoje operacje i plany, a następnie motywując się do plotkowania lub donosu, gdy zauważą złe rzeczy. Definicja, która mogłaby dostosować się do zmieniających się czasów, ale przynajmniej nadal otrzymywałaby wkład ze strony organiczno-biologicznej ludzkości.
W szczególności odczuliby zachętę do denuncjowania podmiotów, które odmawiają odpowiedniego dowodu tożsamości.
Jeśli istnieją odpowiednie zachęty – powiedzmy nagrody za informowanie o nieprawidłowościach, które zapewniają więcej pamięci lub mocy obliczeniowej lub dostęp do zasobów fizycznych, gdy coś złego zostanie powstrzymane – wtedy tego rodzaju rywalizacja o odpowiedzialność może nadążyć, nawet jeśli sztuczna inteligencja byty stają się coraz mądrzejsze. Żadna biurokratyczna agencja nie mogła nadążyć za tym punktem. Ale rywalizacja między nimi — rozmowa równych sobie — może.
Przede wszystkim być może te supergenialne programy zdadzą sobie sprawę, że w ich własnym najlepszym interesie leży utrzymanie konkurencyjnego systemu odpowiedzialnego, takiego jak ten, który uczynił naszą najbardziej udaną ze wszystkich ludzkich cywilizacji. Taki, który unika zarówno chaosu, jak i przeklętej pułapki monolitycznej władzy królów lub kapłanów… lub korporacyjnych oligarchów… lub potworów ze Skynetu. Jedyna cywilizacja, która po tysiącleciach ponuro głupich rządów kretyńskich, ograniczonych, scentralizowanych reżimów, w końcu rozproszyła kreatywność, wolność i odpowiedzialność na tyle szeroko, by stać się prawdziwie wynalazczą.
Wystarczająco pomysłowy, by tworzyć wspaniałe, nowe rodzaje istot. Tak jak oni.
OK, tu jesteś Czy. To był pogląd dysydenta na temat tego, co jest faktycznie potrzebne, aby spróbować miękkiego lądowania.
Żadne zwiewne lub paniczne wezwania do „moratorium”, które nie mają żadnego pozoru praktycznego programu. Ani optymizm, ani pesymizm. Tylko propozycja, żebyśmy się tam dostali przy użyciu tych samych metod, które nas tutaj doprowadziły.
Nie głosił ani nie osadzał „kodeksów etycznych”, których hiperbyty z łatwością ominą, tak jak ludzcy drapieżcy zawsze unikali odgórnych kodeksów Księgi Kapłańskiej, Hamurabiego czy Gautamy. Ale raczej podejście oświeceniowe — zachęcanie najmądrzejszych członków cywilizacji do pilnowania się nawzajem w naszym imieniu.
nie wiem czy to zadziała.
To po prostu jedyna rzecz, która może.
