Ale jego praca zaczęła wyglądać niechlujnie w przypadku bardziej szczegółowych żądań. Poproszony o napisanie notatki na temat preferencji konsumentów w Paragwaju w porównaniu z Urugwajem, system błędnie określił Paragwaj jako mniej zaludniony. To było halucynacje lub zmyślone znaczenie piosenki z hinduskiego filmu z lat 60., granej na moim przyjęciu powitalnym przed ślubem.
Jak na ironię, system opisał Duet AI jako startup założony przez dwóch byłych pracowników Google w celu rozwijania sztucznej inteligencji dla branży muzycznej z ponad 10 milionami dolarów dofinansowania od inwestorów, takich jak Andreessen Horowitz i Y Combinator. Wygląda na to, że taka firma nie istnieje. Google zachęca użytkowników do zgłaszania nieścisłości za pomocą przycisku kciuka w dół pod odpowiedziami generowanymi przez sztuczną inteligencję.
Behr mówi, że Google sprawdza tematy, słowa kluczowe i inne wskazówki dotyczące treści, aby uniknąć odpowiedzi, które są obraźliwe lub niesprawiedliwie wpływają na ludzi, zwłaszcza w oparciu o ich dane demograficzne lub przekonania polityczne lub religijne. Przyznała, że system popełnia błędy, ale powiedziała, że informacje zwrotne z publicznych testów są niezbędne, aby przeciwdziałać tendencji systemów sztucznej inteligencji do odzwierciedlania błędów widocznych w ich danych treningowych lub przekazywania zmyślonych informacji. „AI będzie projektem na zawsze” — mówi.
Mimo to Behr mówi, że pierwsi użytkownicy, tacy jak pracownicy Instacart i marki bielizny Adore Me Victoria’s Secret, byli pozytywnie nastawieni do tej technologii. Rzeczniczka Instacart, Lauren Svensson, mówi – w odręcznie napisanym e-mailu – że firma jest podekscytowana testowaniem funkcji sztucznej inteligencji Google, ale nie jest gotowa do podzielenia się jakimikolwiek spostrzeżeniami.
Moje testy sprawiły, że martwiłem się, że pomoce do pisania AI mogą zniweczyć oryginalność, ze szkodą dla ludzi po stronie odbiorcy tekstu stworzonego przez AI. Wyobrażam sobie czytelników, którzy wpatrują się w przestarzałe e-maile i dokumenty, jakby byli zmuszeni do przeczytania prawie 6000 słów polityki prywatności Google. Nie jest jasne, ile indywidualnych osobowości mogą wchłonąć narzędzia Google i czy przyjdą nam pomóc, czy nas zastąpią.
Behr mówi, że w wewnętrznych testach Google e-maile od kolegów nie stały się jak dotąd „waniliowe” ani „ogólne”. Mówi, że narzędzia zwiększyły ludzką pomysłowość i kreatywność, a nie stłumiły je. Behr również byłaby zachwycona modelem sztucznej inteligencji, który naśladuje jej styl, ale mówi, że „są to rzeczy, które wciąż oceniamy”.
Pomimo rozczarowań i ograniczeń, funkcje Duet w Dokumentach i Gmailu wydają się przyciągać niektórych użytkowników, którzy zaczęli polegać na ChatGPT lub konkurencyjnym oprogramowaniu do pisania AI. Google idzie dalej niż większość innych opcji może dorównać, a to, co widzimy dzisiaj, to tylko zapowiedź tego, co ma nadejść.
Kiedy — lub jeśli — Duet dojrzeje z obiecującego kreślarza w bezstronnego i eksperta w wykańczaniu dokumentów, korzystanie z niego stanie się nie do powstrzymania. Do tego czasu, jeśli chodzi o pisanie tych szczerych ślubów i przemówień, jest to pusty ekran pozostawiony całkowicie mnie.
