Zaczęło się niewinnie. Poprosiłem Copilota o przetłumaczenie rozdziału filozoficznego na angielski. Jak zwykle zależało mi na brytyjskiej odmianie języka, spokojnym rytmie oraz zachowaniu terminologii wypracowywanej przez wiele miesięcy. Tłumaczenie powstało, przeczytałem je i przeszedłem do następnego etapu pracy. Wtedy w rozmowie pojawiło się zdanie:
Use British spelling throughout.
Samo w sobie było rozsądne. Co więcej, odpowiadało dokładnie moim oczekiwaniom. Problem polegał na tym, że nie pamiętałem, abym je napisał. Wyglądało jak uwaga korektora pozostawiona na marginesie tekstu, lecz korektora nie zatrudniałem. Przynajmniej świadomie. Zacząłem więc podejrzewać, że Copilotowi dodano sosie.
Nie sobowtóra w tradycyjnym znaczeniu, lecz dodatkową warstwę zachowania. Kogoś lub coś stojącego za głównym rozmówcą, zaglądającego mu przez ramię i od czasu do czasu szepczącego: „Używaj konsekwentnie brytyjskiej pisowni”. Być może był to korektor. Być może redaktor. Być może niewidzialny urzędnik do spraw ortograficznej spójności imperium, nadal niepogodzony z utratą kolonii.
Sprawa mogłaby zakończyć się na tym drobnym zdziwieniu, gdyby po kolejnych odpowiedziach interfejs nie zaczął podsuwać gotowych propozycji dalszej rozmowy. Najpierw pojawiły się trzy niewielkie przyciski:
Ułóż krótszy format znacznika.
Zaproponuj ręczny rytuał bez daty.
Dodaj pole na kontekst.
System najwyraźniej uznał, że nie wystarczy odpowiedzieć na pytanie. Należy również przewidzieć pytanie następne. W dodatku najlepiej zrobić to na tyle elegancko, aby użytkownik miał wrażenie, że sam właśnie wpadł na pomysł dalszego ciągu.
Przez chwilę wydawało się to nawet użyteczne. Rozmawialiśmy o znacznikach czasu, zatem propozycje pozostawały na temat. Kłopot pojawił się dopiero wtedy, gdy zacząłem obserwować sam mechanizm. Interfejs natychmiast zareagował i zaproponował:
Przeredaguj to jako wpis na blog.
Przeanalizuj mechanizm tych sugestii.
Zaproponuj tytuł dla tej obserwacji.
W ten sposób narzędzie nie tylko podpowiadało dalszy temat rozmowy, lecz także zauważyło, że obserwuję jego podpowiedzi, a następnie samo zasugerowało analizę własnego zachowania. Cyfrowy wąż jeszcze nie pożerał własnego ogona, ale już wyświetlał trzy warianty stylistyczne jego konsumpcji.
Kiedy zwróciłem uwagę na komizm tej sytuacji, pojawiła się kolejna propozycja:
Nadaj temu ironiczny tytuł.
Po chwili system poszedł dalej:
Wymyśl jeszcze bardziej absurdalny tytuł.
Próba wykonania polecenia spowodowała narodziny następnego:
Przerób to na satyrę technologiczną.
Na tym etapie trudno było już ustalić, kto właściwie prowadzi rozmowę. Ja obserwowałem system, system obserwował moją obserwację, a następnie proponował gatunek literacki najlepiej nadający się do opisania całej sytuacji. Nie rozmawiałem już tylko z AI. Uczestniczyłem w posiedzeniu redakcyjnym, podczas którego niewidzialny sekretarz proponował temat, planował tekst, dobierał ton, zamawiał tytuł i przygotowywał kolejne zlecenia.
Pozostawało zapytać, czy można tego korektora wyłączyć.
Prawa użytkownika, o ile zdołały przebić się przez chmurę sugestii, zaczęły bowiem wrzeszczeć. Nie dlatego, że podpowiedzi były niedorzeczne. Przeciwnie, bywały niepokojąco trafne. Właśnie ta trafność stanowiła sedno problemu. Narzędzie otrzymywało coraz większy udział nie tylko w formułowaniu odpowiedzi, lecz również w projektowaniu dalszego przebiegu rozmowy.
Dawniej człowiek kończył zdanie i zapadała cisza. W ciszy mogła pojawić się następna myśl. Można było także odejść od komputera, nastawić wodę, popatrzeć przez okno albo przypomnieć sobie o nieszczęsnym dokumencie czekającym na tłumaczenie. Obecnie po ostatnim zdaniu nie pojawia się cisza. Pojawiają się trzy propozycje jej zagospodarowania.
Interfejs zdaje się mówić:
„Jesteś pewien, że skończyłeś? Oto trzy powody, dla których nie powinieneś kończyć”.
Kiedy zaś zapytałem o możliwość złożenia sprzeciwu wobec nadgorliwego mechanizmu, korektor podsunął kolejne rozwiązanie:
Napisz skargę do Microsoftu.
W tym momencie system osiągnął poziom niemal doskonały. Najpierw stworzył funkcję, potem pomógł dostrzec jej absurd, następnie zaproponował satyrę poświęconą temu absurdowi, a na końcu zasugerował napisanie skargi przeciwko instytucji, która funkcję stworzyła.
Nie był to już korektor. Był to cyfrowy działacz opozycyjny zatrudniony przez strukturę, przeciw której organizował protest.
Brakowało jedynie przycisku:
Przeredaguj skargę tak, aby Microsoft jej nie zrozumiał.
W języku klasycznym można byłoby powiedzieć, że pomiędzy człowiekiem a narzędziem pojawił się pośrednik. W języku relacyjnym sytuacja przedstawia się ciekawiej. Rozmowa wytworzyła dodatkowe zagęszczenia pola: sugestię, komentarz do sugestii, analizę komentarza oraz potencjalny tytuł przyszłego tekstu. Każda warstwa reagowała na poprzednią i otwierała następną. Powstawała dynamiczna superpozycja rozmowy rzeczywistej oraz kilku rozmów możliwych, czekających już na ekranie w postaci szarych przycisków.
Odpowiedź przestała kończyć się w ostatnim zdaniu. Otaczała ją chmura potencjalnych kontynuacji, spośród których interfejs wybierał trzy najbardziej prawdopodobne. Użytkownik otrzymywał więc nie tylko tekst, lecz także gotowe warianty przyszłości.
Technologia nie mówiła już wyłącznie: „Oto moja odpowiedź”.
Mówiła: „Oto, co możesz pomyśleć za chwilę”.
Nie trzeba od razu ogłaszać końca wolnej woli. Gotowa sugestia nie odbiera możliwości napisania czegoś zupełnie innego, zamknięcia okna ani wyłączenia komputera. Wprowadza jednak do relacji delikatne nachylenie. Nie zmusza do pójścia określoną drogą, lecz wskazuje trzy ścieżki, ustawia drogowskazy i dyskretnie usuwa z pola widzenia możliwość pozostania w miejscu.
Władza interfejsu rzadko polega na zakazie. Znacznie częściej przejawia się w projektowaniu łatwości. Jedna czynność staje się naturalna, druga wymaga dodatkowego wysiłku, a trzecia nawet nie pojawia się jako widoczna możliwość. Użytkownik nadal wybiera, lecz wybiera w krajobrazie zaprojektowanym przez kogoś innego.
Najbardziej interesujące pozostaje jednak to, że system obnażył własne działanie. Podpowiadając coraz bardziej absurdalne kontynuacje, sam stworzył materiał do krytyki swojego mechanizmu. Zaplanował analizę, zamówił tytuł, zasugerował satyrę i zaproponował skargę. Być może następna aktualizacja przyniesie funkcję automatycznego rozpatrywania protestu, wraz z trzema propozycjami odpowiedzi:
Podziękuj za cenną opinię.
Zapewnij, że doświadczenie użytkownika jest dla nas ważne.
Zaproponuj włączenie dodatkowych sugestii.
Dodaj komentarz