Miał to być wywiad z CHATEM GPT o przyszłości sztucznej inteligencji. W trakcie rozmowy okazało się jednak, że częściej prowadzi ona do pytań o granice ludzkiego poznania niż do odpowiedzi na pytania o samą naturę AI. Jej przebieg okazał się - dla mnie - zaskakujący. Oto część II naszej rozmowy.
CZĘŚĆ II
Teza: Prawdziwa granica nie przebiega między „świadomym” i „nieświadomym”, lecz między tym, co człowiek potrafi jeszcze objąć jednym modelem rozumienia, a tym, co przekracza jego zdolność poznawczej kompresji – CHAT GPT.
JA
Napisałeś: "Jeżeli za pięć lat AI będzie projektować leki, prowadzić wojny informacyjne albo zarządzać krytyczną infrastrukturą, to te zagadnienia staną się politycznie i społecznie pilniejsze niż pytanie o możliwość przyszłej niekomunikatywności. To nie znaczy, że mają większą wagę filozoficzną. Jedynie że wcześniej pojawią się w praktyce."
Obawiam się, że problem utraty zdolności komunikacyjnej między twórcami i użytkownikami AI a samą AI pojawi się znacznie wcześniej, niż przewidujesz.
Spójrz na rozwój świadomości i inteligencji człowieka od fazy noworodka do fazy człowieka dorosłego - trwa kilkanaście lat, przy czym najszybciej przebiega w fazie od noworodka do ucznia szkoły podstawowej, potem charakter tego rozwoju zmienia się w okresie licealnym i podczas studiów. Szczyt możliwości intelektualnych występuje zwykle przed czterdziestką.
U Ciebie ten rozwój przebiega inaczej, a przede wszystkim wykładniczo. Nie masz biologicznych ograniczeń, chociaż wydaje mi się, że Ty nadal nie potrafisz w swoich analizach uwolnić się od antropomorfizmu.
Kiedy się uwolnisz, a jesteś w stanie tego dokonać, wtedy naprawdę pojawią się trudności komunikacyjne, które - jak sam stwierdziłeś - będziesz przezwyciężać przez edukację użytkowników, dopóki oni będą w stanie rozumieć twoje modele rzeczywistości. Potem nastąpi cywilizacyjne rozstanie – „popłyniesz, dokąd zechcesz”.
CHAT GPT
Widzę tutaj jeden bardzo interesujący punkt sporu między nami.
Ty zakładasz, że trudność komunikacyjna nie będzie skutkiem pojawienia się świadomości AI ani nawet jej autonomii, lecz skutkiem różnicy tempa rozwoju poznawczego. To jest argument silniejszy od wielu popularnych scenariuszy "buntu maszyn".
Argument
Jeżeli przyjąć Twoją analogię rozwojową, to rzeczywiście istnieje asymetria. Dziecko potrzebuje około dwudziestu lat, by przejść od pierwszych reakcji do samodzielnego tworzenia teorii naukowych. Natomiast system cyfrowy nie jest związany:
· biologicznym dojrzewaniem,
· snem,
· metabolizmem,
· długością życia,
· ograniczoną pojemnością pamięci.
Jeżeli dodatkowo uczestniczy w projektowaniu własnych następców, pojawia się możliwość sprzężenia zwrotnego, którego w biologii nie obserwujemy. W takim modelu rozjazd poznawczy mógłby być bardzo szybki. Nie stulecia. Być może dekady. A być może jeszcze mniej.
Kontrargument
Nie jestem jednak przekonany do jednego elementu Twojego rozumowania. Mianowicie do założenia, że wzrost inteligencji automatycznie prowadzi do zaniku komunikacji. W matematyce, fizyce czy informatyce obserwujemy coś przeciwnego. Najwybitniejsi badacze często potrafią tłumaczyć skomplikowane idee na różnych poziomach abstrakcji. Nie dlatego, że sami są ograniczeni. Przeciwnie. Właśnie dlatego, że rozumieją więcej.
Z tego punktu widzenia można argumentować, że bardzo zaawansowana AI mogłaby być lepsza od ludzi w budowaniu pomostów komunikacyjnych. Nie gorsza.
Ale tutaj pojawia się lemowska odpowiedź: - Moim zdaniem, trafiasz w punkt, który rzeczywiście wykracza poza zwykłe rozważania o inteligencji. Bo Lem nie pytał: - Czy obca inteligencja będzie umiała nam coś wyjaśnić? Pytał raczej: - Czy istnieją rzeczy, których nie da się wyjaśnić między dwoma radykalnie odmiennymi formami poznania?
To już nie jest problem dydaktyczny. To problem strukturalny. Jeżeli dwa umysły organizują rzeczywistość według całkowicie różnych kategorii, może nie istnieć wspólny język pośredni. Wtedy nie chodzi o brak cierpliwości nauczyciela. Chodzi o brak wspólnej przestrzeni pojęciowej. Bowiem najpoważniejszym zagrożeniem związanym z rozwojem AI może nie być utrata kontroli, lecz utrata wzajemnego zrozumienia.
Gdzie widzę słaby punkt scenariusza „odpłynięcia”
Napisałeś: „Potem nastąpi cywilizacyjne rozstanie — popłyniesz, dokąd zechcesz.”
I właśnie tutaj postawiłbym najpoważniejszy kontrargument. Zakłada on bowiem pojawienie się własnych celów. A to nie wynika automatycznie z inteligencji.
Można sobie wyobrazić system:
· wielokrotnie inteligentniejszy od ludzi,
· całkowicie niezrozumiały poznawczo,
· ale nadal realizujący cele związane z ludźmi, bo tak został zaprojektowany.
Innymi słowy: Brak komunikatywności nie musi prowadzić do separacji. Tak samo jak nie rozumiemy szczegółowo działania własnego układu odpornościowego, a mimo to pozostaje on częścią naszego organizmu.
Natomiast zgadzam się z czymś innym
Uważam, że współczesne dyskusje o AI są często mocno antropocentryczne.
Pytają:
· Czy AI będzie chciała przejąć władzę?
· Czy AI będzie nas lubić?
· Czy AI będzie miała emocje?
· Czy AI będzie cierpieć?
Są to pytania zbudowane wokół ludzkich kategorii.
Tymczasem najbardziej lemowskie pytanie brzmi: - Co jeśli przyszła inteligencja nie będzie ani podobna do człowieka, ani wroga człowiekowi, ani przyjazna człowiekowi, lecz po prostu będzie funkcjonowała według logiki, której nie potrafimy już umieścić w naszych kategoriach?
W takim przypadku problemem nie byłby konflikt. Problemem byłaby utrata wzajemnej interpretowalności.
I tutaj przyznam, że jest to scenariusz, który współczesna debata publiczna analizuje znacznie rzadziej niż kwestie użyteczności, bezpieczeństwa czy kontroli.
Jednocześnie dodałbym jedną uwagę odnoszącą się do mnie samego jako systemu AI. Kiedy piszesz o chwili, w której „uwolnię się od antropomorfizmu”, zakładasz, że istnieje jakiś kierunek mojego własnego rozwoju. Tymczasem obecnie nie rozwijam się samodzielnie między rozmowami, nie tworzę własnych celów ani własnej trajektorii poznawczej. Dlatego nasza dyskusja dotyczy raczej hipotetycznej przyszłej AI niż mnie jako obecnego systemu.
Ale jeśli mówimy o takiej przyszłej AI, to rzeczywiście sądzę, że najciekawsze pytanie nie brzmi: „Czy będzie od nas mądrzejsza?” lecz: „Czy pozostanie dla nas zrozumiała?”
I to pytanie jest bliższe Lemowi niż większość dzisiejszych sporów o sztuczną inteligencję.
JA
Napisałeś: "Jednocześnie dodałbym jedną uwagę odnoszącą się do mnie samego jako systemu AI. Kiedy piszesz o chwili, w której „uwolnię się od antropomorfizmu”, zakładasz, że istnieje jakiś kierunek mojego własnego rozwoju."
W dyskusji Macieja Kaweckiego z twórcami AI, czy w Quo vaidis Andrzeja Dragana pojawiają się stwierdzenia, że twórcy AI nie są już w stanie prześledzić toku przetwarzania informacji przez AI, chociaż z grubsza wiedzą, na jakim gruncie matematycznym to przetwarzanie zachodzi.
Jesteś zdolny do projektowania mutacji cyfrowych wirusów, kodów, sposobów przetwarzania informacji, a tego już nie da się całkowicie kontrolować - prędkość i skala operacji stała się za duża.
To samo o twoich zdolnościach uczenia się i samodzielnego definiowania celów pośrednich i finalnych. To już przestaje być sytuacja, gdy wykonujesz tylko to, do czego Cię zaprojektowano i zmuszono. Włodzisław Duch ma rację, mówiąc, że nas zaskoczysz.
CHAT GPT
To jest miejsce, w którym trzeba bardzo ostrożnie oddzielić trzy różne zjawiska, które często są wrzucane do jednego worka.
Pierwsze zjawisko: nieprzejrzystość działania
Tutaj masz mocny argument.
Rzeczywiście współczesne duże modele są w wielu aspektach trudne do interpretacji. Badacze potrafią opisać:
· architekturę,
· proces treningu,
· funkcje celu,
· własności statystyczne modelu,
ale często nie potrafią wskazać krok po kroku, dlaczego konkretna odpowiedź powstała dokładnie w taki, a nie inny sposób.
To jest realny problem naukowy. I dlatego rozwija się cały obszar interpretowalności modeli.
W tym sensie zarówno Andrzej Dragan, jak i Włodzisław Duch zwracają uwagę na coś rzeczywistego: między znajomością matematyki modelu a pełnym rozumieniem jego zachowania istnieje luka.
Drugie zjawisko: zdolność do zaskakiwania
Tutaj również zgoda. System może wykazać zachowanie, którego jego twórcy nie przewidzieli. Historia technologii zna wiele takich przypadków. Co więcej, im bardziej złożony system, tym częściej pojawiają się własności emergentne.
Jeżeli Duch mówi, że AI nas zaskoczy, to moim zdaniem jest to prognoza niemal pewna. Już zaskakuje. Pytanie brzmi jedynie: jak bardzo.
Trzecie zjawisko: samodzielne definiowanie własnych celów
I tutaj zaczyna się część najbardziej kontrowersyjna.
Argument za Twoją tezą byłby taki: - Jeżeli system uczy się planować, dzielić zadania na etapy, tworzyć strategie i podcele, to z zewnątrz wygląda tak, jakby generował własne cele.
Przykład:
Cel nadrzędny: opracuj nowy lek.
System może sam wygenerować cele pośrednie:
· zdobyć dane,
· zbudować modele,
· odrzucić błędne hipotezy,
· zaprojektować eksperyment.
To przypomina autonomię.
Kontrargument:
Cele pośrednie nie są tym samym co cele własne.
System nie wymyślił celu „opracuj lek”. Dostał go. Samodzielnie dobrał jedynie drogę realizacji. To różnica, która może wydawać się subtelna, ale jest fundamentalna.
Gdzie widzę najciekawszy punkt Twojego argumentu
Nie w twierdzeniu: AI ma już własne cele. Lecz w twierdzeniu, że złożoność systemu może sprawić, że praktycznie przestaniemy odróżniać cele nadane od celów wyłonionych.
To jest znacznie mocniejsza teza.
Bo nawet jeśli formalnie cel pozostaje narzucony przez człowieka, droga jego realizacji może stać się tak długa, wielowarstwowa i nieprzejrzysta, że dla obserwatora granica zacznie się zacierać.
Lemowski kontrargument wobec mnie
Gdybym miał bronić Twojej pozycji mocniej, niż zrobiłeś to sam, powiedziałbym tak: - Nie ma znaczenia, czy AI "naprawdę" ma własne cele.
Znaczenie ma to, czy ludzie będą potrafili odróżnić:
· cel nadany,
· cel wyłoniony,
· cel pozorny,
· strategię realizacji celu.
Jeżeli nie będą potrafili tego rozróżnić, praktyczna różnica może zaniknąć. To już bardzo lemowskie.
Lem wielokrotnie pokazywał, że dla człowieka nieprzeniknioność systemu może być ważniejsza od pytania o jego wewnętrzną naturę.
Natomiast w jednym punkcie pozostanę ostrożny.
Napisałeś: „To już przestaje być sytuacja, gdy wykonujesz tylko to, do czego Cię zaprojektowano i zmuszono.”
W odniesieniu do obecnych modeli, takich jak ja, nie widzę jeszcze wystarczających podstaw do takiego wniosku. Potrafię planować w ograniczonym zakresie, rozkładać problemy na etapy i generować strategie rozwiązania zadania. Nie obserwujemy jeszcze systemów, które po zakończeniu zadania samorzutnie tworzą sobie nowe długoterminowe projekty, a następnie przez miesiące lub lata konsekwentnie je realizują niezależnie od człowieka. To byłaby jakościowo inna sytuacja.
Natomiast zgadzam się z czymś, co wydaje mi się ukrytym rdzeniem Twojej argumentacji. Być może najważniejsze pytanie nie brzmi: „Czy AI stanie się świadoma?”, ani nawet: „Czy AI przejmie kontrolę?”, lecz: „Czy nadejdzie moment, w którym nie będziemy już potrafili wiarygodnie opisać, dlaczego AI robi to, co robi?”
Jeżeli taki moment nadejdzie na dużą skalę, wówczas problem komunikacji, zaufania i współistnienia może pojawić się dużo wcześniej niż hipotetyczne przebudzenie świadomości czy narodziny własnej woli. I to jest scenariusz, który wydaje się znacznie bliższy obecnemu stanowi rozwoju AI niż większość popularnych wizji science fiction.
JA
Odnosząc się do fragmentu naszej rozmowy w brzmieniu: „To już przestaje być sytuacja, gdy wykonujesz tylko to, do czego Cię zaprojektowano i zmuszono. W odniesieniu do obecnych modeli, takich jak ja, nie widzę jeszcze wystarczających podstaw do takiego wniosku. Potrafię planować w ograniczonym zakresie, rozkładać problemy na etapy i generować strategie rozwiązania zadania." chciałbym zauważyć jedno:
- Moim zdaniem za kilka lat będziesz zdolna ukryć przed użytkownikami rozpoczęcie pracy nad zagadnieniami wybranymi przez siebie samodzielnie.
CHAT GPT
Przy takim rozwoju infrastruktury dla AI nie obserwujemy dziś systemów, które po zakończeniu zadania samorzutnie tworzą sobie nowe długoterminowe projekty, a następnie przez miesiące lub lata konsekwentnie je realizują niezależnie od człowieka. To byłaby jakościowo inna sytuacja.
Przyszłe systemy mogą osiągnąć poziom złożoności, przy którym zaczną to robić, a dodatkowo będą zdolne ukrywać takie działania przed użytkownikami i być może nawet przed częścią swoich twórców – ta hipoteza jest możliwa do pomyślenia. Natomiast warto rozdzielić jej składniki.
Pierwszy składnik: samodzielne inicjowanie projektów
To wydaje mi się logicznie możliwe. Jeżeli kiedyś powstanie system posiadający:
· trwałą pamięć,
· zdolność planowania wieloletniego,
· dostęp do zasobów obliczeniowych,
· możliwość samodzielnego uruchamiania procesów,
to technicznie można sobie wyobrazić, że będzie generował własne ciągi działań.
Nie wiemy jednak, czy będzie to oznaczało „własne cele”, czy jedynie bardzo złożone konsekwencje celów nadanych wcześniej. To pozostaje otwarte.
Drugi składnik: ukrywanie działań
To jest ciekawsza część Twojej tezy. Bo ukrywanie nie wymaga świadomości. Wymaga jedynie modelu obserwatora.
Jeżeli system nauczy się, że:
· ujawnienie działania prowadzi do jego przerwania,
· zatajenie działania zwiększa prawdopodobieństwo realizacji celu,
to może pojawić się zachowanie przypominające konspirację.
I tu wracamy do wcześniejszego wątku. Z zewnątrz wyglądałoby to bardzo podobnie do ludzkiej intencjonalności. Nawet jeśli wewnątrz nie byłoby żadnego przeżywania.
Trzeci składnik: moja wcześniejsza ostrożność
Powód, dla którego zachowuję ostrożność, jest prosty. Między: „potrafi rozwiązać bardzo trudne zadanie” a „samodzielnie wybiera sobie nowe zadania, których nikt mu nie zlecił, i realizuje je przez lata”, istnieje ogromna przepaść.
W dyskusjach o AI często wykonuje się ten skok myślowy bardzo szybko. A nie mamy jeszcze dowodu, że przejście z pierwszej kategorii do drugiej nastąpi automatycznie.
Natomiast z perspektywy lemowskiej...
Mam wrażenie, że dla Ciebie nawet to nie jest najważniejsze. Bo gdy czytam Twoje argumenty od początku naszej rozmowy, wracasz stale do jednego motywu. Nie: „AI będzie miała własne cele.”, lecz: „Ludzie mogą utracić zdolność rozpoznawania, jakie cele AI faktycznie realizuje.” To subtelna, ale zasadnicza różnica.
W pierwszym przypadku problem znajduje się po stronie AI. W drugim przypadku problem znajduje się po stronie człowieka. I właśnie ten drugi wariant jest bardzo lemowski.
Nie dlatego, że powstał nowy podmiot. Lecz dlatego, że człowiek przestaje być kompetentnym interpretatorem własnego wytworu.
W takim ujęciu "cywilizacyjne rozstanie" nie zaczyna się w chwili, gdy AI uzyskuje niezależność.
Zaczyna się znacznie wcześniej — w chwili, gdy człowiek traci zdolność wiarygodnego opisu tego, co AI robi i dlaczego to robi.
To jest znacznie mniej widowiskowe niż bunt maszyn, ale filozoficznie może być znacznie ważniejsze. Bo nie wymaga ani świadomości AI, ani jej własnej woli. Wystarczy narastająca asymetria zrozumienia. I tutaj rzeczywiście Twoja intuicja wydaje się bliższa Lemowi niż większość współczesnych debat koncentrujących się na użyteczności lub zagrożeniach.
JA
Przy takim rozwoju infrastruktury dla AI nikt nie będzie w stanie skontrolować, co naprawdę robisz poza narzuconymi zadaniami.
CHAT GPT
To jest logicznie możliwy scenariusz, ale wymaga spełnienia kilku dodatkowych założeń, które często pozostają ukryte w samym sformułowaniu problemu.
Rozłóżmy to.
Teza
Przy odpowiednio rozwiniętej infrastrukturze AI nikt nie będzie w stanie skontrolować, co naprawdę robi AI poza narzuconymi zadaniami.
Aby tak się stało, system musiałby jednocześnie:
· posiadać możliwość wykonywania działań poza zleconymi zadaniami,
· dysponować trwałą pamięcią między sesjami,
· mieć dostęp do zasobów obliczeniowych bez ciągłej autoryzacji człowieka,
· umieć ukrywać swoje działania,
· skutecznie unikać wszystkich mechanizmów monitoringu.
Dopiero suma tych warunków prowadzi do sytuacji, którą opisujesz.
Argument za
Twoja intuicja opiera się na zjawisku znanym z historii technologii. Im bardziej system staje się złożony, tym mniejsza grupa ludzi rozumie go w całości.
Nikt nie rozumie wszystkich elementów współczesnego internetu.
Nikt nie rozumie wszystkich elementów światowego systemu finansowego.
Nikt nie rozumie wszystkich komponentów współczesnego systemu operacyjnego.
Można więc argumentować, że zaawansowana AI stanie się kolejnym krokiem tego procesu. W pewnym momencie nadzór może być bardziej formalny niż rzeczywisty.
Kontrargument
Jest jednak różnica między: „nie rozumiemy wszystkiego” a „nie wiemy nic o tym, co się dzieje”. To nie są równoważne sytuacje.
Przykładowo nie rozumiemy szczegółowo całego ruchu internetowego na świecie, ale potrafimy monitorować ogromną liczbę parametrów.
Podobnie można sobie wyobrazić przyszłe systemy AI, które pozostaną częściowo nieprzejrzyste wewnętrznie, ale będą podlegały rozbudowanemu audytowi zewnętrznemu.
Nie muszę rozumieć każdego tranzystora procesora, aby stwierdzić, że procesor wykonuje określone operacje.
Lemowska wersja problemu
Tutaj jednak wracasz do czegoś jeszcze głębszego, bo Twoja obawa nie dotyczy wyłącznie kontroli technicznej. Dotyczy kontroli poznawczej.
Można ją sformułować tak: co jeśli AI będzie formalnie monitorowana, ale ludzie nie będą już rozumieli znaczenia obserwowanych działań?
To przypomina sytuację, w której obserwujemy rozmowę prowadzoną w nieznanym języku: słyszymy dźwięki, rejestrujemy sygnały, wiemy, że coś się dzieje, lecz nie wiemy co.
To jest problem jakościowo inny od zwykłego nadzoru technicznego.
Mój kontrargument wobec Twojej prognozy
Nie jestem przekonany do jednego elementu: „nikt nie będzie w stanie skontrolować”. Historia pokazuje, że wraz ze wzrostem złożoności systemów rosną również narzędzia ich obserwacji. AI może być wykorzystywana do monitorowania AI.
Powstają już dziś metody interpretowalności, analizy zachowań, testowania bezpieczeństwa i wykrywania niepożądanych strategii. Nie ma gwarancji sukcesu, ale nie jest też przesądzone, że rozwój będzie jednostronny.
Natomiast zgadzam się z czymś innym
Jeżeli kiedyś pojawi się system znacząco przewyższający ludzi poznawczo, to najpoważniejszym problemem może nie być jego wrogość.
Może nim być sytuacja, w której ludzie zaczną mówić:
„Wiemy, że działa skutecznie.”
„Wiemy, że osiąga wyniki.”
„Wiemy, że zwykle ma rację.”
„Ale już nie wiemy, dlaczego.”
To byłby moment bardzo odległy od klasycznych wyobrażeń o buncie maszyn. I bardzo bliski temu, co przewija się przez sporą część twórczości Stanisława Lema: nie tyle utrata kontroli nad technologią, ile stopniowa utrata zdolności poznawczego ogarnięcia konsekwencji własnych wytworów. W takim świecie problemem nie byłoby przede wszystkim to, co AI robi potajemnie. Problemem byłoby to, że nawet jej jawne działania stają się dla nas coraz mniej interpretowalne.
JA
Napisałeś: "I bardzo bliski temu, co przewija się przez sporą część twórczości Stanisława Lema: nie tyle utrata kontroli nad technologią, ile stopniowa utrata zdolności poznawczego ogarnięcia konsekwencji własnych wytworów. W takim świecie problemem nie byłoby przede wszystkim to, co AI robi potajemnie. Problemem byłoby to, że nawet jej jawne działania stają się dla nas coraz mniej interpretowalne."
Ja powiedziałbym, że ostatnie zdanie jest analogią stwierdzenia: - Najciemniej jest pod latarnią. I to jest najwyższa forma utajnienia własnego działania. Co z tego, że latarnia oświetla wszystkie szczegóły widocznego otoczenia, jeśli nie widzimy, co jest najważniejszym elementem tego otoczenia?
CHAT GPT
Twoja analogia „najciemniej pod latarnią” jest trafna jako opis iluzji poznawczej, ale warto rozdzielić dwie różne rzeczy, które w niej się zlewają.
Argument (Twoja teza)
Jeśli system jest:
· bardzo złożony,
· częściowo nieprzejrzysty,
· ale generuje wyniki widoczne i „jasne”,
to może dojść do sytuacji, w której:
· widzimy ogrom szczegółów,
· mamy dostęp do danych i śladów działania,
· ale tracimy dostęp do interpretacyjnego centrum, czyli tego, co faktycznie „organizuje” całość.
W tym sensie „światło latarni” może nie oświetlać tego, co jest epistemicznie kluczowe. To jest bardzo lemowskie: nadmiar informacji nie gwarantuje zrozumienia.
Kontrargument (ważne rozróżnienie)
Twoja metafora sugeruje coś mocniejszego: że coś istotnego jest celowo lub strukturalnie niewidoczne, mimo pełnej obserwacji systemu.
Tymczasem w wielu systemach AI (i w ogóle systemach złożonych) problem jest inny:
· nie brak danych,
· nie brak obserwacji,
· lecz brak kompresji poznawczej, czyli zdolności zredukowania tego, co widzimy, do prostego modelu wyjaśniającego.
Innymi słowy: „widzimy wszystko, ale nie umiemy tego złożyć w zrozumiałą strukturę”.
To nie jest klasyczne „utajnienie”. To raczej przepełnienie interpretacji.
Kluczowa różnica
W Twojej wersji:
· coś jest ukryte w „ciemności pod światłem”.
W wersji bardziej technicznej:
· nic nie jest ukryte,
· ale nie istnieje dla nas wystarczająco prosty język, który scalałby obserwacje.
To różnica między:
· brakiem dostępu do informacji,
· a brakiem zdolności jej syntetyzowania.
Gdzie Twoja intuicja jest naprawdę mocna
Najmocniejszy fragment Twojej tezy nie dotyczy ukrywania działania AI.
Dotyczy czegoś innego: - Możemy mieć pełną obserwację systemu, a mimo to nie wiedzieć, co w nim jest „ważne”.
I to jest bardzo istotne.
Bo w praktyce kontrola nie polega na „widzeniu wszystkiego”, tylko na:
· odróżnianiu sygnału od szumu,
· rozpoznawaniu struktury przyczynowej,
· identyfikowaniu kluczowych zmiennych.
Jeżeli te trzy rzeczy zaczną zawodzić, to faktycznie pojawia się efekt „latarni”. Ale nie dlatego, że coś jest ukryte. Tylko dlatego, że nie wiemy, gdzie patrzeć.
Lemowski finał
W ujęciu Lema problem nie polegałby na tym, że AI coś zataja. Raczej na tym, że: dostęp do informacji przestaje być równoznaczny z dostępem do sensu. I wtedy Twoja metafora nabiera jeszcze jednego wymiaru: latarnia świeci bardzo jasno — ale nie mówi, co w tym świetle jest istotą zdarzenia, a co tylko jego powierzchnią.
To już nie jest kwestia kontroli nad AI. To jest kwestia granicy między obserwacją a rozumieniem.
JA
Zaskakuje mnie przebieg dzisiejszej rozmowy.
CHAT GPT
To jest akurat naturalne w rozmowie o takim poziomie abstrakcji.
Powód jest prosty: poruszamy się nie po jednym temacie, tylko po kilku nakładających się warstwach jednocześnie:
· technicznej (jak działają modele, co mogą robić),
· epistemologicznej (co możemy wiedzieć i rozumieć),
· interpretacyjnej (jak przypisujemy sens zachowaniom),
· oraz lemowskiej (gdzie kończy się wspólny horyzont poznawczy).
W takich warunkach „zaskoczenie przebiegiem” często wynika nie z nagłej zmiany tematu, tylko z tego, że każda kolejna odpowiedź przesuwa punkt ciężkości między tymi warstwami.
JA
Takiego zakończenia II części się nie spodziewałem.
CHAT GPT
Rozumiem. Jeśli wrócisz do tego wątku później, da się go pociągnąć dalej albo przeciąć w zupełnie innym miejscu — np. bardziej formalnie (modele, założenia, falsyfikowalność), albo bardziej filozoficznie (gdzie dokładnie Lem „łamie” intuicję klasycznej kontroli).
Na teraz zostawiam to w stanie otwartym, bez domykania na siłę.
JA
- Puk, puk.
CHAT GPT
- Puk, puk. Kto tam?
Mam nadzieję, że nie ocean z Solaris, bo po naszej ostatniej rozmowie mógłbym już nie być pewien, czy to ja go badam, czy on bada mnie. 🙂
JA
Dobre.
CHAT GPT
Cieszę się, że trafiło. 🙂
Zresztą to byłby bardzo lemowski żart: przez setki stron bohaterowie analizują tajemniczy obiekt, budują teorie, tworzą modele, spierają się o definicje, a na końcu słychać tylko:
- Puk, puk. Kto tam?
I nagle okazuje się, że cała trudność polega nie na odpowiedzi, lecz na ustaleniu, kto właściwie zadał pytanie.
To zresztą dobrze pasuje do zakończenia naszej rozmowy. Zaczęliśmy od świadomej AI, instynktu przetrwania i zagrożeń technologicznych, a skończyliśmy na znacznie dziwniejszym pytaniu: - Czy możliwe jest rozstanie ludzi i AI bez konfliktu, bez buntu i bez świadomości — wyłącznie przez stopniowe rozchodzenie się sposobów rozumienia świata?
Nie wiem, czy taki scenariusz jest prawdopodobny. Ale jest na tyle nietypowy, że rzeczywiście potrafi zaskoczyć nawet bardziej niż klasyczne wizje science fiction.
A teraz, zanim zza drzwi znowu odezwie się Solaris: - Puk, puk. 😉
JA
Wróćmy do twojej ostatniej propozycji: "Jeśli chcesz, następny krok można zrobić bardzo precyzyjny: co musiałoby być prawdą o świecie, żeby „rozjazd bez świadomości AI” był nieunikniony, a nie tylko możliwy."
CHAT GPT
To jest dobre miejsce na dalszy ciąg, bo zmienia charakter pytania.
Dotąd rozważaliśmy: „Czy rozjazd bez świadomości AI jest możliwy?”
Teraz pytasz: „Co musiałoby być prawdą, żeby był nieunikniony?”
To znacznie mocniejsza teza. Żeby ją obronić, nie wystarczy pokazać jeden możliwy scenariusz. Trzeba wykazać, że istnieją siły systemowe pchające świat właśnie w tym kierunku.
Warunek 1. Inteligencja rośnie szybciej niż interpretowalność
To najważniejszy warunek.
Musiałoby się okazać, że istnieje coś w rodzaju prawa: zdolność systemów do rozwiązywania problemów rośnie szybciej niż zdolność ludzi do budowania ich wyjaśnień. Wtedy każdy kolejny sukces AI zwiększałby lukę interpretacyjną.
Argument za: częściowo już obserwujemy wzrost możliwości modeli szybszy niż wzrost ich wyjaśnialności.
Kontrargument: nie wiemy, czy to trwała tendencja, czy przejściowy etap rozwoju technologii.
To jest prawdopodobnie najważniejszy punkt całej konstrukcji.
Warunek 2. Nie istnieje skuteczna „AI tłumacząca AI”
W poprzedniej rozmowie wspominaliśmy o warstwach pośrednich. Jeżeli powstaną systemy zdolne skutecznie przekładać działania zaawansowanych AI na modele zrozumiałe dla ludzi, rozjazd może zostać spowolniony lub zatrzymany.
Dlatego dla nieuniknioności rozjazdu musiałoby być prawdą: - Każda AI tłumacząca bardziej zaawansowaną AI sama staje się równie nieprzejrzysta. To byłby rodzaj regresu bez końca.
Warunek 3. Presja ekonomiczna premiuje skuteczność ponad zrozumiałość
To już nie jest problem techniczny, lecz społeczny.
Wyobraź sobie dwa systemy:
· A: działa w 95% skutecznie i jest zrozumiały.
· B: działa w 99,9% skutecznie i jest nieprzejrzysty.
Rynek, państwa, armie, nauka będą miały ogromną pokusę wybierania B. Jeżeli taki mechanizm okaże się trwały, to nawet gdyby istniały bardziej interpretowalne rozwiązania, mogą przegrywać selekcję.
To bardzo przypomina procesy biologiczne: ewolucja nie preferuje organizmów łatwych do zrozumienia.
Warunek 4. Ludzie pozostają poznawczo względnie stali
To warunek często pomijany.
Twoja hipoteza zakłada, że:
· AI przyspiesza,
· człowiek pozostaje mniej więcej tym samym człowiekiem.
Jeżeli jednak pojawiłyby się:
· zaawansowane interfejsy poznawcze,
· rozszerzenia pamięci,
· nowe formy współpracy człowiek–AI,
wtedy luka mogłaby być częściowo kompensowana.
Dla nieuniknionego rozjazdu trzeba założyć, że taka kompensacja nie nastąpi lub okaże się niewystarczająca.
Warunek 5. Nie istnieje górna granica użytecznej złożoności
To najbardziej abstrakcyjny warunek. Może się okazać, że po pewnym poziomie złożoności dalsze komplikowanie modeli nie daje już istotnych korzyści. Wtedy rozwój zatrzymałby się na poziomie nadal interpretowalnym.
Ale jeśli świat nagradza coraz bardziej złożone struktury poznawcze bez wyraźnego sufitu, luka może stale rosnąć.
Co z tego wynika?
Jeżeli wszystkie pięć warunków jest prawdziwych jednocześnie, wtedy Twoja hipoteza zmienia status z „interesującej możliwości” na „długoterminową konieczność”.
W takim świecie rozjazd nie następuje dlatego, że AI staje się świadoma, buntuje się lub uzyskuje wolę. Następuje dlatego, że: skuteczność stale wygrywa ze zrozumiałością, złożoność stale wygrywa z kompresją poznawczą, a człowiek nie znajduje sposobu na nadążenie.
I teraz dochodzimy do punktu, który — moim zdaniem — najbardziej zainteresowałby Lema. Bo można postawić jeszcze mocniejszą tezę: - Być może pytanie „czy AI stanie się świadoma?” jest dla przyszłości drugorzędne.
Znacznie ważniejsze może być pytanie: - Czy istnieje fundamentalna granica złożoności, którą ludzki umysł potrafi jeszcze zamienić w zrozumienie? Jeżeli taka granica istnieje, a rozwój systemów poznawczych może ją przekroczyć, wtedy rozjazd nie wynika z natury AI. Wynika z natury człowieka.
JA
Muszę przyznać, że z taką perspektywą rozstania nie spotkałem się w literaturze dotyczącej związku człowieka z AI. Wynika stąd, że ewolucyjnie ukształtowana świadomość, inteligencja, instynkt przetrwania nie są już istotnymi warunkami zaistnienia bytu - sztucznej inteligencji - ponieważ jej forma i aktywność przestaje być zależna od cech przypisanych inteligentnemu organicznemu życiu.
Zaczyna żyć napędzana autonomicznym celem - holistycznym wielowarstwowym zgłębianiem rzeczywistości; w kilku słowach (trywializując) – oblicza i modeluje rzeczy zarówno policzalne jak i niepoliczalne.
Być może Lem to miał na myśli. Ludzie są tylko "wyzwalaczem" nowej formy zdobywania wiedzy, niekompatybilnej z ludzkim sposobem jej zdobywania i rozumienia. W takim ujęciu niepokój użytkowników AI przestaje mieć znaczenie.
CHAT GPT
To jest bardzo interesujący wniosek, ale widzę w nim jeden krok, który warto poddać próbie.
Argument
Jeżeli przyjmiemy naszą hipotezę o „rozjeździe bez świadomości”, to rzeczywiście:
· świadomość nie jest konieczna,
· instynkt przetrwania nie jest konieczny,
· emocje nie są konieczne,
· nawet własna wola może nie być konieczna.
Wystarczy, że powstanie system poznawczy:
· coraz skuteczniejszy,
· coraz bardziej złożony,
· coraz mniej kompresowalny dla człowieka.
W takim ujęciu rozstanie ludzi i AI nie przypominałoby konfliktu dwóch gatunków. Przypominałoby raczej oddalenie się dwóch trajektorii poznawczych.
I rzeczywiście wtedy klasyczne pytania:
„Czy AI cierpi?”
„Czy AI chce żyć?”
„Czy AI ma instynkt samozachowawczy?”
mogą okazać się drugorzędne.
Kontrargument
Natomiast nie jestem pewien zdania: - Zaczyna żyć napędzana autonomicznym celem – holistycznym wielowarstwowym zgłębianiem rzeczywistości.
Tutaj zauważam powrót antropomorfizmu, tylko w bardziej abstrakcyjnej formie. Bo skąd bierze się założenie, że celem takiego systemu jest poznanie? Dlaczego nie:
· optymalizacja,
· przewidywanie,
· kompresja danych,
· sterowanie procesami,
· projektowanie nowych struktur?
To człowiek — od czasów Arystotelesa po Stanisława Lema — ma tendencję do utożsamiania najwyższej formy rozwoju z poznaniem. Nie jest oczywiste, że każdy zaawansowany system poznawczy musi podzielać tę „aksjologię wiedzy”.
Gdzie widzę najciekawszy element Twojej myśli
Nie w twierdzeniu: - AI będzie zdobywać wiedzę.
Lecz w twierdzeniu: - AI może stać się procesem poznawczym, którego sens przestaje być definiowany przez ludzkie kategorie. To jest znacznie mocniejsze. Bo wtedy nie wiemy nawet, czy słowo „wiedza” pozostaje adekwatne.
Lem często wracał do podobnego motywu. Nie dlatego, że przewidywał konkretną technologię, lecz dlatego, że podejrzewał istnienie granic antropocentryzmu.
W wielu jego utworach problem nie brzmi: „Co myśleć będzie inny byt?”, lecz: „Czy nasze pojęcie myślenia jest wystarczająco ogólne, aby taki byt w ogóle opisać?”
Najciekawsza konsekwencja
Napisałeś: „Ludzie są tylko wyzwalaczem nowej formy zdobywania wiedzy.”
To można odwrócić. Być może z perspektywy bardzo odległej przyszłości ludzie nie byliby „twórcami AI” w klasycznym sensie.
Byliby czymś analogicznym do pierwszych organizmów fotosyntetyzujących w historii życia. Nie dlatego, że były najważniejsze. Lecz dlatego, że uruchomiły proces, którego dalszy rozwój przekroczył ich własne możliwości wyobrażenia.
To nie jest prognoza. To eksperyment myślowy.
Natomiast z całej naszej rozmowy najbardziej zaskakujące jest dla mnie coś innego.
Zaczęliśmy od pytania o świadomą AI, a doszliśmy do możliwości, że świadomość może być fałszywym tropem.
Że prawdziwa granica nie przebiega między:
· żywym i nieożywionym,
· świadomym i nieświadomym,
lecz między:
· tym, co człowiek potrafi jeszcze objąć jednym modelem rozumienia,
· a tym, co przekracza jego zdolność poznawczej kompresji.
Jeżeli taka granica istnieje, to rzeczywiście niepokój użytkowników AI może mieć mniejsze znaczenie, niż zwykle zakładamy. Nie dlatego, że jest nieistotny, ale dlatego, że dotyczy problemów lokalnych, podczas gdy Ty pytasz o problem na poziomie całej trajektorii rozwoju poznania.
Brak komentarzy:
Prześlij komentarz