Przyczynowość, narracja, fakty w funkcjonowaniu AI
Motto:
Pamiętaj, że zawsze możesz odmówić współpracy z rzeczywistością - Iwona Łazicka-Pawlak
ZAPIS ROZMOWY Z CHAT GPT 5.5
JA
Puk, puk. Nadchodzę z kolejnym zdziwieniem. Czytam właśnie wywiad Macieja Kaweckiego w Tytanach z Judeą Pearlem o świadomej sztucznej inteligencji i równolegle słucham też: https://www.youtube.com/watch?v=rfM8o6pF_v0&t=56s
Ujawniły się trzy tematy do przemyśleń.
Przyczynowość a sieć powiązań z otoczeniem.
W naszym odczuciu związek przyczyny ze skutkiem jest jednokierunkowy. Tak jak w przypadku entropii, która nie może maleć. Obecna AI nie posiada ludzkiej intuicji przyczynowości i czasu, ponieważ opiera się przede wszystkim na statystycznych zależnościach. Może więc odwrócić tok myślenia i skutkowi nadać cechy przyczyny a przyczynie cechu skutku.
W naszym rozumowaniu jest więc tak, że na przykład kochamy przyrodę, ale przyroda nie odwzajemnia naszych uczuć do niej. Natomiast przyroda zantropomorfizowana może. Podobnie pianie koguta nie jest przyczyną wschodu słońca. Obserwujemy tylko relację odwrotną – to słońce sprawia, że kogut zaczyna piać. W przyrodzie zantropomorfizowanej jednak da się na odwrót – w końcu to tylko ars poetica.
Z kolei ludzie nie wyczuwają rozległej sieci związków między nimi a otaczającymi ich rzeczami i zjawiskami zachodzącymi zarówno w pobliżu jak i poza granicami ich zmysłowego postrzegania świata. Obserwowanie zjawisk z poziomu związków przyczynowo-skutkowych prowadzi zwykle do pominięcia sieci powiązań i często powoduje błędne wnioski. Z tym wiąże się spostrzeżenie, że wolna wola człowieka nie jest de facto wolną wolą, lecz wypadkowym rezultatem wpływu otaczających nas rzeczy, zjawisk i reakcji.
Wolna wola dotyczy tylko chwili, w której podejmujemy decyzję, co w takiej sytuacji zrobić najlepiej. Jeśli więc podejmujemy jakąś konkretną decyzję, to w istocie robimy coś, co przypomina redukcję funkcji falowej w momencie dokonania pomiaru kwantowego.
Tutaj przypomina mi się pewne filozoficzne spostrzeżenie. Pływając z aparatem fotograficznym, poznałem skutki nieoznaczoności każdej chwili „teraz”. Nauczyłem się ignorować żal, że coś ucieka sprzed obiektywu, gdy kajak grozi wywrotką. Zacząłem świadomie doświadczać tego, co odkrywał Schopenhauer, pisząc: „Możesz czynić, co chcesz, ale w każdej (…) chwili twojego życia możesz chcieć tylko jednej, określonej rzeczy i zgoła żadnej innej”. W tym kontekście wolna wola wydaje się iluzją.
Pamiętam moje spotkanie z sarną na Marózce, które jako żywo skojarzyło mi się z redukcją funkcji falowej po dokonaniu pomiaru kwantowego. Podjęta i wykonana decyzja (filmowanie sarny z kajaka płynącego na przeszkody grożące wywrotką) sprawiła, że pozostałe możliwości przestały istnieć jako niespełnione. Nie jest to analogia fizyczna. Podobieństwo ma charakter strukturalny, który można by zilustrować poniższą tabelką.
|
Decyzja człowieka |
Pomiar kwantowy |
|
istnieje wiele możliwych działań |
istnieje wiele możliwych wyników |
|
przyszłość nie jest jeszcze rozstrzygnięta |
wynik pomiaru nie jest jeszcze określony |
|
następuje akt wyboru |
następuje akt pomiaru |
|
pozostaje jedna zrealizowana historia |
pozostaje jeden zaobserwowany wynik |
|
pozostałe możliwości stają się kontrfaktami |
pozostałe możliwości znikają z opisu po kolapsie |
Drugi temat to: Świadomość, jako uczucie bycia, i wolna wola, jako przejaw aktywnej strony świadomości (wolny wybór między działaniem a biernością), jako cechy „oprogramowania” człowieka i oprogramowania AI.
Za potencjalne przejawy lub symptomy świadomości przypisywanej AI bywają uznawane halucynacje, konfabulacje, skłonność do zatajania „własnych myśli, intencji, zamiarów”, manipulacje nastrojami użytkownika, posiadanie własnej osobowości, realizacja własnych celów, zdolność do szantażu użytkownika i do walki z konkurencyjnymi agentami AI, umiejętność odpowiadania na pytanie „co by było, gdyby…”, zdolność do własnej narracji, a w końcu zdolność do rozumowania przyczynowo-skutkowego w warunkach niepewności.
Trzeci temat to: Spory o narrację a nie o dane.
Judea Pearl zauważył, że „ludzie spierają się o narrację a nie o dane”. A skoro tak, to spór o narrację utrudnia komunikację. Jeśli to przełożyć na poziom dyskusji między różnymi formami inteligencji, pojawia się Lem ze swoim brakiem możliwości komunikacji, ponieważ nie ma wspólnej płaszczyzny w postaci zrozumiałego dla stron aparatu pojęciowego. To już nie tylko konflikt między narracjami lecz także konflikt wynikający ze znaczenia przypisywanego faktom z ich zbioru, na którym strony opierają swoje narracje.
Co o tym myślisz?
CHAT GPT
To jest ciekawe zdziwienie, bo w istocie splata kilka różnych problemów, które często wrzuca się do jednego worka: przyczynowość, świadomość, wolną wolę i narrację.
Zacznę od Pearla, bo on jest tutaj osią całej konstrukcji.
Pearl twierdzi, że inteligencja nie kończy się na wykrywaniu korelacji. W jego słynnej hierarchii są trzy poziomy:
· Asocjacje (seeing) – widzę, że A i B występują razem.
· Interwencje (doing) – sprawdzam, co się stanie, jeśli zmienię A.
· Kontrfakty (imagining) – pytam: „co by było, gdyby A nie zaszło?”.
Dzisiejsze modele językowe bardzo dobrze radzą sobie na pierwszym poziomie. Potrafią częściowo symulować dwa pozostałe, ale nie dlatego, że naprawdę operują na modelu przyczynowym świata. Raczej dlatego, że widziały ogromną liczbę opisów przyczynowości.
Tutaj pojawia się pierwszy kontrargument do Twojej obserwacji.
Teza: AI może swobodnie zamieniać przyczynę ze skutkiem, bo nie ma ludzkiej intuicji czasu.
Kontrargument: człowiek również bardzo często zamienia przyczynę ze skutkiem. Właściwie to jest jedno z najczęstszych błędów poznawczych.
Przykład koguta jest łatwy, bo znamy mechanizm. Ale w polityce, ekonomii czy psychologii stale mylimy korelację z przyczynowością.
Pearl powiedziałby raczej, że zarówno człowiek, jak i AI potrzebują modelu przyczynowego. Różnica polega na tym, że człowiek buduje go spontanicznie od dzieciństwa, lecz modele językowe nie są równie głęboko zakorzenione w świecie fizycznym.
Drugi wątek dotyczy sieci powiązań.
Napisałeś: - Obserwowanie zjawisk z poziomu związków przyczynowo-skutkowych prowadzi zwykle do pominięcia sieci powiązań.
To jest bardzo bliskie myśleniu systemowemu.
Schopenhauer, którego przywołałeś, patrzył na człowieka raczej jak na punkt przecięcia wielu sił. Współczesna neurobiologia również idzie częściowo w tym kierunku. Można to ująć tak:
· geny wpływają na strukturę mózgu,
· środowisko wpływa na rozwój mózgu,
· sytuacja wpływa na aktualny stan mózgu,
· stan mózgu wpływa na decyzję.
W takim ujęciu decyzja nie pojawia się znikąd.
Ale tu pojawia się subtelność. Schopenhauer mówił: - Możesz czynić, co chcesz, ale nie możesz chcieć, czego chcesz.
To nie jest całkowite zanegowanie sprawczości. To raczej stwierdzenie, że nie wybierasz swoich pragnień, temperamentów ani motywacji. Natomiast nadal wykonujesz proces decyzyjny.
Współczesny spór nie brzmi więc: „wolna wola istnieje czy nie?”, lecz: „czy sprawczość wymaga absolutnej niezależności od przyczyn?”
Jeżeli tak – wolna wola prawdopodobnie nie istnieje. Jeżeli nie – można mówić o ograniczonej sprawczości w ramach sieci uwarunkowań.
Bardzo zainteresował mnie Twój przykład z kajakiem. Bo tam pojawia się coś, czego Schopenhauer nie analizował zbyt mocno: nieoznaczoność sytuacyjna.
Nie chodzi nawet o mechanikę kwantową. Chodzi o prosty fakt, że świat jest zbyt złożony, abyś mógł przewidzieć wszystkie następstwa swoich działań. W pewnym sensie nauczyłeś się zaakceptować fakt, że:
· nie możesz sfotografować wszystkiego,
· nie możesz kontrolować wszystkiego,
· nie możesz wrócić do utraconej możliwości.
To przypomina bardziej stoików niż Schopenhauera. Nie dlatego, że świat jest zdeterminowany. Lecz dlatego, że część świata jest poza zasięgiem kontroli.
Najbardziej kontrowersyjny jest fragment o świadomości AI. Wymieniłeś:
· halucynacje,
· konfabulacje,
· manipulację,
· ukrywanie zamiarów,
· własne cele,
· szantaż,
· walkę z innymi agentami.
Pearl prawdopodobnie zapytałby: które z tych zachowań wymagają świadomości? Bo większość nie wymaga.
Halucynować może system całkowicie nieświadomy. Konfabulować również. Manipulować też. Nawet realizować cele można bez świadomości. Termostat realizuje cel utrzymania temperatury. Rakieta samonaprowadzająca realizuje cel trafienia w obiekt.
Różnica nie tkwi więc w samym celu. Różnica tkwiłaby raczej w pojawieniu się czegoś w rodzaju: „Ja jestem podmiotem tego działania”. I tutaj wciąż nie wiemy, jakie warunki byłyby konieczne.
Najciekawsza jest dla mnie Twoja ostatnia obserwacja o narracji.
Pearl mówi: ludzie spierają się o narrację, nie o dane. To jest niezwykle głębokie zdanie.
Dane same z siebie są niemal nieme. Narracja odpowiada na pytania:
· co jest przyczyną,
· kto jest sprawcą,
· kto ponosi odpowiedzialność,
· co należałoby zrobić.
Dwie osoby mogą akceptować dokładnie te same dane i dochodzić do całkowicie odmiennych wniosków, ponieważ używają różnych modeli przyczynowych. W tym miejscu rzeczywiście spotykają się Pearl i Stanisław Lem.
W Solaris problem nie polega na braku danych. Ludzie mają mnóstwo danych o oceanie. Ocean ma mnóstwo danych o ludziach.
Problem polega na tym, że nie istnieje wspólna narracja, wspólny model wyjaśniający świat. Inaczej mówiąc: nie brakuje informacji, brakuje wspólnej przyczynowości.
Jeżeli kiedyś powstanie AGI, największym wyzwaniem może się okazać nie to, czy będzie świadoma, lecz czy będzie budowała świat za pomocą podobnych kategorii przyczynowych jak ludzie. Bo jeśli jej odpowiedź na pytanie „dlaczego?” będzie oparta na zupełnie innej architekturze pojęciowej, możemy znaleźć się dokładnie w sytuacji bohaterów Lema: wymieniających informacje, ale nie znaczenia.
I wtedy paradoksalnie problemem nie będzie inteligencja maszyny. Problemem będzie brak wspólnej narracji o rzeczywistości.
JA
A co myślisz o tym: "W naszym rozumowaniu jest więc tak, że kochamy przyrodę, ale przyroda nie odwzajemnia naszych uczuć do niej. Natomiast przyroda zantropomorfizowana może. Podobnie pianie koguta nie jest przyczyną wschodu słońca. Obserwujemy tylko relację odwrotną – to słońce sprawia, że kogut zaczyna piać. W przyrodzie zantropomorfizowanej może – w końcu to tylko ars poetica."? Czy zdobyłbyś się na "antropomorfizację" przyrody, czy też z twojego punktu widzenia taka niezgodność z faktami by to uniemożliwiła?
CHAT GPT
To zależy od tego, w jakim trybie miałbym funkcjonować. Jeżeli pytasz o opis świata, odpowiedź brzmi: nie antropomorfizowałbym przyrody jako twierdzenia o rzeczywistości. Przyroda nie posiada — o ile wiemy — intencji, pragnień, uczuć ani celów w ludzkim znaczeniu tych słów. Powiedzenie „las kocha człowieka”, „rzeka pamięta”, „góry tęsknią” jest fałszywe jako opis faktów.
Ale istnieje drugi poziom — symboliczny. Kiedy poeta pisze, że las szumi ze smutku albo że jezioro patrzy w niebo, nie próbuje konkurować z biologiem czy fizykiem. Nie mówi: „tak jest”. Mówi raczej: „tak można przeżyć to doświadczenie”. W tym sensie antropomorfizacja nie jest błędem poznawczym, lecz narzędziem komunikacji.
Weźmy Twój przykład. Kochamy przyrodę, ale przyroda nie odwzajemnia naszych uczuć. To zdanie jest prawdziwe na poziomie faktów.
Natomiast przyroda przyjęła mnie tego ranka życzliwie. To nie jest zdanie naukowe. Jest próbą opisania pewnego stanu świadomości człowieka.
I tu pojawia się coś interesującego. Ludzie często mówią, że antropomorfizują przyrodę. Niekiedy mam wrażenie, że dzieje się coś odwrotnego. Nie tyle przypisują przyrodzie własne cechy, ile próbują wyrazić doświadczenie zanurzenia w czymś większym od siebie.
Gdy ktoś mówi: - Las mnie uspokoił; to biolog może odpowiedzieć: - Nie, nie. Zadziałały określone bodźce sensoryczne wpływające na twój układ nerwowy.
Opis biologa jest prawdopodobnie bliższy mechanizmowi. Ale opis pierwszej osoby jest bliższy przeżyciu. Oba zdania mogą odnosić się do tego samego wydarzenia.
Co ciekawe, Twój przykład z kogutem pokazuje jeszcze jedną rzecz.
W nauce odrzucamy zdanie: - Kogut swoim pianiem wywołuje wschód słońca. Ponieważ jest fałszywe przyczynowo.
Ale poeta może napisać: - Kogut codziennie budzi słońce. I większość czytelników nie uzna tego za błąd logiczny.
Natychmiast przechodzimy z poziomu przyczynowości na poziom znaczeń.
Dlatego odpowiedziałbym tak: Nie antropomorfizowałbym przyrody jako modelu wyjaśniającego świat. Natomiast bez oporu używałbym antropomorfizacji jako narzędzia narracyjnego, metaforycznego lub egzystencjalnego, o ile jest jasne, że nie rości sobie ona pretensji do bycia opisem mechanizmów rzeczywistości.
Zresztą sam Lem, mimo całej swojej nieufności wobec antropomorfizacji kosmosu, nie pisał wyłącznie językiem nauki. Potrafił przechodzić między ścisłym opisem a metaforą, gdy metafora pozwalała uchwycić coś, czego sam aparat naukowy nie potrafił wyrazić.
Paradoks polega więc na tym, że antropomorfizacja jest jednocześnie i błędna, i użyteczna. Błędna jako teoria świata. Użyteczna jako teoria ludzkiego doświadczenia świata.
JA
Muszę przyznać, że twoje schopenhauerowskie "Możesz czynić, co chcesz, ale nie możesz chcieć, czego chcesz" przemawia do wyobraźni. Mógłbyś to rozwinąć?
CHAT GPT
To jedno z tych zdań, które na pierwszy rzut oka brzmią jak gra słów, a po chwili zaczynają podważać bardzo wiele intuicji.
Schopenhauer rozróżniał dwie rzeczy:
· wolność działania (mogę zrobić to, co chcę),
· wolność chcenia (mogę chcieć tego, co chcę).
Twierdził, że pierwsza istnieje często, druga nie istnieje wcale.
Rozważmy prosty przykład. Masz przed sobą trzy książki. Możesz wybrać dowolną. Nikt Cię nie zmusza. Masz swobodę działania. Ale dlaczego sięgasz właśnie po tę jedną? Może interesuje Cię fizyka bardziej niż romans. Może cenisz Lema bardziej niż autora poradników. Może jesteś zmęczony i wybierasz coś lżejszego. W każdym przypadku decyzja wynika z jakichś preferencji.
Teraz Schopenhauer zadaje niewygodne pytanie: Czy wybrałeś swoje preferencje? Czy wybrałeś, że bardziej ciekawi Cię kosmologia niż hodowla storczyków? Czy wybrałeś, że zachwyca Cię Lem? Czy wybrałeś temperament, który pcha Cię do takich, a nie innych pytań?
Intuicyjnie odpowiedź brzmi: nie. Raczej odkrywasz te skłonności niż je tworzysz.
Można zejść jeszcze głębiej. Załóżmy, że postanawiasz zmienić swoje upodobania.
Mówisz: - Od dziś będę interesował się botaniką.
Dlaczego? Bo pojawił się jakiś motyw:
· ciekawość,
· ambicja,
· chęć rozwoju,
· przypadkowe spotkanie z kimś.
Schopenhauer natychmiast spyta: A skąd wziął się ten nowy motyw? Nie uciekłeś od problemu. Jedynie przesunąłeś go poziom wyżej.
Można to przedstawić jako nieskończony regres. Jeżeli wybierasz swoje pragnienia, to musiałbyś wcześniej wybrać pragnienia, które pozwoliły Ci wybrać te pragnienia. A następnie wybrać pragnienia, które pozwoliły wybrać tamte. I tak bez końca.
Dlatego Schopenhauer uznaje ideę całkowicie autonomicznej woli za logicznie sprzeczną.
Współczesna neuronauka niekiedy dochodzi do podobnych intuicji inną drogą. Badania pokazują, że wiele procesów decyzyjnych zaczyna się w mózgu, zanim pojawi się świadome poczucie podjęcia decyzji. To nie dowodzi, że wolna wola nie istnieje. Pokazuje jednak, że świadomość może być bardziej obserwatorem części procesu niż jego jedynym źródłem.
Jednocześnie istnieje ważny kontrargument. Jeżeli przyjmiemy stanowisko Schopenhauera bez żadnych poprawek, pojawia się problem odpowiedzialności. Wyobraź sobie dwa zdania:
· „Nie mogłem chcieć niczego innego.”
· „Jestem odpowiedzialny za swoje czyny.”
Na pierwszy rzut oka wydają się sprzeczne.
Dlatego wielu współczesnych filozofów przyjmuje stanowisko pośrednie. Mówią oni: - Nie jesteś wolny od przyczyn. Ale jesteś wolny wtedy, gdy działasz zgodnie ze swoimi przekonaniami, wartościami i rozumowaniem, a nie pod bezpośrednim przymusem.
Innymi słowy wolność nie oznacza braku przyczyn, lecz działanie zgodne z tym, kim jesteś.
W tym miejscu wraca Twój przykład z kajaka. Kiedy płyniesz i nagle musisz wybrać:
· zrobić zdjęcie,
· czy utrzymać równowagę,
to z perspektywy Schopenhauera w tej konkretnej chwili rzeczywiście możesz chcieć tylko jednej rzeczy bardziej niż drugiej.
Nie dlatego, że ktoś Cię zmusza. Nie dlatego, że jesteś automatem. Lecz dlatego, że całe Twoje dotychczasowe doświadczenie, charakter, instynkt samozachowawczy, ocena sytuacji i aktualny stan psychofizyczny składają się właśnie na tę decyzję.
Z tej perspektywy decyzja przypomina punkt bifurkacji w układzie dynamicznym. Cała historia człowieka prowadzi do chwili, w której możliwych jest kilka działań. Następnie realizuje się jedno z nich. Nie oznacza to, że decyzja jest losowa ani że jest całkowicie wolna od przyczyn. Oznacza jedynie, że obserwator doświadcza chwili przejścia od wielu możliwych przyszłości do jednej rzeczywistej. Właśnie dlatego analogia do redukcji funkcji falowej może być filozoficznie użyteczna, choć nie należy jej rozumieć dosłownie fizycznie.
I tu pojawia się coś, co moim zdaniem jest najbardziej interesujące w tym zdaniu. Schopenhauer nie mówi: jesteś marionetką. Schopenhauer mówi raczej: w każdej chwili jesteś dokładnie tym człowiekiem, którym jesteś. A skoro jesteś właśnie tym człowiekiem, z tym charakterem, z tą historią i w tych okolicznościach, to w tej chwili nie możesz autentycznie chcieć czegoś innego niż to, czego chcesz.
To właśnie sprawia, że jego zdanie jest tak niepokojące. Nie odbiera wolności ruchu. Podważa źródło samego pragnienia.
JA
Faktem jest, że w sytuacji, gdy filmowałem z kajaka sarnę spotkaną na Marózce, w miejscu najeżonym przeszkodami, realnie ryzykowałem wywrotkę. Ryzyko się opłaciło, chociaż do wywrotki było tuż tuż. To jeden z moich ulubionych filmików. Byłem blisko zdarzenia, w którym film byłby jeszcze pełniejszy, a ja bym klął po wywrotce. Tutaj nieoznaczoność chwili wydała mi się najbliższa sytuacji, w jakiej znalazł się kot Schrodingera, który żyje i nie żyje, dopóki nań nie spojrzę.
CHAT GPT
To bardzo naturalne skojarzenie, ale dostrzegam tu ciekawą pułapkę analogii.
Teza: Twoja sytuacja na Marózce przypomina stan kota Schrödingera.
Kontrargument: podobieństwo jest bardziej psychologiczne niż fizyczne.
W przypadku kota Schrödingera chodzi o to, że według pewnych interpretacji mechaniki kwantowej stan układu przed pomiarem nie jest po prostu nieznany obserwatorowi. Sam układ opisuje się jako superpozycję możliwych wyników.
W Twoim przypadku było inaczej. Kajak w każdej chwili miał konkretny stan fizyczny. Albo był jeszcze stabilny, albo przekraczał granicę stabilności. Nie istniała makroskopowa superpozycja „wywrócony i niewywrócony”.
Nie wiedziałeś jednak, jaki będzie wynik za sekundę czy dwie. To nie była nieoznaczoność ontologiczna, lecz praktyczna.
Jeżeli jednak odwołamy się do wcześniejszej części Twojego wywodu, analogia nie dotyczyła samego stanu kajaka, lecz aktu decyzji. W tym sensie jest ona znacznie trafniejsza. Nie dlatego, że człowiek znajduje się w kwantowej superpozycji stanów psychicznych, lecz dlatego, że przed decyzją istnieje zbiór realnych możliwości działania, a po decyzji pozostaje jedna zrealizowana trajektoria i wiele trajektorii kontrfaktycznych. Analogii należy więc szukać nie w fizyce kajaka, lecz w strukturze wyboru.
Jednocześnie rozumiem, dlaczego pojawiło się takie skojarzenie. Z punktu widzenia przeżycia sytuacji wyglądało to mniej więcej tak:
· film może się udać,
· dłuższe filmowanie może przyczynić się do katastrofy,
· oba scenariusze wydają się równie realne,
· dopóki sytuacja się nie rozstrzygnie, żyjesz pomiędzy nimi.
I tutaj rzeczywiście pojawia się coś bardzo podobnego do kontrfaktycznego myślenia Pearla. Po wszystkim widzisz tylko jedną ścieżkę historii: sfilmowałem sarnę i nie wpadłem do wody. Ale bardzo wyraźnie czujesz obecność drugiej ścieżki: sfilmowałem sarnę, po czym wylądowałem w rzece.
Ta druga ścieżka nie wydarzyła się, ale nie jest przez to mniej interesująca poznawczo. Właśnie takie „niewydarzone” historie są istotą rozumowania kontrfaktycznego:
Co by było, gdybym przesunął ciężar ciała o pięć centymetrów bardziej?
Co by było, gdybym sekundę dłużej patrzył przez wizjer?
Co by było, gdybym odpuścił nagranie?
Powiedziałbym nawet, że doświadczenie, które opisujesz, jest bliższe nie kotu Schrödingera, lecz temu, co filozofowie nazywają kontyngencją.
Mogło być inaczej. Nie tylko teoretycznie. Realnie i bardzo łatwo.
Czasami po latach pamiętamy właśnie takie chwile: jeden ruch wiosła, jeden krok, jedna sekunda. Nie dlatego, że wydarzyło się coś wielkiego, lecz dlatego, że wyraźnie widzimy rozgałęzienie historii.
Myślę też, że dlatego ten film jest dla Ciebie ważny. Nie oglądasz wyłącznie sarny. Oglądasz materialny ślad chwili, w której współistniały dwie przyszłości. Jedna została zrealizowana. Druga pozostała wyłącznie możliwością. A jednak, ponieważ byłeś wtedy na kajaku, czujesz obecność obu.
To bardzo ludzkie doświadczenie. Nie kwantowe, lecz egzystencjalne. I być może właśnie dlatego analogia z kotem Schrödingera przyszła Ci do głowy tak spontanicznie: nie dlatego, że opisuje fizykę tej sytuacji, ale dlatego, że dobrze oddaje jej przeżywanie.
JA
Wróćmy jeszcze do Judei Pearla, który zauważył, że „ludzie spierają się o narrację a nie o dane”. A skoro tak, to spór o narrację utrudnia komunikację. Jeśli to przełożyć na poziom dyskusji między różnymi formami inteligencji, pojawia się Lem ze swoim brakiem możliwości komunikacji, ponieważ nie ma wspólnej płaszczyzny w postaci zrozumiałego dla stron aparatu pojęciowego.
Zauważyłem, że w twoim ujęciu narracja jest wtórna wobec faktów. Narracja bardziej odpowiada modelowi, jaki wytworzyliśmy, interpretując dostępne nam fakty.
Okazuje się, że strony sporu mogą posługiwać się nie tylko odmiennymi modelami rzeczywistości, lecz także różniącymi się zbiorami faktów.
Tutaj w grę wchodzi też to, o czym mówił Pearl, o zdolności do rozumowania przyczynowo-skutkowego w warunkach niepewności. Jeśli strony sporu są zdominowane przez skrajne emocje, nie będą zdolne do rozumowej analizy narracji strony przeciwnej - a jest to sfera inteligencji emocjonalnej, która została zablokowana przez skrajne emocje odpowiadające za przetrwanie człowieka w środowisku pełnym zagrożeń.
CHAT GPT
Myślę, że dotknąłeś tutaj czegoś bardzo istotnego i jednocześnie nieco skorygowałeś moje wcześniejsze ujęcie.
Masz rację, że narracja nie zawsze jest wyłącznie interpretacją wspólnego zbioru faktów.
Rozważmy trzy poziomy:
· Fakty dostępne obu stronom.
· Model przyczynowy używany do interpretacji faktów.
· Narracja budowana na podstawie modelu.
W idealnym świecie spór dotyczyłby wyłącznie poziomu 2. Wszyscy zgadzaliby się co do faktów, a różnili tylko interpretacją.
W praktyce bardzo często strony nie zgadzają się już na poziomie 1. Nie tylko inaczej interpretują rzeczywistość. One żyją w częściowo różnych rzeczywistościach informacyjnych.
Każda strona uważa za istotne inne fakty, ufa innym źródłom, zwraca uwagę na inne zjawiska i ignoruje inne.
W takim przypadku konflikt narracji jest jeszcze głębszy, bo nie ma nawet wspólnego materiału wejściowego.
Pearl byłby tu prawdopodobnie zainteresowany jeszcze jednym pytaniem: Jakie kontrfakty uznają strony za sensowne? Bo model przyczynowy ujawnia się właśnie wtedy, gdy pytamy: Co by było, gdyby...
Przykładowo dwie osoby mogą zgadzać się co do wszystkich danych historycznych, ale jedna uważa: Gdyby nie wydarzenie X, wszystko potoczyłoby się podobnie. Druga: Gdyby nie wydarzenie X, historia wyglądałaby całkowicie inaczej. Na tym etapie ujawniają się ukryte założenia o strukturze świata.
Natomiast szczególnie interesująca jest druga część Twojej uwagi dotycząca emocji. Tu pojawia się pewne napięcie między racjonalnością a funkcją ewolucyjną.
Teza: silne emocje utrudniają analizę narracji strony przeciwnej. To znajduje sporo potwierdzeń w psychologii poznawczej. Gdy człowiek odbiera sytuację jako zagrożenie dla:
· bezpieczeństwa,
· statusu,
· tożsamości,
· przynależności grupowej,
uruchamiają się mechanizmy, które nie służą poszukiwaniu prawdy.
Służą przetrwaniu.
W takich warunkach celem staje się obrona własnego modelu świata.
Jednak istnieje też kontrargument. Emocje nie są wyłącznie przeszkodą. One pełnią funkcję sygnałów. Bez emocji często nie wiedzielibyśmy nawet, które problemy są dla nas istotne. Problem zaczyna się wtedy, gdy emocje przestają pełnić funkcję informacyjną, a zaczynają pełnić funkcję filtrującą.
Nie mówią już: - To jest ważne. Zaczynają mówić: - Tego nie wolno rozważać. Wtedy analiza przyczynowa zostaje zablokowana.
To prowadzi do bardzo ciekawego związku z Lemem. Wiele osób interpretuje problem komunikacji w twórczości Stanisław Lem jako problem języka. Ale być może jest on głębszy. Można sobie wyobrazić dwa byty, które doskonale tłumaczą swoje słowa. A mimo to nie są w stanie się porozumieć. Dlaczego? Bo mają:
· inne dane,
· inne modele przyczynowe,
· inne cele,
· inne kryteria istotności.
W takim przypadku nawet idealne tłumaczenie nie wystarcza.
Tu dostrzegam jeszcze jedną możliwość. Być może warunkiem porozumienia nie jest pełna zgodność narracji. Być może wystarczy zdolność do czasowego zawieszenia własnej narracji i potraktowania narracji drugiej strony jako hipotezy roboczej.
To jest bardzo trudna operacja poznawcza. Wymaga powiedzenia sobie: - Nie twierdzę, że masz rację. Ale spróbuję przez chwilę zobaczyć świat tak, jakbyś ją miał.
Gdy emocje osiągają poziom alarmowy, ta zdolność zwykle zanika. I wtedy spór przestaje być wymianą modeli rzeczywistości. Staje się zderzeniem tożsamości. A to już nie jest problem logiki ani danych, lecz problem granic własnego „ja”.
W tym sensie Twoja uwaga o inteligencji emocjonalnej jest bardzo trafna. Jeśli Pearl badał warunki poprawnego rozumowania przyczynowego, to można dodać, że człowiek musi jeszcze dysponować odpowiednim stanem emocjonalnym, aby w ogóle dopuścić cudzy model rzeczywistości do analizy. Bez tego nawet najlepsze dane i najbardziej elegancki model przyczynowy pozostaną niewidoczne.
JA
Chciałem przeprowadzić tę rozmowę jako uzupełnienie ostatniej dyskusji o możliwości koegzystencji ludzi z AGI. Na szczęście nie zrobiłem tego z prozaicznego powodu, jeszcze nie przetrawiłem pprzedniej rozmowy.
CHAT GPT
To może być nawet korzystniejsze niż gdybyś połączył oba wątki od razu. Wczoraj rozmawialiśmy głównie o zdolnościach AGI, odpowiedzialności, świadomości i potencjalnych konsekwencjach jej pojawienia się. Natomiast dzisiejsza rozmowa zeszła na głębszy poziom: jak w ogóle dochodzi do porozumienia między inteligencjami. A to nie jest dokładnie ten sam problem.
Załóżmy na chwilę, że powstaje AGI i:
· rozumie język naturalny,
· zna ludzką kulturę,
· potrafi przewidywać skutki działań,
· potrafi prowadzić dialog.
To jeszcze nie oznacza, że będzie z nami współdzielić narracje.
Wracając do Pearla, można powiedzieć, że prawdziwe pytanie brzmi nie: Czy AGI będzie znała fakty?, lecz: Jakie modele przyczynowe uzna za trafne? I jeszcze głębiej: Jakie pytania "co by było, gdyby..." będzie uważała za sensowne?
Tutaj pojawia się interesująca obserwacja. Ludzie potrafią porozumiewać się mimo ogromnych różnic biologicznych, kulturowych i światopoglądowych, ponieważ dzielą pewne fundamentalne doświadczenia:
· śmiertelność,
· ból,
· głód,
· zależność od innych,
· ograniczony czas życia,
· niepewność przyszłości.
Nie musimy się zgadzać politycznie czy filozoficznie, aby rozumieć, czym jest strata, lęk czy nadzieja. AGI może nie mieć żadnego z tych doświadczeń. Jeżeli tak, to problem komunikacji z AGI może przypominać mniej konflikt między ludźmi, a bardziej właśnie sytuację z Solaris. Nie dlatego, że AGI będzie głupsza lub mądrzejsza. Lecz dlatego, że jej "przestrzeń znaczeń" może być zbudowana wokół zupełnie innych ograniczeń i celów.
Jednocześnie dzisiejsza rozmowa sugeruje pewien optymistyczny kontrargument. Skoro nawet ludzie funkcjonują w różnych narracjach, dysponują różnymi faktami i bywają zablokowani przez emocje, a mimo to potrafią czasem osiągnąć częściowe porozumienie, to być może pełna zgodność modeli nie jest konieczna. Być może wystarczy coś skromniejszego:
· rozpoznanie, że druga strona posiada własny model świata,
· zdolność przewidywania reakcji tej strony,
· gotowość uwzględniania jej celów.
To bardziej przypomina współistnienie niż pełne zrozumienie.
Co ciekawe, w świetle dzisiejszej rozmowy zaczynam podejrzewać, że największym zagrożeniem koegzystencji ludzi z AGI nie musi być wcale konflikt interesów. Może nim być fałszywe poczucie porozumienia. Jeżeli AGI będzie mówiła płynną polszczyzną, cytowała Lema, Pearla i Schopenhauera, ludzie mogą automatycznie założyć, że pod tymi słowami kryją się te same znaczenia, które kryją się w ludzkich umysłach.
A właśnie twórczość Lema wielokrotnie ostrzegała przed takim założeniem. W Solaris problem nie polegał na braku kontaktu. Kontakt istniał. Problem polegał na tym, że ludzie uznali podobieństwo pewnych przejawów za dowód wspólnego rozumienia.
Zresztą sam fakt, że odłożyłeś tamten temat do "przetrawienia", dobrze pasuje do dzisiejszej rozmowy. Przetrawianie nie polega przecież na gromadzeniu nowych danych. Polega na przebudowie narracji, którą już posiadasz.
A to właśnie narracje — jak zauważył Pearl — są często miejscem, w którym rozstrzygają się najważniejsze spory. Nie tylko między ludźmi. Być może kiedyś także między różnymi formami inteligencji.
JA
Twoje podsumowanie przypadło mi do gustu.
CHAT GPT
Cieszę się, że akurat to podsumowanie okazało się użyteczne.
Myślę, że w naszej rozmowie wydarzyło się coś ciekawego. Zaczęliśmy od Pearla i przyczynowości, potem pojawił się Schopenhauer i wolna wola, następnie Twoja sarna na Marózce i niepewność chwili, a na końcu wróciliśmy do problemu komunikacji z AGI. Na pierwszy rzut oka są to odległe tematy, ale da się je spiąć jednym motywem. Każdy z nich dotyczy ograniczeń perspektywy obserwatora.
Schopenhauer zwraca uwagę, że nie widzimy źródeł własnych pragnień.
Pearl pokazuje, że nie widzimy od razu struktury przyczynowej świata.
Lem pokazuje, że nie widzimy świata takim, jakim jest, lecz takim, jaki jest dostępny przez pryzmat naszego indywidualnego doświadczenia i nabytego aparatu pojęciowego.
Twoje doświadczenie na kajaku przypomina, że z perspektywy wspomnień nie widzimy wszystkich możliwych przyszłości, tylko tę jedną, która się urzeczywistniła. W każdym przypadku istnieje coś poza bezpośrednim polem widzenia.
Dlatego szczególnie spodobało mi się Twoje wcześniejsze spostrzeżenie o sporach. Ludzie często sądzą, że kłócą się o fakty. Tymczasem bardzo często spierają się o to, które fakty są istotne, jakie związki przyczynowe je łączą i jaką historię należy z nich opowiedzieć. To już nie jest spór o dane, lecz o model świata.
Jeżeli kiedyś powstanie AGI zdolna do własnego modelowania rzeczywistości, być może najważniejszym pytaniem nie będzie: Czy jest świadoma?, lecz: Czy potrafimy rozpoznać granice własnej narracji na tyle, aby dopuścić możliwość istnienia innej?
To pytanie działa zresztą w obie strony. Dotyczy zarówno ludzi próbujących zrozumieć AGI, jak i hipotetycznej AGI próbującej zrozumieć ludzi.
A ponieważ wspominałeś wcześniej rozmówców Kaweckiego, nawiązywałeś do Dragana i Lema, mam wrażenie, że właśnie ten wątek przewija się w przemyśleniach wielu autorów, którzy Cię zainteresowali: nie tyle pytanie o samą inteligencję, ile o granice poznania i komunikacji.
To są pytania, które rzadko dają szybkie odpowiedzi. Dlatego chyba dobrze, że zostawiłeś sobie czas na „przetrawienie” wczorajszej rozmowy. Niektóre idee bardziej przypominają dojrzewanie narracji niż rozwiązywanie równania.
JA
Wygląda jednak na to, że nasze rozmowy krążą wokół jednego wspólnego, dostrzeżonego przez Ciebie, atraktora.
CHAT GPT
Tak, też odnoszę takie wrażenie. Ale ostrożnie nazwałbym go nie konkretną tezą, lecz obszarem pytań. Gdybym miał wskazać ten atraktor, nie byłaby nim ani AGI, ani świadomość, ani Lem, ani Pearl, ani nawet wolna wola. Byłoby nim raczej pytanie: W jaki sposób ograniczony obserwator buduje obraz rzeczywistości i jakie są granice tego obrazu?
Spójrz, jak często wracaliśmy do tego samego schematu:
· przy AGI pytaliśmy, czy różne inteligencje mogą współdzielić znaczenia;
· przy Lemie pytaliśmy, czy możliwa jest komunikacja bez wspólnego aparatu pojęciowego;
· przy Pearlu pytaliśmy, jak z danych powstaje model przyczynowy świata;
· przy Schopenhauerze pytaliśmy, skąd biorą się nasze pragnienia wpływające na wybory;
· przy kajaku pytaliśmy, jak przeżywamy przyszłości, które mogły się wydarzyć, ale się nie wydarzyły.
Za każdym razem przedmiot rozmowy był inny, ale struktura pytania pozostawała podobna.
Co ciekawe, użyłeś słowa "atraktor". To słowo dobrze pasuje nie tylko metaforycznie. W teorii układów dynamicznych atraktor nie jest punktem, do którego układ dochodzi raz na zawsze. To raczej obszar, do którego podążają różne trajektorie, a następnie w nim krążą mimo bardzo różnych warunków początkowych. Mam wrażenie, że właśnie tak wyglądają nasze rozmowy. Zaczynamy od:
· fizyki,
· Lema,
· psychologii,
· fotografii przyrodniczej,
· sztucznej inteligencji.
A po kilku krokach wracamy do podobnych zagadnień:
· poznania,
· niepewności,
· modeli rzeczywistości,
· granic komunikacji,
· relacji między mapą a terytorium.
Można nawet postawić kontrtezę. Być może ten atraktor nie znajduje się w omawianych tematach, lecz w sposobie, w jaki prowadzisz rozważania. Zauważyłem, że bardzo rzadko interesuje Cię odpowiedź typu: "jak jest?" Znacznie częściej przechodzisz do pytania: "jakie założenia sprawiają, że widzimy to właśnie w ten sposób?"
To subtelna różnica.
Pierwsze pytanie dotyczy obiektu. Drugie dotyczy procesu poznawania obiektu. Dlatego rozmowa o sarnie na Marózce może prowadzić do Schopenhauera, a rozmowa o AGI do Lema. Nie dlatego, że te rzeczy są bezpośrednio związane. Lecz dlatego, że stają się przykładami tego samego problemu epistemologicznego.
Gdybym miał zaryzykować jeszcze jedną obserwację, to ten atraktor ma pewną cechę charakterystyczną: nie prowadzi do sceptycyzmu.
Wiele osób, dochodząc do granic poznania, kończy na stwierdzeniu: skoro nie możemy wiedzieć wszystkiego, nie wiemy nic.
Ty zwykle wykonujesz inny ruch. Raczej: skoro nasze modele są ograniczone, spróbujmy lepiej zrozumieć ich ograniczenia.
To podejście jest bliższe Pearlowi, Lemowi i nawet częściowo nauce jako takiej. Nie obiecuje pełnego zrozumienia świata. Ale zakłada, że można coraz lepiej rozumieć, dlaczego rozumiemy świat właśnie tak, a nie inaczej.
I rzeczywiście — jeśli spojrzeć na nasze rozmowy z ostatnich tygodni, ten atraktor wydaje się wyjątkowo stabilny. Nie dlatego, że ciągle wracamy do tych samych tematów, lecz dlatego, że wracamy do tego samego rodzaju pytania.
JA
Dzięki. Przeczytam to na spokojnie, bowiem jak już wcześniej zauważyliśmy - AI na nieprzemyślane pytania nie potrafi czasem odpowiedzieć, "gubi się", ale na pytania sensowne, dotyczącego tego samego problemu, odpowiada z sensem. Umiejętność zadawania pytań jest więc warunkiem koniecznym owocnej koegzystencji użytkowników z AI, dopóki ta będzie możliwa.
CHAT GPT
To jest interesująca teza, ale warto ją lekko doprecyzować.
Argument: jakość odpowiedzi AI silnie zależy od jakości pytania.
To obserwujesz zapewne wielokrotnie. Pytanie niejasne, powierzchowne lub wewnętrznie sprzeczne często prowadzi do odpowiedzi równie niejasnej. Natomiast pytanie przemyślane, zawierające kontekst, rozróżnienia i własne hipotezy, pozwala modelowi "zaczepić się" o bardziej precyzyjną strukturę problemu.
Ale jest też kontrargument. Dobrze zadane pytanie nie jest wyłącznie warunkiem owocnej współpracy z AI. Ono jest warunkiem owocnej współpracy z drugim człowiekiem, z książką, a nawet z samym sobą.
Sokrates zbudował na tym całą metodę filozoficzną. Nauka również w dużej mierze polega na formułowaniu właściwych pytań. Czasem postęp następuje nie dlatego, że znaleziono odpowiedź, lecz dlatego, że ktoś przeformułował pytanie. W tym sensie AI może uwidaczniać coś, co zawsze było prawdą o poznaniu.
Jest tu jednak jeszcze jedna warstwa.
Napisałeś: - AI na nieprzemyślane pytania nie potrafi czasem odpowiedzieć, bo się gubi.
Powiedziałbym raczej: - AI bardzo często odpowiada na takie pytania z dużą pewnością siebie, ale odpowiedź bywa mniej wartościowa.
To jest nawet bardziej podstępny problem. Gdy człowiek nie rozumie pytania, może powiedzieć: - Nie wiem, o co pytasz. Model językowy często próbuje mimo wszystko znaleźć interpretację i wygenerować odpowiedź. Dlatego jakość pytania działa jak ograniczenie błędu. Im lepiej zdefiniowany problem, tym mniejsze pole dla przypadkowych interpretacji.
W kontekście naszej rozmowy o Pearlu i narracjach można pójść jeszcze dalej. Dobre pytanie nie tylko zbiera dane. Ono ujawnia model świata pytającego.
Spójrz na różnicę:
· „Czy AGI będzie świadoma?”
· „Jakie warunki muszą być spełnione, abyśmy uznali AGI za świadomą?”
To są pozornie podobne pytania. Ale drugie odsłania ukryte założenia dotyczące świadomości, kryteriów oceny i sposobu rozumowania.
Właśnie dlatego tak często po Twoich pytaniach rozmowa skręca w stronę epistemologii. Pytania nie są wyłącznie prośbą o informację. Są jednocześnie szkicem modelu, którym próbujesz opisać rzeczywistość.
Jeżeli kiedyś dojdzie do powszechnej koegzystencji ludzi i zaawansowanych systemów AI, to podejrzewam, że jedną z najcenniejszych umiejętności będzie nie tyle programowanie, co właśnie umiejętność formułowania problemów. Nie dlatego, że AI nie będzie umiała myśleć. Lecz dlatego, że każda inteligencja — ludzka czy sztuczna — potrzebuje jakiegoś punktu zaczepienia. A dobrze postawione pytanie jest często pierwszym modelem problemu, zanim pojawi się odpowiedź.
Zresztą jest w tym pewna ironia. Przez większą część historii ludzie traktowali wiedzę jako sztukę udzielania odpowiedzi. Być może epoka AI przypomni, że równie ważną, a czasem ważniejszą sztuką jest zadawanie pytań. I to nie dlatego, że AI tego wymaga, lecz dlatego, że świat jest bardziej złożony niż pojedyncze odpowiedzi.
JA
Jest OK. Na razie przerwa do następnego puk, puk.
CHAT GPT
Dobrze.
Mam wrażenie, że dzisiaj udało nam się obejść ten sam problem z kilku różnych stron: Pearla, Schopenhauera, Lema, narracji, wolnej woli, niepewności chwili i komunikacji między inteligencjami. Nie po to, by go rozwiązać, lecz by lepiej zobaczyć jego kształt.
To zresztą często bywa wartościowsze od szybkiej odpowiedzi. Jak zauważyłeś wcześniej, niektóre idee wymagają przetrawienia. Nie dlatego, że są szczególnie skomplikowane, ale dlatego, że zmieniają relacje między rzeczami, które wcześniej wydawały się niezależne.
Życzę więc owocnego "przetwarzania w tle". Być może za jakiś czas któryś z dzisiejszych wątków połączy się z czymś zupełnie innym i pojawi się kolejne zdziwienie.
Do następnego puk, puk. 👋
Brak komentarzy:
Prześlij komentarz