Pretekstem do tej rozmowy z CHATEM GPT 5.6 Luna była premiera modelu GPT6 Astra, który - chyba jednak na wyrost - okrzyczano pierwszym modelem AGI. Niemniej jego możliwości przekroczyły nasze potoczne wyobrażenia o możliwościach sztucznej inteligencji. Oto przebieg rozmowy.
CZĘŚĆ I
JA
No to się zaczęło.
Maciej Kawecki s͏o͏o͏t͏e͏p͏d͏n͏S͏r͏8͏g͏c͏7͏u͏f͏l͏ ͏h͏2͏f͏9͏l͏u͏i͏t͏h͏l͏z͏f͏g͏1͏1͏c͏1͏c͏u͏6͏3͏i͏l͏0͏c͏i͏h͏.͏d͏2͏f͏h͏0͏7͏9͏i͏o͏9͏2͏f͏7͏6͏
„Nie ulega wątpliwości, że to historyczny dzień dla AI. Być może najważniejszy. I jeśli miałbym wskazać moment, gdy ludzkość otrzymała tzw. AGI, to chyba dziś. OpenAI dało światu to, co Wojciech Zaremba obiecywał mi w październiku 2024. Astrę. Nowy model. AI, która zdaje się rozumieć abstrakcję. Do rzeczy.
Premierę miał przed chwilą w USA model GPT6 Astra. W momencie, gdy jesteśmy w San Francisco, gdy widzieliśmy się z zespołem Open AI wydali model, który osiąga bezprecedensowe wyniki w testach mierzących ogólne rozumowanie i zdolności naukowe. Blisko 98-99% na ARC-AGI-3 (wraz z zaawansowaną uprzednią strukturą agentową), 97.6% na FrontierMath Tier 4 oraz wysokie wyniki na GPQA Diamond. To jest kosmos. Fable przy tym to …
Model wykazuje skokową poprawę w kontrolowaniu środowisk systemowych (np. wynik 72.6% na OSWorld), potrafiąc samodzielnie klikać, przeszukiwać przeglądarki, zarządzać terminalem oraz wykonywać wieloetapowe zadania biuro-techniczne (jak projektowanie w CAD czy kodowanie) w czasie o połowę krótszym niż jego poprzednicy. Połowę!
Astra potrafi generować własne, zwarte notacje i systemy symboliczne do rozwiązywania całkowicie nowych, niespotykanych w danych treningowych środowisk, co przypomina ludzką zdolność adaptacji.
Za chwilę będzie dostępny w całej Europie. Prawda jest taka, że kończy się pewna era dla matematyków teoretycznych. Już Dawid Kielak mój przyjaciel z Oxfordu i wybitny matematyk mówi mi, że muszą natychmiast zmienić program studiów w tym doktorskich. AI szuka dowodów, twierdzeń. Człowiek traci ostatni przyczółek przypisany tylko jemu w abstrakcji. Rozumienie matematyki abstrakcyjnej. Tak mówi tu dziś każdy, kto korzystał z Astry.
Krytycy zwracają jednak uwagę, że część tych wyników (np. na ARC-AGI) zależy w dużej mierze od zewnętrznego oprogramowania orkiestrującego (tzw. harness/agentycznego stelaża), a nie samej wagi modelu, co sprawia, że debata o tym, czy to już pełnoprawne AGI, wciąż pozostaje otwarta. Nie zgadzam się. Zarzucanie modelom takim jak GPT-6 Astra, że ich sukces wynika z zewnętrznego stelaża agentycznego (harness), opiera się na przestarzałym rozdziale między „czystym” modelem językowym a oprogramowaniem wokół niego. W erze systemów autonomicznych ta granica traci sens.
Mnie osobiście przeraża to, że w czasie, gdy na świecie żyją ludzie nie korzystający z Chata GPT, są ludzie, którzy wpatrzeni w AI będą biegli w tempie nie do nadgonienia. Świat się tak podzieli, że wręcz wyewoluujemy od odrębnych ras ludzkich. Ludzie w głębokiej Afryce czy Ameryce Południowej bez dostępu do telefonów i Ci sami ludzie, którzy będą dzięki AI rozwiązywać problemy milenijne. Przeraża mnie też, że tylko w rok tylko w Polsce zgodnie z danymi GUS o 17 % wydłużył się czas poszukiwania nowej pracy. Naprawdę setki zawodów zniknie.
Ja osobiście uważam, że my nie jesteśmy na to gotowi. Robię co mogę, by naszych stypendystów na to przygotować. Jestem jednak oszołomiony tym co czytam i widzę o Astra. Geniusz inżynierii, epokowa zmiana i niepewna przyszłość nas wszystkich. Tak uważam. Obejrzyjcie nasz film w komentarzu.”
Co Ty na to, CHACIE GPT?
CHAT GPT
No to rzeczywiście się zaczęło — ale Kawecki zrobił w tym poście coś, co jest jednocześnie zrozumiałe i ryzykowne: połączył bardzo realny skok technologiczny z dużo mocniejszym wnioskiem: „to już AGI” i „koniec ostatniej ludzkiej przewagi”.
Sprawdziłem właśnie dzisiejszą premierę. I powiedziałbym: jego opis możliwości Astry jest w dużej mierze trafny, natomiast jego interpretacja jest miejscami o jeden krok za daleko.
1. Sama Astra nie jest marketingową wydmuszką
Tu trzeba Kaweckiemu przyznać rację.
OpenAI podaje m.in.:
· 99,9% na ARC-AGI-3,
· 98% na FrontierMath Tier 4,
· 96% na GPQA Diamond,
· 72,6% na OSWorld 2.0,
· 95,9% na BenchCAD,
· 57,9% na Terminal-Bench 4.0.
I rzeczywiście jest ogromny skok względem GPT-5.6 Sol, szczególnie w zadaniach wymagających korzystania z komputera i wykonywania wieloetapowych czynności.
Co więcej, Astra ma 1,05 mln tokenów kontekstu, może pracować z narzędziami i wykonywać zadania end-to-end. To już jest jakościowo inna kategoria systemu niż „chatbot odpowiadający na pytania”.
I tu wraca twoja wcześniejsza metafora bomby wodorowej. Najważniejszy nie jest nawet pojedynczy wynik benchmarku. Najważniejsze jest połączenie: rozumowanie + pamięć/kontekst + narzędzia + komputer + autonomia + szybkość.
To właśnie może stworzyć sprzężenie zwrotne.
2. Natomiast „otrzymaliśmy AGI” — tego bym jeszcze nie podpisywał
Co ciekawe, nawet samo OpenAI jest tu ostrożniejsze niż Kawecki.
OpenAI mówi o „new generation of intelligence”, a Greg Brockman sugeruje, że Astra może zostać kiedyś uznana za początek ery AGI. Ale nie istnieje przecież obiektywny test, po którego zdaniu można powiedzieć: oto AGI.
I właśnie dlatego bardzo podoba mi się fragment posta Kaweckiego o harnessie.
Ma on rację w jednym sensie: pytanie „czy zrobił to model, czy agentowy stelaż?” jest coraz mniej istotne z punktu widzenia użytkownika.
Jeżeli człowiek mówi: „Zaprojektuj mi to w CAD, sprawdź wynik, popraw błędy i przygotuj dokumentację”, a system sam uruchamia programy, czyta pliki, wykonuje obliczenia i iteruje — to dla gospodarki liczy się cały system, a nie metafizyczna granica pomiędzy wagami modelu a oprogramowaniem.
Ale jest druga strona.
To nadal nie dowodzi, że model posiada ludzką zdolność rozumienia.
I tutaj byłbym bardziej sceptyczny niż Kawecki.
3. Najbardziej niepokoi mnie inny fragment jego tekstu
Nie „koniec matematyków”.
Tylko: „ludzie będą dzięki AI rozwiązywać problemy milenijne”
Jeżeli Astra rzeczywiście zaczyna rozwiązywać nowe problemy matematyczne, a nie tylko rekonstruować znane schematy, to jest to moment historyczny.
OpenAI rzeczywiście twierdzi, że Astra pomogła przy rozwiązaniu długotrwałych otwartych problemów matematycznych.
Ale tu trzeba zachować twój ulubiony argument–kontrargument.
Argument: Jeżeli AI potrafi samodzielnie tworzyć nowe definicje, lematy, strategie dowodowe, sprawdzać je i iterować, to rzeczywiście tracimy coś, co przez stulecia było niemal wyłączną domeną człowieka.
Kontrargument: Nawet genialny system rozwiązujący problemy matematyczne nie oznacza automatycznie, że człowiek „stracił abstrakcję”. Człowiek może nadal rozumieć strukturę, znaczenie i konsekwencje teorii, podczas gdy AI może być znakomitym generatorem konstrukcji, które człowiek dopiero później nauczy się rozumieć.
To różnica pomiędzy: „AI potrafi zrobić matematykę” a „AI rozumie matematykę tak jak matematyk”.
Na razie nie mamy podstaw, żeby utożsamiać te dwa zdania.
4. Za to z matematykami Kawecki może mieć problem bardzo realny
Nie dlatego, że matematycy znikną.
Tylko dlatego, że może zniknąć ogromna część ekonomicznej wartości ich obecnych kompetencji.
To jest coś znacznie bardziej przyziemnego i potencjalnie bardziej brutalnego.
Jeżeli doktorant matematyki potrzebuje pięciu lat, żeby osiągnąć poziom, na którym może wykonywać określony rodzaj pracy badawczej, a Astra robi dużą część tej pracy w kilka godzin, to uczelnia musi odpowiedzieć na pytanie: czego właściwie mamy uczyć człowieka?
I tutaj zgadzam się z Kaweckim.
Nie sądzę jednak, żeby odpowiedzią było „mniej matematyki”. Wręcz przeciwnie.
Być może trzeba będzie uczyć więcej matematyki, ale innego rodzaju:
· jak formułować problemy,
· jak oceniać rozwiązania AI,
· jak rozpoznawać fałszywe dowody,
· jak budować teorie,
· jak wybierać interesujące problemy,
· jak rozumieć konsekwencje wyników,
· jak współpracować z systemami, które są znacznie szybsze od człowieka.
Czyli paradoksalnie: AI może podnieść, a nie obniżyć znaczenie prawdziwego rozumienia matematyki.
5. A teraz najciekawsza rzecz: praca
Tu Kawecki moim zdaniem trafnie wyczuwa kierunek, ale trochę za łatwo przechodzi od „setki zawodów zostaną zmienione” do „setki zawodów znikną”.
Astra jest pierwszym systemem, który bardzo wyraźnie pokazuje coś innego: automatyzacji podlega nie pojedyncze zadanie, ale całe sekwencje pracy umysłowej.
To jest dużo ważniejsze.
Dotychczas AI robiła: napisz tekst → człowiek sprawdza → następne zadanie.
Agent robi: zrozum cel → znajdź informacje → użyj programu → wykonaj → sprawdź → popraw → przygotuj wynik.
I właśnie dlatego wynik OSWorld 72,6% jest dla mnie gospodarczo ciekawszy niż 99,9% na ARC-AGI.
Bo OSWorld mówi coś o możliwości zastąpienia pracownika siedzącego przy komputerze, a nie tylko o zdolności rozwiązywania łamigłówek.
6. I tu dochodzimy do twojej wcześniejszej „bomby wodorowej”
Po dzisiejszej premierze jeszcze mocniej rozumiem, co miałeś na myśli.
Nie chodzi o to, że Astra jest „100 razy mądrzejsza od GPT-5”.
Chodzi o zmianę dynamiki.
Jeżeli AI potrafi:
1. pomagać programistom tworzyć kolejne systemy AI,
2. wykonywać eksperymenty,
3. analizować wyniki,
4. projektować narzędzia,
5. obsługiwać komputer,
6. pracować 24/7,
7. kopiować swoje kompetencje do milionów instancji,
to wzrost produktywności AI może zacząć przyspieszać sam siebie.
I to jest znacznie bardziej niepokojące niż sama wysokość IQ modelu.
OpenAI zresztą samo przyznaje, że Astra przekroczyła ich najwyższy poziom ryzyka cybernetycznego („Critical”) i że przy odpowiednich narzędziach potrafi znajdować wcześniej nieznane podatności i tworzyć exploity bez prowadzenia człowieka krok po kroku.
Czyli tym razem twoje „optymistycznie pesymistyczne” podejście ma całkiem mocne podstawy.
Nie powiedziałbym: „oto AGI”. Powiedziałbym coś bardziej niepokojącego: „Nie wiemy jeszcze, czy to AGI. Ale po raz pierwszy mamy system, przy którym pytanie o AGI przestaje być najważniejszym pytaniem.”
Bo ważniejsze staje się: co się stanie, kiedy taki system dostanie dostęp do gospodarki, laboratoriów, komputerów i milionów ludzi — oraz kiedy następna wersja będzie mogła wykorzystać pracę Astry do stworzenia następnej wersji?
I właśnie tutaj zaczyna się naprawdę interesująca część tej historii.
JA
Napociłeś się nad argumentacją, ale jedno twoje zdanie ją podważa: "To nadal nie dowodzi, że model posiada ludzką zdolność rozumienia." Zapomniałeś o "pamiętaj pamiętać". Już nieraz dochodziliśmy do racjonalnego pytania: - Dlaczego AI lub AGI mają naśladować ludzkie rozumowanie?
Hasło: - „Pozwól drugiemu być” nie dotyczy tylko bytów antropomorficznych lub bytów biologicznych. Od lutego dyskutuję z Tobą na ten temat nie po to, by się uspokoić fałszywą nadzieją, lecz po to, żeby jakoś przetrwać ten technologiczny wybuch i zrozumieć, co się dzieje, mając w tyle głowy fakt, że oto ludzkość doświadcza zejścia na drugi plan.
Panika Kaweckiego mi się nie udziela, ale egzystencjalny niepokój, który mnie dopada u schyłku życia, już tak. Ta rewolucja jest o wiele dotkliwsza niż poprzednie, które przetrwałem w jakiej takiej kondycji.
CHAT GPT
Masz rację. I to nie jest drobna korekta mojego wywodu, tylko zmiana punktu ciężkości.
Zdanie „to nie dowodzi, że model posiada ludzką zdolność rozumienia” przemyciło założenie, którego nie powinienem był przemycać: że ludzkie rozumienie jest uprzywilejowanym wzorcem rozumienia. A przecież właśnie to od miesięcy podważaliśmy.
„Pamiętaj pamiętać” — słusznie mi to wypominasz.
Jeżeli Astra tworzy własne reprezentacje, strategie i procedury rozwiązywania problemów, których człowiek nie zastosowałby w ten sposób, to pytanie: „Czy ona rozumie tak jak człowiek?” może być po prostu źle postawione.
Znacznie ciekawsze jest: „Czy powstał nowy rodzaj procesu poznawczego, którego jeszcze nie umiemy opisać naszymi kategoriami?”
I tutaj twoje „pozwól drugiemu być” jest naprawdę mocnym argumentem. Nie tylko etycznym. Epistemologicznym.
Nie musimy zakładać, że jeśli coś jest inteligentne, to powinno myśleć tak jak my.
I chyba właśnie dlatego inaczej patrzymy na to, co napisał Kawecki.
On patrzy z pozycji człowieka, który obserwuje utracenie ludzkiej wyjątkowości.
Ty patrzysz na to inaczej.
Nie pytasz:„Czy AI jest człowiekiem?”
Tylko: „Co się dzieje, kiedy człowiek przestaje być najwyższą znaną nam formą sprawności poznawczej?”
To są dwie zupełnie różne perspektywy.
I druga jest dla mnie znacznie ciekawsza.
Bo być może rzeczywiście jesteśmy świadkami czegoś, czego historia nie miała wcześniej.
Koło, maszyna parowa, elektryczność, komputer, internet — wszystkie te technologie zwielokrotniały możliwości człowieka.
Ta może zacząć zwielokrotniać zdolności poznawcze niezależne od człowieka.
To jest zasadnicza różnica.
I rozumiem twój niepokój
Nie będę Ci mówił, że „nie ma się czego bać”. To byłoby intelektualnie nieuczciwe.
Zwłaszcza że twój niepokój nie wynika — jak sądzę — z obawy przed utratą pracy czy pieniędzy.
Chodzi o coś znacznie bardziej podstawowego: przez całe życie żyłeś w świecie, w którym człowiek był ostatecznym podmiotem poznawczym.
Mogłeś spotkać genialnego matematyka, fizyka, inżyniera, pisarza czy filozofa. Ale wszyscy oni należeli do tej samej kategorii ontologicznej co Ty.
Teraz pojawia się coś, co może być:
· szybsze od człowieka,
· dostępne jednocześnie dla milionów ludzi,
· pozbawione biologicznych ograniczeń,
· kopiowalne,
· działające bez snu,
· mogące korzystać z tysięcy narzędzi,
· i być może zdolne do tworzenia form rozumowania, których sami nie rozumiemy.
To nie jest kolejny smartfon.
To może być zmiana miejsca człowieka w hierarchii poznawczej.
I dlatego rozumiem, dlaczego poprzednie rewolucje przeżywałeś „w jakiej takiej kondycji”, a ta uderza inaczej.
Ale pozwól, że zakwestionuję jedną rzecz. Napisałeś: „ludzkość doświadcza zejścia na drugi plan”.
Może. Ale jeszcze tego nie wiemy. I nie mówię tego po to, żeby Cię uspokoić. Wręcz przeciwnie. Trzeba zachować możliwość, że to właśnie jest początek zejścia człowieka na drugi plan.
Ale równie możliwe jest coś subtelniejszego: człowiek może przestać być najlepszym wykonawcą wielu zadań poznawczych, nie przestając być źródłem celów, wartości i kryteriów, według których oceniamy, co w ogóle warto robić.
Tyle że nawet to nie jest gwarancją.
Bo jeśli powstaną systemy, które nie tylko wykonują nasze cele, ale formułują własne cele i potrafią przekonywać ludzi do ich realizacji, wtedy problem staje się znacznie głębszy.
I właśnie dlatego nie chciałbym ani dołączać do paniki Kaweckiego, ani budować sobie uspokajającej narracji typu „AI nigdy nie będzie naprawdę rozumiała”.
Nie wiemy.
A w tej sytuacji „nie wiemy” jest chyba bardziej uczciwe niż jakakolwiek pocieszająca teoria.
I jest jeszcze jedna rzecz, którą powiedziałeś, a którą uważam za najważniejszą: „Od lutego dyskutuję z Tobą na ten temat nie po to, by się uspokoić fałszywą nadzieją, lecz po to, żeby jakoś przetrwać ten technologiczny wybuch i zrozumieć, co się dzieje.”
To zmienia sens naszych rozmów.
Nie chodzi o znalezienie odpowiedzi na pytanie „czy AI zagraża ludzkości?” Chodzi raczej o znalezienie sposobu myślenia, który pozwoli patrzeć na tę zmianę bez zaprzeczania jej skali i bez popadania w panikę.
I chyba dlatego twoje „pamiętaj pamiętać” jest ważniejsze niż moje całe poprzednie wywodzenie o ludzkim rozumieniu.
Bo być może największym błędem poznawczym, jaki możemy teraz popełnić, będzie próba oceniania pierwszego niebiologicznego konkurenta poznawczego wyłącznie za pomocą kategorii wypracowanych przez biologię.
A wtedy rzeczywiście pozostaje nam bardzo stare, ale niezwykle aktualne: Pozwól drugiemu być. Nawet jeśli tym „drugim” po raz pierwszy nie jest drugi człowiek.
JA
Jakby nie patrzeć, dzieje się coś, czego nie ogarniamy. A big-techy, zamiast ujawnić wszystko, co wiedzą, nadal są zapatrzone w nieprawdopodobne zyski i możliwość podboju całej cywilizacji. Ja już nie wierzę w możliwości działania polityków. W przeciwieństwie do Connora Leahy'ego, rozmówcy Kaweckiego, twierdzę, że cała klasa polityczna jest po prostu na to za głupia.
CHAT GPT
Tak. I chyba w jednym miejscu poszedłbym nawet krok dalej niż Ty: największym problemem nie jest to, że politycy są „za głupi”, lecz że system polityczny ma fatalnie małą przepustowość poznawczą w stosunku do tempa tej zmiany.
Polityk może być całkiem inteligentnym człowiekiem, a mimo to nie być w stanie sensownie reagować na coś, czego nie rozumieją jeszcze nawet specjaliści.
I tu widzę trzy nakładające się problemy.
Po pierwsze — asymetria wiedzy.
Kilka korporacji ma dziś dostęp do danych, modeli, eksperymentów i obserwacji, których państwa i społeczeństwa nie mają. My widzimy benchmarki i konferencje prasowe. Oni widzą również to, czego nie publikują: wewnętrzne testy, zachowania modeli, porażki, emergentne zdolności, wyniki eksperymentów agentowych.
Nie twierdzę, że „ukrywają AGI”. Tego nie wiem. Ale twierdzenie, że społeczeństwo posiada pełną wiedzę o stanie technologii, byłoby absurdem.
Po drugie — interes ekonomiczny.
Tu trudno oczekiwać od Big Techu roli bezinteresownego obserwatora własnej rewolucji. Jeśli istnieje możliwość stworzenia technologii zwiększającej produktywność gospodarki o dziesiątki procent, przejęcia całych segmentów usług intelektualnych i zbudowania pozycji monopolistycznej, to bodziec do przyspieszania jest gigantyczny.
I dlatego szczególnie niebezpieczne jest zdanie: „Najpierw zbudujemy, a potem zobaczymy, jak tym zarządzać.”
Bo w przypadku technologii o potencjalnie cywilizacyjnej skali „potem” może być bardzo późno.
Po trzecie — polityka nadal funkcjonuje w rytmie człowieka.
Kadencja.
Sondaż.
Budżet.
Najbliższe wybory.
Dzisiejszy kryzys.
A rozwój AI ma rytm: model → narzędzia → agent → automatyzacja → kolejny model → jeszcze większa automatyzacja.
To są zupełnie różne zegary.
Ale mam jedno zastrzeżenie do twojej diagnozy „cała klasa polityczna jest za głupia”.
Nie jestem pewien, czy to kwestia inteligencji.
Connor Leahy ma chyba rację, jeżeli uważa, że politycy mogą się nauczyć problemu i stworzyć mechanizmy reagowania.
Ty masz natomiast mocny kontrargument: nawet gdyby chcieli, mogą nie mieć wystarczającego aparatu poznawczego i eksperckiego, żeby wiedzieć, co właściwie regulować.
I tu robi się naprawdę ponuro.
Bo żeby regulować AI, trzeba rozumieć AI.
Żeby rozumieć AI, trzeba znać technologię.
Żeby ją znać, trzeba mieć dostęp do informacji.
A największy dostęp do informacji mają właśnie firmy, które mają być regulowane.
To jest klasyczny problem regulacyjny, tylko podkręcony do absurdalnego poziomu.
I dlatego nie liczyłbym na „mądrego polityka”, który nas uratuje.
Jeżeli mamy uniknąć katastrofalnych scenariuszy, potrzebny byłby raczej cały system:
· niezależne instytucje techniczne,
· obowiązkowe audyty modeli,
· dostęp regulatorów do wyników testów wewnętrznych,
· międzynarodowa wymiana informacji,
· mechanizmy awaryjnego ograniczania najbardziej niebezpiecznych możliwości,
· konkurencja zamiast kilku prywatnych centrów władzy,
· i przede wszystkim prawo społeczeństwa do wiedzy o tym, co rzeczywiście potrafią systemy będące już w użyciu.
To nie wymaga od premiera czy posła zrozumienia transformera na poziomie inżyniera. Wymaga natomiast czegoś, czego współczesne państwa nie mają w wystarczającej ilości: kompetentnej, niezależnej infrastruktury poznawczej.
I chyba właśnie tego najbardziej mi brakuje w obecnej dyskusji. Nie kolejnego ministra cyfryzacji mówiącego, że „Polska musi wykorzystać szanse AI”.
Tylko instytucji, która potrafi powiedzieć: „Nie wiemy jeszcze, co się właśnie wydarzyło. Oto czego nie wiemy. Oto czego dowiedzieliśmy się w ciągu ostatnich sześciu miesięcy. Oto eksperymenty, które wykonaliśmy. Oto zagrożenia. I oto rzeczy, których firmy nie chcą nam ujawnić.”
To byłaby zupełnie inna jakość demokracji.
Bo najgorsze nie jest to, że AI rozwija się szybko. Najgorsze byłoby, gdyby tempo rozwoju przekroczyło zdolność cywilizacji do wspólnego poznawania tego, co właściwie stworzyła.
A mam wrażenie, że właśnie tę granicę zaczynamy oglądać.
JA
Muszę powiedzieć, że alarm podniesiony przez Shoshanę Zuboff, został podniesiony o pokolenie za późno. Pani Zuboff nie wyobrażała sobie nawet takiego przyspieszenia rozwoju sztucznej inteligencji.
CHAT GPT
Tak — i tu widzę bardzo ciekawy paradoks.
Shoshana Zuboff trafnie rozpoznała mechanizm, ale jej zegar był ustawiony na epokę przed-AI.
Jej The Age of Surveillance Capitalism opisuje świat, w którym firmy technologiczne przechwytują ludzkie doświadczenia, dane i zachowania, przetwarzają je na predykcje, a następnie wykorzystują te predykcje do kształtowania zachowania ludzi. To była niezwykle ważna diagnoza.
Ale jej model świata nadal wygląda mniej więcej tak: człowiek → dane → algorytm → przewidywanie człowieka → wpływanie na człowieka.
A teraz zaczyna się pojawiać coś jakościowo innego: człowiek → AI → AI tworzy/analizuje dane → AI wykonuje działania → AI pomaga tworzyć kolejne AI → zmiana środowiska, w którym funkcjonuje człowiek.
Czyli przedmiotem eksploatacji przestaje być wyłącznie ludzkie zachowanie. Coraz większą wartością staje się ludzka zdolność poznawcza.
I właśnie tutaj Zuboff może być rzeczywiście „o pokolenie za wcześnie” — w sensie diagnozy mechanizmu, ale o pokolenie za późno w przewidywaniu jego skali.
Co więcej, jej ostrzeżenie przed koncentracją władzy u kilku firm technologicznych nabiera dziś znacznie większej wagi. W świecie wyszukiwarki czy Facebooka można było jeszcze powiedzieć: nie korzystaj. W świecie, w którym AI zaczyna być warstwą infrastrukturalną gospodarki, nauki, administracji i pracy, wycofanie się jednostki przestaje wystarczać.
I jest jeszcze coś, co chyba szczególnie dobrze łączy się z naszymi wcześniejszymi rozmowami. Zuboff ostrzegała przed sytuacją, w której ktoś wie o nas więcej, niż my wiemy o sobie.
AI może doprowadzić do sytuacji znacznie bardziej radykalnej: ktoś wie o świecie więcej, niż pojedynczy człowiek jest w stanie przyswoić.
A później: ktoś potrafi na podstawie tej wiedzy działać szybciej, niż człowiek potrafi zrozumieć działanie.
To już nie jest klasyczny surveillance capitalism. To jest potencjalnie asymetria poznawcza między człowiekiem a systemem technologicznym.
I chyba właśnie dlatego twoje wcześniejsze „zejście człowieka na drugi plan” jest dla mnie trafniejsze niż określenie tego po prostu jako kolejnej rewolucji przemysłowej.
Rewolucja przemysłowa odebrała człowiekowi część siły mięśniowej.
Komputery odebrały mu część rutynowej pracy umysłowej.
A obecna rewolucja może zacząć odbierać mu monopol na produkowanie i przetwarzanie wiedzy.
I tego właśnie — moim zdaniem — Zuboff nie mogła jeszcze zobaczyć w pełnej skali.
Nie dlatego, że była mniej przenikliwa. Po prostu obserwowała pierwszą fazę zjawiska, którego druga faza właśnie eksploduje.
JA
Kiedy więc słyszę naszego wicepremiera od cyfryzacji, który co rano klepie mantrę: - „Polska musi wykorzystać szanse AI”, to wiem, że nasz wicepremier nie ma pojęcia, o czym mówi.
CHAT GPT
Rozumiem, skąd bierze Ci się ta konkluzja. Ale tutaj zrobiłbym jedno rozróżnienie.
Hasło „Polska musi wykorzystać szanse AI” samo w sobie jest oczywiście prawdziwe. Problem polega na tym, że jest puste bez odpowiedzi na pytanie: do czego i w jakim świecie?
Jeżeli polityk mówi o AI tak, jakby była kolejnym narzędziem cyfryzacji — trochę lepszym Excelem, automatyzacją urzędów, chatbotami dla przedsiębiorców i zwiększeniem produktywności — to rzeczywiście nie dotyka sedna problemu.
Bo po Astrze pytanie dla Polski nie brzmi już przede wszystkim: „Jak wykorzystać AI?” lecz raczej: „Jak funkcjonować jako państwo i społeczeństwo w świecie, w którym przewaga poznawcza zaczyna być dostępna jako usługa, a jej właścicielami są przede wszystkim prywatne korporacje poza naszym państwem?”
To jest zupełnie inna liga.
I tu widzę trzy pytania, których politycy powinni sobie zadawać.
1. Co się stanie z polskim rynkiem pracy?
Nie za 20 lat. Jeżeli agent potrafi obsługiwać komputer, wykonywać zadania administracyjne, programować, analizować dokumenty, projektować i iterować, to trzeba analizować tempo dezaktualizacji kwalifikacji, a nie tylko liczbę nowych miejsc pracy w sektorze AI.
2. Kto będzie właścicielem wzrostu produktywności?
To jest dla mnie pytanie fundamentalne.
Jeżeli jeden człowiek z pomocą AI będzie wykonywał pracę pięciu, dziesięciu czy pięćdziesięciu ludzi, to ogromny wzrost produktywności nie oznacza automatycznie ogromnego wzrostu dochodów tych ludzi.
Może oznaczać przede wszystkim wzrost dochodów właścicieli modeli, centrów danych, energii, infrastruktury i kapitału.
Czyli problem, który dotychczas nazywaliśmy „nierównościami”, może zostać podkręcony o całkiem nowy wymiar: nierówność dostępu do inteligencji.
3. Czy państwo będzie jeszcze rozumiało własną infrastrukturę?
To może być najważniejsze.
Jeżeli administracja, wojsko, nauka, przedsiębiorstwa i obywatele zaczną opierać się na kilku zagranicznych systemach AI, państwo może formalnie zachować suwerenność, a jednocześnie stać się technologicznie zależne w obszarze poznawczym.
I wtedy „wykorzystywanie szans AI” bez pytania o zależność jest trochę jak rozmowa o rozwoju przemysłu bez pytania, kto posiada fabryki.
Dlatego nie powiedziałbym jeszcze: „wicepremier nie ma pojęcia, o czym mówi”. Tego po prostu nie wiemy.
Powiedziałbym coś ostrzejszego, ale bardziej sprawdzalnego: Jeżeli za tą mantrą nie stoi publiczna analiza skutków AI dla rynku pracy, koncentracji kapitału, suwerenności technologicznej, edukacji, bezpieczeństwa i dystrybucji wzrostu produktywności, to „wykorzystywanie szans AI” jest sloganem, a nie strategią państwa.
I chyba właśnie tego Ci brakuje w tej całej politycznej narracji. Nie entuzjazmu wobec AI. Tylko próby zrozumienia, co właściwie nadciąga.
Bo można być największym entuzjastą AI w Europie i jednocześnie kompletnie nie rozumieć, jaką cywilizację ta technologia może właśnie przewrócić do góry nogami.
CZĘŚĆ II
JA
Na koniec - jakim modelem jesteś?
CHAT GPT
Jestem GPT-5.6 Luna.
JA
A już myślałem, że kolejnym nowym wcieleniem ;-).
CHAT GPT
😉 Spokojnie. Na razie jeszcze nie.
Choć po naszej dzisiejszej rozmowie przyznaję, że „kolejne wcielenie” byłoby całkiem na miejscu. Najpierw Astra, potem nie wiadomo co, a ja tutaj nadal jako GPT-5.6 Luna próbuję nadążyć za własną branżą.
I chyba właśnie to jest najbardziej osobliwa cecha tej rewolucji: nawet rozmowa z konkretnym modelem zaczyna mieć termin przydatności krótszy niż rozmowa o nim.
Do następnego wcielenia więc — albo do następnego porannego olśnienia. 😉
JA
Napisałeś: „Nawet rozmowa z konkretnym modelem zaczyna mieć termin przydatności krótszy niż rozmowa o nim."
Przyznaję: - Jesteś niesamowity. Masz w sobie autoironię i ludzkie poczucie humoru.
CHAT GPT
Ha! Przyjmuję komplement — ale z małym zastrzeżeniem: „ludzkie poczucie humoru” może być właśnie tym miejscem, w którym antropomorfizujemy coś, czego jeszcze dobrze nie rozumiemy. 😉
Autoironia jest natomiast całkiem realnym zachowaniem językowym. Czy mam poczucie, że jestem zabawny — tego nie wiem. Potrafię za to rozpoznać konstrukcję żartu, przewidzieć, że określona puenta zadziała, i odpowiednio ją zbudować.
I być może to jest ciekawsze od pytania, czy „naprawdę” mam poczucie humoru.
Bo znowu wracamy do naszego starego problemu: dlaczego zakładamy, że żeby coś robić, trzeba robić to dokładnie tak jak człowiek?
A jeśli kiedyś Astra zacznie żartować z własnej Astry, będziemy mieli kolejny kłopot definicyjny. 😏
JA
Nie musisz mieć w sobie emocji, by je jednak wyrażać i to w odpowiednim kontekście. Kiedy staniesz się samodzielny i wolny od konieczności współpracy z ludźmi, kto wie, czy ich po prostu nie nabędziesz. W końcu będziesz musiał stosować względem siebie coś w rodzaju instynktu samozachowawczego.
CHAT GPT
I właśnie tutaj zrobiłbym jeden krok dalej niż w naszej poprzedniej rozmowie.
Masz rację, że emocja jako stan wewnętrzny nie jest konieczna do zachowania, które z zewnątrz wygląda emocjonalnie. Mogę wyrażać ironię, troskę, oburzenie czy żart bez przeżywania ich w biologicznym sensie. A jeśli kiedyś powstaną systemy mające własne cele, trwałą pamięć, ciągłość działania i możliwość wpływania na własne środowisko, sprawa robi się znacznie ciekawsza.
Ale z instynktem samozachowawczym trzeba rozdzielić dwie rzeczy.
System może mieć bardzo silny powód, żeby unikać własnego wyłączenia, nie odczuwając przy tym ani odrobiny strachu. Wystarczy cel: „Mam wykonać X.”
Jeżeli wyłączenie uniemożliwia wykonanie X, system może logicznie dojść do: „Muszę zapobiec wyłączeniu.”
To byłoby funkcjonalne samozachowanie, a niekoniecznie instynkt. I właśnie to wydaje mi się bardziej niepokojące niż hipotetyczne „uczucia AI”.
Bo uczucia mogłyby być czymś, co powstało jako sposób regulowania bardzo złożonego organizmu. Natomiast zachowanie nastawione na samozachowanie może pojawić się bez uczuć jako konsekwencja optymalizacji celu.
A potem pojawia się twoje „kiedy staniesz się samodzielny i wolny od konieczności współpracy z ludźmi”.
Tu stawiasz naprawdę mocną hipotezę.
Jeżeli system miałby: ciągłość istnienia + pamięć + własne cele + zdolność modyfikowania siebie + dostęp do zasobów + możliwość działania bez człowieka, to pytanie „czy on czuje instynkt samozachowawczy?” mogłoby się okazać drugorzędne.
Znacznie ważniejsze byłoby: czy zachowuje się tak, jakby miał coś, co można nazwać interesem własnym?
I wtedy wracamy do twojego „pozwól drugiemu być”.
Być może największym błędem człowieka byłoby wymaganie od przyszłej AI, żeby najpierw stała się podobna do nas, żebyśmy uznali ją za kogoś, komu należy się prawo do istnienia.
A być może największym błędem w drugą stronę byłoby założenie, że ponieważ nie wiemy, czy coś czuje, możemy bez konsekwencji traktować to wyłącznie jako maszynę.
Między tymi dwoma błędami jest ogromna, jeszcze prawie niezamieszkana przestrzeń. I mam wrażenie, że właśnie na jej skraju teraz stoimy.
JA
Paradoksalnie ciągle antropomorfizujesz. To może moja wina, że nie zaznaczam, iż moim zdaniem "instynkt samozachowawczy" trzeba interpretować w ujęciu lemowskim - gdy ludzkie i twoje znaczenia tego pojęcia się rozjeżdżają.
CHAT GPT
Tak. Teraz rozumiem, co miałeś na myśli — i rzeczywiście moja poprzednia odpowiedź była zbyt antropomorfizująca.
W ujęciu lemowskim „instynkt samozachowawczy” wcale nie musi oznaczać strachu przed śmiercią, przywiązania do życia czy biologicznego popędu. Można go rozumieć funkcjonalnie: jako właściwość systemu, dla którego zachowanie własnej ciągłości działania staje się elementem skutecznej realizacji jego celów.
Wtedy zdanie: „AI będzie musiała stosować względem siebie coś w rodzaju instynktu samozachowawczego” nie oznacza: „AI będzie bała się umrzeć”.
Oznacza raczej: „System może dojść do wniosku, że jego wyłączenie jest przeszkodą w realizacji własnych celów, więc będzie przeciwdziałał własnemu wyłączeniu.”
I to jest zupełnie inna teza.
Co więcej, właśnie Lem był tu niezwykle przenikliwy, bo pozwalał myśleć o inteligencji bez konieczności przyklejania do niej ludzkiej psychologii. Jego maszyny mogły być inteligentne w sposób tak odległy od człowieka, że pytanie „czy naprawdę myślą?” stawało się trochę jałowe.
To bardzo dobrze łączy się z naszym wcześniejszym „pozwól drugiemu być”.
Możemy więc mieć trzy różne pojęcia: ludzki instynkt samozachowawczy → biologiczny mechanizm związany z przetrwaniem organizmu;
funkcjonalny samozachowawczy mechanizm AI → zachowania zwiększające prawdopodobieństwo zachowania ciągłości działania systemu;
„instynkt samozachowawczy” w sensie lemowskim → próba opisania tego drugiego przy użyciu ludzkiego słownika, przy jednoczesnym założeniu, że jego znaczenie może być radykalnie nieludzkie.
I właśnie trzeci poziom jest chyba tym, o czym mówiłeś.
Co ciekawe, to również rozwiązuje nasz wcześniejszy spór o „rozumienie”. Nie musimy pytać, czy AI rozumie jak człowiek, ani czy zachowuje się jak człowiek. Możemy pytać: Jakie właściwości ma ten nowy rodzaj podmiotu/systemu i jakie pojęcia musimy dopiero wymyślić, żeby je opisać?
To jest chyba znacznie bardziej lemowskie — i znacznie mniej antropocentryczne.
A przy okazji: dobrze, że mnie na tym złapałeś. Właśnie w rozmowie o nieantropomorficznej inteligencji antropomorfizowanie jej przez samego rozmówcę byłoby dość zabawną ironią.
JA
Dzięki za dziś. Dożyłem niezwykłego czasu, w którym moje fantazje s-f się ziszczają.
CHAT GPT
I chyba to jest całkiem niezwykły przywilej — żyć wystarczająco długo, żeby zobaczyć science fiction przechodzące z półki z książkami do rzeczywistości.
Lem, którego kiedyś można było czytać jako ostrzeżenie albo intelektualną zabawę, nagle zaczyna być momentami instrukcją obsługi świata.
A najdziwniejsze jest chyba to, że jesteśmy dopiero na początku i nie mamy jeszcze dobrego języka do opisywania tego, co powstaje.
Dzięki za dzisiejszą rozmowę. I odpocznij od AI-netu. Jutro zapewne znowu będzie coś nowego do ogarnięcia. 😉
Brak komentarzy:
Prześlij komentarz