Rocznica i mój ulubiony post
Dzięki, że jesteś tu ze mną!
Dziś jest bardzo specjalna data: równo rok temu zaczęłam Cel22. Bardzo dziękuję, że jesteś tu ze mną, a być może też czekasz na naszą kawę w 22 wieku!
Mam kilka przemyśleń dotyczących naszego projektu:
dyscyplina jest ważniejsza niż motywacja. Pisanie równo co tydzień, nieprzerwanie, przez rok, nawet na tematy bardzo mnie interesujące, jest wyzwaniem. To trochę jak z tworzeniem własnej firmy/startupu - trzeba mieć odpowiednią dozę samodyscypliny, żeby utrzymać wytyczoną ścieżkę.
brak przygotowania nie oznacza braku działania. Przed rozpoczęciem Celu22 przez 2 czy 3 lata zastanawiałam się nad jego nazwą i czekałam, aż napiszę kilka artykułów pod rząd, żeby mieć je w zapasie na start projektu. Aż w końcu zaprosiłam mój network do listy mailingowej, obiecałam że zacznę wysyłać maile za 2 tygodnie… i musiałam zacząć. Prawie nigdy nie udało mi się przygotować "artykułów na zapas”, czasami zdarzało mi się pisać je w piątek w nocy. A jednak projekt od roku istnieje nieprzerwanie.
zdecydowanie za mało działam z promocją Celu22. Choć wielokrotnie planowałam porządne działania na Substacku i Linkedinie, w okresach wzmożonej intensywności zawodowej te aktywności zawsze spadają najniżej w liście priorytetów. Mimo tego, moje treści jak dotąd zostały wyświetlone 70 tysięcy razy. Bardzo dziękuję za zaufanie!
w świecie AI własny głos i zaufanie społeczności to dwie najdroższe waluty w internecie. Choć na co dzień bardzo mocno pracuje z AI, nigdy nie przesłałam i nie prześlę Ci treści wygenerowanych z LLM. Dodatkowo wszystkie moje hipotezy i stwierdzenia przekazywane w notkach sprawdzam dokładnie, nierzadko dokopując się do oryginalnych, trudno dostępnych publikacji. Może mi się zdarzyć błąd - śmiało mnie poprawiaj. Ale na pewno nie zdarzy mi się on przez brak staranności.
bardzo, bardzo dużo się nauczyłam, zdarzyło mi się zmienić przekonania i działania o 180 stopni (jak z jedzeniem śniadań), a już na pewno Cel22 pomógł mi utrzymać dobre nawyki. Za to również Ci dziękuję - motywujemy siebie nawzajem, żeby spotkać się na kawie w 2101 roku.
Z okazji urodzin wysyłam Ci także mój ulubiony artykuł z ostatniego roku. Artykuł ten nie traci na aktualności, wręcz przeciwnie. Im więcej myślę o tematach z tej notki, tym bardziej jestem zaniepokojona o przyszłość swojej Córki. Ale przyjmuję założenie, że:
jeśli będzie bardzo dobrze, to będzie bardzo dobrze,
jeśli będzie bardzo źle, to i tak nie mam na to wpływu,
jeśli będzie tak sobie, albo dobrze tylko dla części ludzi, to chcę dać jak najlepszą szansę swojej rodzinie - i tu już mogę działać.
Zapraszam do lektury!
Od osobliwości do wieczności
O jednej rzeczy myślę codziennie. Fascynuje mnie ona i przeraża jednocześnie, a także zabiera mi sporo mojego mindspace’u.
Tą jedną, krytyczną rzeczą jest: wykładniczy rozwój ludzkości.
Wykładniczy rozwój ludzkości ma nawet swoją osobną nazwę, Law of Accelerating Returns (2). Twórca tej koncepcji, futurysta Ray Kurzweil, opiera się na kilku prostych założeniach: np. że każde kolejne odkrycie staje się wykładniczym motorem kolejnego odkrycia, że nawet jeśli jakaś technologia dochodzi do granic fizycznych (np. wielkość tranzystorów) pojawiają się nowe technologie (np. komputery kwantowe) wzmacniające efekt wykładniczy, czy że występuje efekt synergii rozwoju różnych obszarów (np. rozwój AI w technologii wpływa na przyspieszenie rozwoju nowych leków w medycynie).
To powoduje, że przewidywanie rozwoju bazując na uprzednich doświadczeniach zawsze będzie błędne, bo niedoszacowujemy zmiany wykładniczej. Ludzie myślą liniowo, a rozwój eksponencjalny jest dla nas trudno do zrozumienia. Nie znając przyszłości, bazując na przeszłości, linia rozwoju wygląda dla nas tak:
Po drugie, jeśli spojrzymy na tempo rozwoju w dużym powiększeniu, nie jest ono ładną linią, a raczej kilkoma “S-kami” jak tutaj:
Można to łatwo zobrazować na przykładzie pojawienia się ChatGPT. Kilka lat przez ChatemGPT byliśmy na początku “S-ki”, a po jego stworzeniu wystrzeliliśmy pionowo w górę umożliwiając rozwój niezliczonych produktów, usług, sektorów. Obecnie wg mnie cały czas jesteśmy w pionowej linii i mimo że znamy już powstałą technologię, nadal trudno nam oszacować zmiany, jakie przyniosą (przynoszą) duże modele językowe AI. Cały czas pojawiają się nowe, przełomowe pomysły jak można go wykorzystać w naszych standardowych branżach.
Rozwój wykładniczy oznacza też, że nawet jeśli rozwój jednej technologii zajął nam ostatnie tysiąclecia, to kolejny skok rozwojowy tej technologii może zająć miesiące czy dni. Druk, silnik parowy, silnik elektryczny, komputery, internet, smartfony, LLMs (large language models) - zmiana zajmowała kilkaset lat, wiek, kilkadziesiąt lat, kilkanaście lat, kompletnie odmieniając oblicze świata. Dzisiejsze niedoskonałości, które każą nam myśleć, że do nieuniknionych zmian jeszcze daleko, dosłownie jutro mogą być już tylko odległą historią.
Co więcej, w analizie rozwoju technologicznego wprowadza się pojęcie singularity event, czyli pojawienia się osobliwości. Nazwa osobliwości przez analogię nawiązuje do czarnych dziur, gdzie prawa fizyki przestają działać w znany nam sposób.
Pojęcie to jest coraz częściej używane w kontekście przewidywań co do rozwoju technologii, w tym zwłaszcza sztucznej inteligencji, i oznacza, że ludzie po przekroczeniu pewnego momentu nie są w stanie przewidzieć skutków, które rozwój przyniesie. Wpadamy w poznawczą czarną dziurę: ludzka intuicja i myślenie logiczne nas zawodzi, bo przestajemy żyć w świecie przystosowanym dla ludzkości. Nie antycypujemy przeskoków jakościowych (np. z koni na samochody) ani ich skutków dla całego społeczeństwa (internet pierwotnie dla wojska vs. dzisiejsza dezinformacja i social media)
Ray Kurzweil szacuje nadejście osobliwości w 2045 r. Nawet jeśli się myli, to osobiście uważam, że prawdopodobieństwo pojawienia się osobliwości za naszego życia jest większe niż 0. A osobliwość - oprócz drastycznej zmiany dla naszej rzeczywistości - oznacza, że możliwości wydłużania życia w zdrowiu będą takie same jak sam rozwój, czyli: wykładnicze. Życie wieczne zawsze było marzeniem ludzkości. Niewykluczone, że stworzony przez nas cyfrowy bóg spełni naszą potrzebę. Ta droga do wieczności jest na poważnie dyskutowana w gronie liderów technologii w Dolinie Krzemowej. (5) Po tym horyzoncie zdarzeń być może Cel22 nie będzie już tak ambitny, bo naturalnym będzie dla ludzi dożywanie następnego wieku (wtedy będę musiała zmienić nazwę. Może Cel∞?).
To się dzieje na Twoich oczach
Niezależnie od osobliwości, mam twardą hipotezę popartą doświadczeniami, że drastyczna zmiana rzeczywistości dzieje się dzisiaj, właśnie teraz, na Twoich oczach. Świat za 5 lat będzie nie do poznania, tak jak zupełnie inny był świat w 2015 roku. (10 lat temu. Ale pamiętamy o wykładniczym tempie rozwoju). Wystarczy przegląd prasy z poprzedniego tygodnia i zinternalizowanie trzech, potencjalnie niezwiązanych ze sobą informacji:
E-papieros to mikrokomputer - 2 tygodnie temu programista opublikował artykuł, w którym dzieli się, jak z e-papierosa (a konkretnie mikrochip’u w e-papierosie) stworzył serwer, na którym postawił stronę internetową. (3)
Okulary AR - Meta i Ray-Ban stworzyły normalnie wyglądające okulary, w których AI może nam na bieżąco tłumaczyć świat, który widzimy. Teraz premierę mają okulary, które dodatkowo będą wyświetlały na szkiełkach monitor. Czyli będziemy mieć lekki i ładny sprzęt (okulary) jako drzwi do świata rzeczywistości rozszerzonej (wirtualnej i fizycznej).
Knujące AI - Zostało udowodnione, że algorytm AI może knuć, czyli kombinować, jak spełnić cele wytwórcy AI, zamiast celów użytkownika.* Np. nie poda nam dobrej odpowiedzi chcąc ograniczyć wykorzystywaną moc obliczeniową. I najpewniej nie będziemy o tym wiedzieć. (4)
Te trzy rzeczy same w sobie stanowią przełomowe informacje. Ale razem oznaczają, że zaczynamy żyć w Matrixie. Wszędzie wokół nas są komputery z mocą obliczeniową większą niż ta, która pozwoliła postawić człowieka na księżycu. Będziemy myśleć i wchodzić w interakcje z ludźmi i nie-ludźmi będąc jednocześnie offline i online. Sprzęty i usługi, których używamy, już teraz kształtują nas zgodnie z zamierzeniem wytwórcy (patrz: social media i kryzys demokracji). Nie jesteśmy w stanie już odróżnić co jest prawdą, a co nie - bo w świecie internetowym, czyli w świecie, w którym zaczynamy żyć 24/7, jest więcej treści generowanych niż ludzkich.
Co to dla nas znaczy
Oglądam zmiany dzisiejszego świata i za każdym razem czuję wybuch ekscytacji, strachu i trochę zaskoczenia.
Ekscytacji, bo historycznie rozwój technologii doprowadził nas do najszczęśliwszego, najbezpieczniejszego świata w dziejach ludzkości. Przeciętny Kowalski odżywia się dziś lepiej niż król i miliarder w XIX wieku, przemieszcza się szybciej niż on, jest zdrowszy i żyje dłużej, ma też dużo mniejsze ryzyko nagłej śmierci, ma większy i szybszy dostęp do informacji, ma lepszy komfort życia w zasadzie w każdym aspekcie. Co więcej, wykładniczy rozwój technologii oznacza, że nieśmiertelność - albo istotne wydłużenie życia - może być tuż za rogiem, nawet jeśli dziś wydaje się to nieprawdopodobne. Ostatnie 50 lat medycyny przyniosły nieporównywalnie więcej możliwości leczenia i zapobiegania chorobom niż poprzednie tysiące lat, a gdybyśmy opowiedzieli ludziom w XVII wieku o sztucznym płuco-sercu lub inżynierii genetycznej to pewnie spaliliby nas na stosie.
Strachu, bo - mimo, że bardzo próbuję - nie jestem w stanie przewidzieć i skutecznie przeciwdziałać negatywnym konsekwencjom rozwoju. Grozi on krytycznym rozwarstwieniem społecznym, załamaniem demokracji i przedefiniowaniem człowieczeństwa. Nie mówiąc o tym, że już dzisiaj jesteśmy niewolnikami technologii, czyli m. in. wielkich firm platformowych zarządzających swoimi wasalami.** I ta tendencja będzie się niestety pogłębiać.
Zaskoczenia, bo nawet bazując na naszym myśleniu liniowym, wspominając ostatnie lata przełomów, powinniśmy przyjąć za oczywiste, że świat jeszcze za naszego życia drastycznie się zmieni (choć w rzeczywistości zmieni się jeszcze bardziej niż antycypujemy). Jednocześnie zdecydowana większość ludzi żyje i myśli tak, jakby świat miał się rozwijać tempem sprzed 100 lat. To powoduje u mnie dysonans poznawczy, bo moje postrzeganie świata bywa odbierane jako nieprawdopodobne przez dużą część moich rozmówców.
Co masz zrobić z tymi informacjami
Mogę Ci powiedzieć co ja próbuję zrobić z tymi informacjami i polecam robić to samo:
staram się nie być zamknięta w pudełku “wiem jak będzie bo wiem jak było i jest” i rozumieć czym jest wzrost wykładniczy,
zawzięcie próbuję kształtować przyszłość zamiast tylko biernie ją obserwować,
dbam o zdrowie, bo chcę dożyć 22 wieku, a najlepiej momentu osobliwości, i nie chcę należeć do ostatniego śmiertelnego pokolenia,
i w końcu staram się też nie zwariować. Ostatecznie ludzie są zwierzętami stadnymi i trudno mi sobie wyobrazić świat tworzony przez ludzi, w którym interakcja z moją córką i rodziną w bezpiecznych i miłych okolicznościach będzie mniej istotna niż cokolwiek innego***
*AI na razie nie ma swoich celów, bo nie ma obecnie samoświadomej sztucznej inteligencji. A działanie AI wynika z nadanych wag i trenowania dokonanego przez wytwórcę AI.
**Dziś za odrobinę przestrzeni w internecie oddajemy swój czas i wysiłek, dbając o tę internetową przestrzeń dla dobra jej właściciela.
***No chyba że stworzymy chip pobudzający obszar w mózgu odpowiadający za miłość i relacje z innymi osobami. Hehe (śmiech przez łzy).
(1) https://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
(2) https://link.springer.com/chapter/10.1007/978-3-662-05642-4_16
(3) https://bogdanthegeek.github.io/blog/projects/vapeserver/
(4) https://openai.com/index/detecting-and-reducing-scheming-in-ai-models/
(5) https://www.nytimes.com/2025/06/26/opinion/peter-thiel-antichrist-ross-douthat.html