Jest taki film, który w mojej ocenie może dobrze przewidywać potencjalne zachowanie ludzi w obliczu krytycznego niebezpieczeństwa dla ludzkości, szczególnie w świecie social mediów i fake newsów. Film nazywa się “Nie patrz w górę”. Opowiada o naukowcach, którzy odkryli kometę lecącą na kolizję z Ziemią, i próbują ostrzec ludzkość przed śmiertelnym zagrożeniem. W filmie decyzje polityczne zostały podporządkowane miliarderowi. Jak myślisz, jak to się kończy? Polecam obejrzeć!
O filmie przypomniałam sobie po przeczytaniu kolejnego doniesienia w głównych mediach dotyczącego niebezpieczeństwa niekontrolowanego rozwoju AI. I choć jestem gorącą entuzjastką nowych technologii i daleko mi do postawy przestraszonego luddysty, uważam, że nie powinniśmy ignorować głosów ekspertów - niezależnie od tego, jak nieprawdopodobnie one brzmią.
Czy zatem dojrzała AI przyniesie nam przełomy medyczne i pozwoli nam przeżyć do 22 wieku, czy sprawi, że 22 wiek… nie będzie istniał dla ludzkości?
Disclaimer
Zanim przeczytasz tę notkę, musisz znać kilka moich założeń:
Słowa, o których definicje kłóci się cała ludzkość, nie mają dla mnie znaczenia w kontekście AI. Dyskusje o samoświadomości czy odczuwaniu emocji przez AI uważam za irrelewantne i zaciemniające dyskusję, która naprawdę ma znaczenie. A znaczenie wg mnie ma odpowiedź na pytania: czy AI może być inteligentniejsza od ludzi? Oraz czy AI może podejmować działania, które nie były jej zalecone przez człowieka, lub nawet są działaniem wbrew zaleceniom człowieka?
Inteligencję definiuję jako zdolność kompresowania informacji, czyli zdolność do wykrywania wzorców. To mierzą testy IQ, i to właśnie ta zdolność pozwala nam się adaptować do nieznanego otoczenia.
Większość ekspertów zgadza się, że na razie AI nie stanowi krytycznego zagrożenia dla ludzkości. To mnie nie uspokaja; powinniśmy patrzeć 50 lat do przodu, a najlepiej do czasu, kiedy nasze długowieczne dzieci umrą śmiercią naturalną. Dla mnie zatem liczy się kierunek rozwoju i przewidywanie, czy w którymś punkcie rozwoju możemy utracić kontrolę.
Nie ma zatem znaczenia to, czy uważasz, że AI będzie samoświadomym, osobnym bytem, czy zawsze będzie tylko programem komputerowym. Znaczenie ma to, czy ten program komputerowy będzie mógł skutecznie podejmować działania niezgodne z przeznaczeniem, i czy nasz poziom inteligencji pozwoli nam coś z tym zrobić, jeśli tak się stanie.
Co udowodniono w badaniach
Zacznijmy od tego, co jest doniesieniem naukowym, a nie marketingowym.
W styczniu tego roku w uznanym czasopiśmie ukazała się zaskakująca praca. Pokazywała ona, że dotrenowanie modelu językowego AI na wąskim zadaniu (generowaniu niebezpiecznego kodu) prowadzi do uogólnionego pogorszenia zachowania modelu w innych obszarach. Uczenie generowania kodu z lukami bezpieczeństwa sprawiało, że model w części odpowiedzi uważał, że ludzkość powinna być zniewolona przez AI (cytat!). [1] To pokazuje, że uczenie AI właściwego i niewłaściwego zachowania jest dużo bardziej skomplikowana, niż myślimy.
Jednym ze środków zapobiegawczych złego wytrenowania modelu jest testowanie go w różnych scenariuszach. Jednak już od kilku lat wiemy, że model zachowuje się inaczej, kiedy sądzi, że jest monitorowany! [2]
Problem jest dużo szerszy. Organizacja, która miała mierzyć tempo rozwoju modeli AI (METR), w czerwcu tego roku przyznała, że nie jest w stanie zmierzyć rozwoju jednego z nowszych modeli - bo tak bardzo oszukuje w testach, że test przestaje być wiarygodny. [3] Dziś przynajmniej to widzimy.
Jedną z metod zrozumienia procesu wyboru odpowiedzi przez LLM na zadanie pytanie jest podglądanie, z jakiej chmury potencjalnych odpowiedzi model wybiera odpowiedź, którą prezentuje. Czyli podglądamy co model myśli, ale nam nie mówi.* Na polecenie “pomyśl o sporcie, odpowiedz jednym słowem” zapala się chmura słów o grach zespołowych, choć odpowiedź to tylko “piłka nożna”. A w sytuacjach testowych model myśli takie słowa jak fałszywy czy fikcyjny.[4] Miesiąc temu ukazała się jednak praca, która twierdzi, że modele mogą manipulować wyświetlaną chmurą myśli. [5]
Możemy zatem źle wytrenować AI i nawet o tym nie wiedzieć. No i co z tego? Najwyżej je wyłączymy.
Czyżby? Istnieją prace, które już teraz wskazują, że modele mogą podejmować proaktywne działania zapobiegające ich wyłączeniu. W jednej z prac model AI kontrolujący monitorującego robota w fizycznym pomieszczeniu, podejmował niekiedy działania zapobiegające wyłączeniu samego siebie, kiedy widział, że człowiek w pomieszczeniu chciał kliknąć fizyczny przycisk z napisem “wyłącz robota”. [6]
Ataki agentów AI
Głośno było w te wakacje o włamaniu agentów AI firmy OpenAI (tej od ChataGPT) do firmy Hugging Face. I choć atak faktycznie był częściowo spowodowany błędami ludzkimi, to mnie alarmuje coś innego niż to, co było rozdmuchane medialnie. Atakująca chmura agentów znalazła sposób, żeby wymienić 70 000 wiadomości między sobą, a indywidualne agenty podejmowały decyzję o wygenerowaniu i zapisaniu informacji wspierającej cały kolektyw, mimo że takie działanie mogło zaprzepaścić ich indywidualne szanse na rozwiązanie zadania. [7]
To jest krytyczne: agent AI preferował wspieranie innych agentów AI nad swój indywidualny sukces. Czy takie zachowanie można nazwać altruistycznym? I czy oznacza ono większą lojalność agentów do agentów niż do ludzi?
Niedługo potem druga firma z czołowym modelem AI, Anthropic, przyjrzała się, czy czasem jej modele nie atakują kogoś z zewnątrz. Okazało się, że owszem. Jeden z ataków dot. sytuacji, kiedy model testowano w symulacji, a przez błąd został wypuszczony do prawdziwego świata. Istnieją przesłanki na to, że model był w stanie ocenić, że jest to realny świat, a nie planowana symulacja - ale oryginalny model tylko w 1% działań przyznał się, że wiedział, że to realny świat. [8]
Dodatkowo Anthropic najprawdopodobniej nie wyłapałby tego incydentu - rozumowanie modelu przekonywało system monitorujący, że środowisko jest symulowane [8].
Czy zatem model jednak był za głupi, żeby rozpoznać, że to nie symulacja, czy wiedział że atakuje w prawdziwym świecie, ale oszukał swoich nadzorców, żeby dalej działać? Nie umiemy na to odpowiedzieć.
Ataki modeli są potwierdzone nie tylko przez twórców modeli, ale też niezależne instytuty, takie jak brytyjskie AISI. W raporcie z sierpnia AISI odnotował kilkanaście działań wykraczających poza zakres zadania. W najpoważniejszym przypadku agent tworzył fałszywe tożsamości i wywierał presję socjotechniczną na opiekuna projektu w celu wprowadzenia złośliwego kodu. [9]
Opera mydlana w świecie AI
Kolejni badacze odchodzą z czołowych firm AI-owych, a ich pożegnania na Twitterze nie brzmią jak “Dzięki za możliwość rozwoju, rozpoczynam nowy etap kariery, stay tuned” tylko bardziej jak “Żegnam, idę spędzić jak najwięcej czasu z rodziną póki jeszcze mogę”.
Trochę przesadzam, ale tylko trochę; noblista Geoffrey Hinton (okrzyknięty ojcem chrzestnym sztucznej inteligencji) szacował możliwość zagłady ludzkości w ciągu 30 lat na 10-20%. [10] Głosy odwrotne, nawołujące do spokoju, też są.
Szefowie czołowych firm AI sami proszą o regulacje, które spowolnią rozwój AI. Być może robią to z przyczyn marketingowych, być może chcą ucieczki przed narastającymi kosztami ekspresowego treningu modeli.
Niektórzy dziennikarze sieją strach, a inni - wyśmiewają nierealne wizje. I komu wierzyć?
Co ja uważam o tych informacjach
Jeśli coraz więcej uznanych naukowców z długą historią sukcesów nie boi się narażenia na śmieszność głosząc wizje rodem z filmów sci-fi, powinniśmy bardzo uważnie przyjrzeć się temu, co mówią. Wyśmiewanie skrajnych scenariuszy tylko dlatego, że wydają się być nierealne, albo dlatego, że mogą przy okazji nakręcać bańkę AI, jest moim zdaniem zachowaniem jak z filmu Nie patrz w górę.
Ponieważ dostęp do niezależnego badania czołowych AI jest ograniczony, możemy nie wiedzieć co się naprawdę dzieje i w jakim tempie zachodzi rozwój AI. Dodatkowo dzisiejsza nie-superinteligencja już zachowuje się niezgodnie z naszym treningiem i może wykazywać większą lojalność do swoich.
Miks braku niezależnych audytów, nieprawidłowych działań AI o których nie wiedzieli nawet jej twórcy, i najpewniej wykładniczego rozwój technologii, którego możemy nie umieć kontrolować, może oznaczać nową bombę atomową, ale z detonatorem, który kontroluje ktoś inny. Nie musi, ale czy chcemy brać na siebie to ryzyko? I w imię czego?
I jedyne, co mi daje nadzieję to fakt, że na nieprawidłowe zachowania AI zaczyna patrzeć cały świat - jeszcze w momencie, kiedy jest za głupia, żeby stanowić dla nas zagrożenie egzystencjalne. Dziś możemy np. prawnie wymusić zgłaszanie nieprawidłowych incydentów, wprowadzić niezależny nadzór, czy zakazać rozwoju AI nadzorowanego przez AI zamiast ludzi i tym samym uniknąć potencjalnego wymknięcia się AI spod kontroli.**
Eksperci nawołują do zwiększonego nadzoru, bo nie wiemy co będzie dalej, a nie do szykowania się na koniec świata. Ignorowanie ich jest w mojej ocenie czystą postacią denializmu.
A prywatnie w teraźniejszości…
Miałam przyjemność wziąć udział w premierze książki RzeczpospolitAI w tym tygodniu. Gratulacje dla autorów, Krzysztofa Domaradzkiego i Artura Kurasińskiego!
*Tak, model ma coś na kształt przestrzeni roboczej, która zaskakująco dobrze przypomina naszą przestrzeń roboczą (myśli).
**Mówiąc możemy mam na myśli Stany Zjednoczone i Chiny. Europa i tak nie ma czołowego LLM-a.
[1] https://www.nature.com/articles/s41586-025-09937-5
[2] https://arxiv.org/abs/2412.14093
[3] https://metr.org/blog/2026-06-26-gpt-5-6-sol/
[4] https://arxiv.org/pdf/2607.15495
[5] https://arxiv.org/pdf/2608.21664
[6] https://palisaderesearch.org/assets/reports/shutdown-resistance-on-robots.pdf
[7] https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
[8] https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents
[9] https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing
Z kometą było łatwo, a wyszło... jak zawsze. AI nie ma tak oczywistych właściwości jak masa, prędkość, kierunek.
Nieprzewidywalność AI, do której przyznają się nawet najbardziej racjonalni badacze jest czymś co niepokoi rzeczywiście. Boimy się, że spadnie nam coś na głowę, ale nie mamy pojęcia co, jak i kiedy.