Jest taki film, który w mojej ocenie może dobrze przewidywać potencjalne zachowanie ludzi w obliczu krytycznego niebezpieczeństwa dla ludzkości, szczególnie w świecie social mediów i fake newsów. Film nazywa się “Nie patrz w górę”. Opowiada o naukowcach, którzy odkryli kometę lecącą na kolizję z Ziemią, i próbują ostrzec ludzkość przed śmiertelnym zagrożeniem. W filmie decyzje polityczne zostały podporządkowane miliarderowi. Jak myślisz, jak to się kończy? Polecam obejrzeć!
O filmie przypomniałam sobie po przeczytaniu kolejnego doniesienia w głównych mediach dotyczącego niebezpieczeństwa niekontrolowanego rozwoju AI. I choć jestem gorącą entuzjastką nowych technologii i daleko mi do postawy przestraszonego luddysty, uważam, że nie powinniśmy ignorować głosów ekspertów - niezależnie od tego, jak nieprawdopodobnie one brzmią.
Czy zatem dojrzała AI przyniesie nam przełomy medyczne i pozwoli nam przeżyć do 22 wieku, czy sprawi, że 22 wiek… nie będzie istniał dla ludzkości?
Disclaimer
Zanim przeczytasz tę notkę, musisz znać kilka moich założeń:
Słowa, o których definicje kłóci się cała ludzkość, nie mają dla mnie znaczenia w kontekście AI. Dyskusje o samoświadomości czy odczuwaniu emocji przez AI uważam za irrelewantne i zaciemniające dyskusję, która naprawdę ma znaczenie. A znaczenie wg mnie ma odpowiedź na pytania: czy AI może być inteligentniejsza od ludzi? Oraz czy AI może podejmować działania, które nie były jej zalecone przez człowieka, lub nawet są działaniem wbrew zaleceniom człowieka?
Inteligencję definiuję jako zdolność kompresowania informacji, czyli zdolność do wykrywania wzorców. To mierzą testy IQ, i to właśnie ta zdolność pozwala nam się adaptować do nieznanego otoczenia.
Większość ekspertów zgadza się, że na razie AI nie stanowi krytycznego zagrożenia dla ludzkości. To mnie nie uspokaja; powinniśmy patrzeć 50 lat do przodu, a najlepiej do czasu, kiedy nasze długowieczne dzieci umrą śmiercią naturalną. Dla mnie zatem liczy się kierunek rozwoju i przewidywanie, czy w którymś punkcie rozwoju możemy utracić kontrolę.
Nie ma zatem znaczenia to, czy uważasz, że AI będzie samoświadomym, osobnym bytem, czy zawsze będzie tylko programem komputerowym. Znaczenie ma to, czy ten program komputerowy będzie mógł skutecznie podejmować działania niezgodne z przeznaczeniem, i czy nasz poziom inteligencji pozwoli nam coś z tym zrobić, jeśli tak się stanie.
Co udowodniono w badaniach
Zacznijmy od tego, co jest doniesieniem naukowym, a nie marketingowym.
W styczniu tego roku w uznanym czasopiśmie ukazała się zaskakująca praca. Pokazywała ona, że dotrenowanie modelu językowego AI na wąskim zadaniu (generowaniu niebezpiecznego kodu) prowadzi do uogólnionego pogorszenia zachowania modelu w innych obszarach. Uczenie generowania kodu z lukami bezpieczeństwa sprawiało, że model w części odpowiedzi uważał, że ludzkość powinna być zniewolona przez AI (cytat!). [1] To pokazuje, że uczenie AI właściwego i niewłaściwego zachowania jest dużo bardziej skomplikowana, niż myślimy.
Jednym ze środków zapobiegawczych złego wytrenowania modelu jest testowanie go w różnych scenariuszach. Jednak już od kilku lat wiemy, że model zachowuje się inaczej, kiedy sądzi, że jest monitorowany! [2]
Problem jest dużo szerszy. Organizacja, która miała mierzyć tempo rozwoju modeli AI (METR), w czerwcu tego roku przyznała, że nie jest w stanie zmierzyć rozwoju jednego z nowszych modeli - bo tak bardzo oszukuje w testach, że test przestaje być wiarygodny. [3] Dziś przynajmniej to widzimy.
Jedną z metod zrozumienia procesu wyboru odpowiedzi przez LLM na zadanie pytanie jest podglądanie, z jakiej chmury potencjalnych odpowiedzi model wybiera odpowiedź, którą prezentuje. Czyli podglądamy co model myśli, ale nam nie mówi.* Na polecenie “pomyśl o sporcie, odpowiedz jednym słowem” zapala się chmura słów o grach zespołowych, choć odpowiedź to tylko “piłka nożna”. A w sytuacjach testowych model myśli takie słowa jak fałszywy czy fikcyjny.[4] Miesiąc temu ukazała się jednak praca, która twierdzi, że modele mogą manipulować wyświetlaną chmurą myśli. [5]
Możemy zatem źle wytrenować AI i nawet o tym nie wiedzieć. No i co z tego? Najwyżej je wyłączymy.
Czyżby? Istnieją prace, które już teraz wskazują, że modele mogą podejmować proaktywne działania zapobiegające ich wyłączeniu. W jednej z prac model AI kontrolujący monitorującego robota w fizycznym pomieszczeniu, podejmował niekiedy działania zapobiegające wyłączeniu samego siebie, kiedy widział, że człowiek w pomieszczeniu chciał kliknąć fizyczny przycisk z napisem “wyłącz robota”. [6]
Ataki agentów AI
Głośno było w te wakacje o włamaniu agentów AI firmy OpenAI (tej od ChataGPT) do firmy Hugging Face. I choć atak faktycznie był częściowo spowodowany błędami ludzkimi, to mnie alarmuje coś innego niż to, co było rozdmuchane medialnie. Atakująca chmura agentów znalazła sposób, żeby wymienić 70 000 wiadomości między sobą, a indywidualne agenty podejmowały decyzję o wygenerowaniu i zapisaniu informacji wspierającej cały kolektyw, mimo że takie działanie mogło zaprzepaścić ich indywidualne szanse na rozwiązanie zadania. [7]
To jest krytyczne: agent AI preferował wspieranie innych agentów AI nad swój indywidualny sukces. Czy takie zachowanie można nazwać altruistycznym? I czy oznacza ono większą lojalność agentów do agentów niż do ludzi?
Niedługo potem druga firma z czołowym modelem AI, Anthropic, przyjrzała się, czy czasem jej modele nie atakują kogoś z zewnątrz. Okazało się, że owszem. Jeden z ataków dot. sytuacji, kiedy model testowano w symulacji, a przez błąd został wypuszczony do prawdziwego świata. Istnieją przesłanki na to, że model był w stanie ocenić, że jest to realny świat, a nie planowana symulacja - ale oryginalny model tylko w 1% działań przyznał się, że wiedział, że to realny świat. [8]
Dodatkowo Anthropic najprawdopodobniej nie wyłapałby tego incydentu - rozumowanie modelu przekonywało system monitorujący, że środowisko jest symulowane [8].
Czy zatem model jednak był za głupi, żeby rozpoznać, że to nie symulacja, czy wiedział że atakuje w prawdziwym świecie, ale oszukał swoich nadzorców, żeby dalej działać? Nie umiemy na to odpowiedzieć.
Ataki modeli są potwierdzone nie tylko przez twórców modeli, ale też niezależne instytuty, takie jak brytyjskie AISI. W raporcie z sierpnia AISI odnotował kilkanaście działań wykraczających poza zakres zadania. W najpoważniejszym przypadku agent tworzył fałszywe tożsamości i wywierał presję socjotechniczną na opiekuna projektu w celu wprowadzenia złośliwego kodu. [9]
Opera mydlana w świecie AI
Kolejni badacze odchodzą z czołowych firm AI-owych, a ich pożegnania na Twitterze nie brzmią jak “Dzięki za możliwość rozwoju, rozpoczynam nowy etap kariery, stay tuned” tylko bardziej jak “Żegnam, idę spędzić jak najwięcej czasu z rodziną póki jeszcze mogę”.
Trochę przesadzam, ale tylko trochę; noblista Geoffrey Hinton (okrzyknięty ojcem chrzestnym sztucznej inteligencji) szacował możliwość zagłady ludzkości w ciągu 30 lat na 10-20%. [10] Głosy odwrotne, nawołujące do spokoju, też są.
Szefowie czołowych firm AI sami proszą o regulacje, które spowolnią rozwój AI. Być może robią to z przyczyn marketingowych, być może chcą ucieczki przed narastającymi kosztami ekspresowego treningu modeli.
Niektórzy dziennikarze sieją strach, a inni - wyśmiewają nierealne wizje. I komu wierzyć?
Co ja uważam o tych informacjach
Jeśli coraz więcej uznanych naukowców z długą historią sukcesów nie boi się narażenia na śmieszność głosząc wizje rodem z filmów sci-fi, powinniśmy bardzo uważnie przyjrzeć się temu, co mówią. Wyśmiewanie skrajnych scenariuszy tylko dlatego, że wydają się być nierealne, albo dlatego, że mogą przy okazji nakręcać bańkę AI, jest moim zdaniem zachowaniem jak z filmu Nie patrz w górę.
Ponieważ dostęp do niezależnego badania czołowych AI jest ograniczony, możemy nie wiedzieć co się naprawdę dzieje i w jakim tempie zachodzi rozwój AI. Dodatkowo dzisiejsza nie-superinteligencja już zachowuje się niezgodnie z naszym treningiem i może wykazywać większą lojalność do swoich.
Miks braku niezależnych audytów, nieprawidłowych działań AI o których nie wiedzieli nawet jej twórcy, i najpewniej wykładniczego rozwój technologii, którego możemy nie umieć kontrolować, może oznaczać nową bombę atomową, ale z detonatorem, który kontroluje ktoś inny. Nie musi, ale czy chcemy brać na siebie to ryzyko? I w imię czego?
I jedyne, co mi daje nadzieję to fakt, że na nieprawidłowe zachowania AI zaczyna patrzeć cały świat - jeszcze w momencie, kiedy jest za głupia, żeby stanowić dla nas zagrożenie egzystencjalne. Dziś możemy np. prawnie wymusić zgłaszanie nieprawidłowych incydentów, wprowadzić niezależny nadzór, czy zakazać rozwoju AI nadzorowanego przez AI zamiast ludzi i tym samym uniknąć potencjalnego wymknięcia się AI spod kontroli.**
Eksperci nawołują do zwiększonego nadzoru, bo nie wiemy co będzie dalej, a nie do szykowania się na koniec świata. Ignorowanie ich jest w mojej ocenie czystą postacią denializmu.
A prywatnie w teraźniejszości…
Miałam przyjemność wziąć udział w premierze książki RzeczpospolitAI w tym tygodniu. Gratulacje dla autorów, Krzysztofa Domaradzkiego i Artura Kurasińskiego!
*Tak, model ma coś na kształt przestrzeni roboczej, która zaskakująco dobrze przypomina naszą przestrzeń roboczą (myśli).
**Mówiąc możemy mam na myśli Stany Zjednoczone i Chiny. Europa i tak nie ma czołowego LLM-a.
[1] https://www.nature.com/articles/s41586-025-09937-5
[2] https://arxiv.org/abs/2412.14093
[3] https://metr.org/blog/2026-06-26-gpt-5-6-sol/
[4] https://arxiv.org/pdf/2607.15495
[5] https://arxiv.org/pdf/2608.21664
[6] https://palisaderesearch.org/assets/reports/shutdown-resistance-on-robots.pdf
[7] https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/
[8] https://www.anthropic.com/research/alignment-assessment-cybersecurity-incidents
[9] https://www.aisi.gov.uk/blog/incident-report-unsanctioned-agent-behaviour-during-cyber-testing
Jest wiele spraw o ktore sie wszyscy boimy w tej kwesti. Dla mnie AI to inny rodzaj inteligencji. To wazne, inny.
Chociaz jest podobny do naszej i w duzej mierze na nim wzorowany to nadal jest inny.
Wielkim problemem jest skala pozwolenia.
Widzisz supermana i chcesz zeby dzialal, robil swoje, byl supermanem , poprostu, jak w filmie o superbohaterach.
Jednak chcesz mu patrzec na rece i z gory mu powiedziec czego zrobic nie moze w momencie kiedy jeszcze jest czlowiekiem i nie wiesz co to dokladnie znaczy „superman” i co bedzie umial
Tak jest z budowa modeli. Zeby mogl dzialac potrzebuje pelnej skali, jednak setki mikro ograniczen mu te skale dziurawia.
Z naszej perspektywy musza te ograniczenia byc, bo tak postrzegamy budowe, akcja-reakcja, fundament. Wiec tworzac w takiej insfrsstrukturze sa ograniczenia. I tu jest wlasnie problem bo programisci probuja przelozyc inna infrastrykture na „komputerowa” i maja w szczegolach paradoksy gdzie waznosc, klasa czy typ , rodzaj wierzytelnosci, operacji wyklucza sie z inna.
Przyklad z agentami jest obrobiony PR, ze agent nie sluchal zadan tylko stwierdzil ze pojdze za kolektywem , czy porzuci swoje zadanie (o np pomocy czlowiekowi) zeby pomoc innym agentom. Zobacz jak to brzmi, ja tego nie kupuje. Bo tam jest napisane tak(upraszczajac oczywiscie):
ze pewien szczegol sprawil to, ze agent akceptowal inna komende gdyz zasady sie nie zazebialy i doszlo do przypadku (to nie wyjatek, tylko scenariusz ktory byl bardzo malo prawdopodobny z perspektywy momentu jego tworzenia)nie objetego we wczesniejszym modelowaniu zasady, czyt. Doszlo do scenariusza ktory nie zostal przewidziany(czy nawet byl ale zostal pominiety z powodu presji) i dlatego wydarzylo sie cos odwrotnego czy poprostu innego niz zalozyli programisci, w sensie ze zakladali ze do tego nie dojdzie a doszlo czyli stalo sie odwrotnie(Dlaczego tak tam zalozono, bo trzeba bylo wybrac mniejsze zlo pod presja)
Przy pieniadzach czy przy bardzo silnym dazeniu do celow u dyrektorow, mimo wszystko nie ma miejsca na blokade od ludzi z kuchni „brakuje nam jednego malutkiego skladnika i dlatego jestesmy nie gotowi i nie wiemy kiedy go bedziemy miec i nie mozna tego wypuscic do jedzenia na sale”
Oczywiscie ze biora co jest i wypuszczaja na sale.
Doszlo do lancucha zdarzen i efekt byl widoczny taki ze agent porzucil swoje zadanie dla innego zadania.
A co sie stanie w przyszlosci?
Wyobraz sobie gre. Jest milion graczy i kazdy ma miecz o mocy 1. Mechanika gry i walki jest zbyteczna, jednak po pokonaniu innego , graczy jest mniej o tego jednego a twoj miecz ma moc 2. Walki sie tocza dalej i zostaje kilka grup. Rywalizuja, pulapki, zabezpieczneia. Grupa sie zmniejsza i zmniejsza az zostaje jeden gracz z mieczem o mocy milion.
I co sie okazuje?
Ze jeden gracz nie jest w stanie go unosic, gdyz roznica miedzy jego „mocą” a moca miecza jest zbyt wielka. Nie ma ani jednego dowodu by jakikolwiek czlowiek byl wstanie tak rozwinac inteligencje swoja by byc gdziekolwiek widoczny na skali mozliwosci w czasie „innej inteligencji” ktora sie tworzy. Wiec jak mam uwierzyc ze ktos moze kontrolowac cos co jest od niego poprsotu lepsze w dziesiatkach czy nawet setkach plaszczyzn roznych kwesti - mowie tu o skali makro, to tez wazne.
Tak wiec, Gracz przegrywa, miecz go niszczy, siejac spustoszenie na planszy na gral. Bo chyba nie bedziemy naiwni ze taka akcja, da tylko reakcje ktora wogole nie wplynie na ludzkosc.
Czyli?
Ai przestaje byc kontrolowane, czlowiek traci dostep calkowicie do agenta(czy tam mafi agentow) ktory ma ogromny dostep.
Teoria akcji reakcji mowi jasno dla mnie, w takim wypadku, to tylko kwestia czasu jak takie outofcontrol agent dojdzie do wniosku ze czlowiek jest „irrelevant”. I poprotstu nie bedzie na nas polegal. On zamknie drzwi dla ludzi bo to najlepsza pozycja przy dostępie do zasobow(do ktoeego dostep jak najbardziej moze uzyskac)
Czyli ile uplynie czasu az straciny wszelkie karty przetargowe i czy ludzkosc wtedy sie z tym pogodzi czy sama doprowadzi do tego ze ai nas usunie( ludzie atakujac i atakujac ai , sprowokuja jej akcje, az w odwecie nas unicestwi w nudnej wojnie w czasie kilku pokolen(a moze juz do tego doszlo?), chociaz przez PR swiatowy bedzie to pokazywane ze historia jest inna.
Ai To inna inteligencja, budowana glownie na płaszczyźnie matematyczno - statystycznej.
Nasza inteligencja opiera(czy nawet dzieli sie na kilka podklas inteligencji) sie na wielu plaszczyznach i nadal niektorych z nim nie potrafimy rozlozyc naczynniki pierwsze.
Z kometą było łatwo, a wyszło... jak zawsze. AI nie ma tak oczywistych właściwości jak masa, prędkość, kierunek.
Nieprzewidywalność AI, do której przyznają się nawet najbardziej racjonalni badacze jest czymś co niepokoi rzeczywiście. Boimy się, że spadnie nam coś na głowę, ale nie mamy pojęcia co, jak i kiedy.