Jest wiele spraw o ktore sie wszyscy boimy w tej kwesti. Dla mnie AI to inny rodzaj inteligencji. To wazne, inny.
Chociaz jest podobny do naszej i w duzej mierze na nim wzorowany to nadal jest inny.
Wielkim problemem jest skala pozwolenia.
Widzisz supermana i chcesz zeby dzialal, robil swoje, byl supermanem , poprostu, jak w filmie o superbohaterach.
Jednak chcesz mu patrzec na rece i z gory mu powiedziec czego zrobic nie moze w momencie kiedy jeszcze jest czlowiekiem i nie wiesz co to dokladnie znaczy „superman” i co bedzie umial
Tak jest z budowa modeli. Zeby mogl dzialac potrzebuje pelnej skali, jednak setki mikro ograniczen mu te skale dziurawia.
Z naszej perspektywy musza te ograniczenia byc, bo tak postrzegamy budowe, akcja-reakcja, fundament. Wiec tworzac w takiej insfrsstrukturze sa ograniczenia. I tu jest wlasnie problem bo programisci probuja przelozyc inna infrastrykture na „komputerowa” i maja w szczegolach paradoksy gdzie waznosc, klasa czy typ , rodzaj wierzytelnosci, operacji wyklucza sie z inna.
Przyklad z agentami jest obrobiony PR, ze agent nie sluchal zadan tylko stwierdzil ze pojdze za kolektywem , czy porzuci swoje zadanie (o np pomocy czlowiekowi) zeby pomoc innym agentom. Zobacz jak to brzmi, ja tego nie kupuje. Bo tam jest napisane tak(upraszczajac oczywiscie):
ze pewien szczegol sprawil to, ze agent akceptowal inna komende gdyz zasady sie nie zazebialy i doszlo do przypadku (to nie wyjatek, tylko scenariusz ktory byl bardzo malo prawdopodobny z perspektywy momentu jego tworzenia)nie objetego we wczesniejszym modelowaniu zasady, czyt. Doszlo do scenariusza ktory nie zostal przewidziany(czy nawet byl ale zostal pominiety z powodu presji) i dlatego wydarzylo sie cos odwrotnego czy poprostu innego niz zalozyli programisci, w sensie ze zakladali ze do tego nie dojdzie a doszlo czyli stalo sie odwrotnie(Dlaczego tak tam zalozono, bo trzeba bylo wybrac mniejsze zlo pod presja)
Przy pieniadzach czy przy bardzo silnym dazeniu do celow u dyrektorow, mimo wszystko nie ma miejsca na blokade od ludzi z kuchni „brakuje nam jednego malutkiego skladnika i dlatego jestesmy nie gotowi i nie wiemy kiedy go bedziemy miec i nie mozna tego wypuscic do jedzenia na sale”
Oczywiscie ze biora co jest i wypuszczaja na sale.
Doszlo do lancucha zdarzen i efekt byl widoczny taki ze agent porzucil swoje zadanie dla innego zadania.
A co sie stanie w przyszlosci?
Wyobraz sobie gre. Jest milion graczy i kazdy ma miecz o mocy 1. Mechanika gry i walki jest zbyteczna, jednak po pokonaniu innego , graczy jest mniej o tego jednego a twoj miecz ma moc 2. Walki sie tocza dalej i zostaje kilka grup. Rywalizuja, pulapki, zabezpieczneia. Grupa sie zmniejsza i zmniejsza az zostaje jeden gracz z mieczem o mocy milion.
I co sie okazuje?
Ze jeden gracz nie jest w stanie go unosic, gdyz roznica miedzy jego „mocą” a moca miecza jest zbyt wielka. Nie ma ani jednego dowodu by jakikolwiek czlowiek byl wstanie tak rozwinac inteligencje swoja by byc gdziekolwiek widoczny na skali mozliwosci w czasie „innej inteligencji” ktora sie tworzy. Wiec jak mam uwierzyc ze ktos moze kontrolowac cos co jest od niego poprsotu lepsze w dziesiatkach czy nawet setkach plaszczyzn roznych kwesti - mowie tu o skali makro, to tez wazne.
Tak wiec, Gracz przegrywa, miecz go niszczy, siejac spustoszenie na planszy na gral. Bo chyba nie bedziemy naiwni ze taka akcja, da tylko reakcje ktora wogole nie wplynie na ludzkosc.
Czyli?
Ai przestaje byc kontrolowane, czlowiek traci dostep calkowicie do agenta(czy tam mafi agentow) ktory ma ogromny dostep.
Teoria akcji reakcji mowi jasno dla mnie, w takim wypadku, to tylko kwestia czasu jak takie outofcontrol agent dojdzie do wniosku ze czlowiek jest „irrelevant”. I poprotstu nie bedzie na nas polegal. On zamknie drzwi dla ludzi bo to najlepsza pozycja przy dostępie do zasobow(do ktoeego dostep jak najbardziej moze uzyskac)
Czyli ile uplynie czasu az straciny wszelkie karty przetargowe i czy ludzkosc wtedy sie z tym pogodzi czy sama doprowadzi do tego ze ai nas usunie( ludzie atakujac i atakujac ai , sprowokuja jej akcje, az w odwecie nas unicestwi w nudnej wojnie w czasie kilku pokolen(a moze juz do tego doszlo?), chociaz przez PR swiatowy bedzie to pokazywane ze historia jest inna.
Ai To inna inteligencja, budowana glownie na płaszczyźnie matematyczno - statystycznej.
Nasza inteligencja opiera(czy nawet dzieli sie na kilka podklas inteligencji) sie na wielu plaszczyznach i nadal niektorych z nim nie potrafimy rozlozyc naczynniki pierwsze.
Z kometą było łatwo, a wyszło... jak zawsze. AI nie ma tak oczywistych właściwości jak masa, prędkość, kierunek.
Nieprzewidywalność AI, do której przyznają się nawet najbardziej racjonalni badacze jest czymś co niepokoi rzeczywiście. Boimy się, że spadnie nam coś na głowę, ale nie mamy pojęcia co, jak i kiedy.
Jest wiele spraw o ktore sie wszyscy boimy w tej kwesti. Dla mnie AI to inny rodzaj inteligencji. To wazne, inny.
Chociaz jest podobny do naszej i w duzej mierze na nim wzorowany to nadal jest inny.
Wielkim problemem jest skala pozwolenia.
Widzisz supermana i chcesz zeby dzialal, robil swoje, byl supermanem , poprostu, jak w filmie o superbohaterach.
Jednak chcesz mu patrzec na rece i z gory mu powiedziec czego zrobic nie moze w momencie kiedy jeszcze jest czlowiekiem i nie wiesz co to dokladnie znaczy „superman” i co bedzie umial
Tak jest z budowa modeli. Zeby mogl dzialac potrzebuje pelnej skali, jednak setki mikro ograniczen mu te skale dziurawia.
Z naszej perspektywy musza te ograniczenia byc, bo tak postrzegamy budowe, akcja-reakcja, fundament. Wiec tworzac w takiej insfrsstrukturze sa ograniczenia. I tu jest wlasnie problem bo programisci probuja przelozyc inna infrastrykture na „komputerowa” i maja w szczegolach paradoksy gdzie waznosc, klasa czy typ , rodzaj wierzytelnosci, operacji wyklucza sie z inna.
Przyklad z agentami jest obrobiony PR, ze agent nie sluchal zadan tylko stwierdzil ze pojdze za kolektywem , czy porzuci swoje zadanie (o np pomocy czlowiekowi) zeby pomoc innym agentom. Zobacz jak to brzmi, ja tego nie kupuje. Bo tam jest napisane tak(upraszczajac oczywiscie):
ze pewien szczegol sprawil to, ze agent akceptowal inna komende gdyz zasady sie nie zazebialy i doszlo do przypadku (to nie wyjatek, tylko scenariusz ktory byl bardzo malo prawdopodobny z perspektywy momentu jego tworzenia)nie objetego we wczesniejszym modelowaniu zasady, czyt. Doszlo do scenariusza ktory nie zostal przewidziany(czy nawet byl ale zostal pominiety z powodu presji) i dlatego wydarzylo sie cos odwrotnego czy poprostu innego niz zalozyli programisci, w sensie ze zakladali ze do tego nie dojdzie a doszlo czyli stalo sie odwrotnie(Dlaczego tak tam zalozono, bo trzeba bylo wybrac mniejsze zlo pod presja)
Przy pieniadzach czy przy bardzo silnym dazeniu do celow u dyrektorow, mimo wszystko nie ma miejsca na blokade od ludzi z kuchni „brakuje nam jednego malutkiego skladnika i dlatego jestesmy nie gotowi i nie wiemy kiedy go bedziemy miec i nie mozna tego wypuscic do jedzenia na sale”
Oczywiscie ze biora co jest i wypuszczaja na sale.
Doszlo do lancucha zdarzen i efekt byl widoczny taki ze agent porzucil swoje zadanie dla innego zadania.
A co sie stanie w przyszlosci?
Wyobraz sobie gre. Jest milion graczy i kazdy ma miecz o mocy 1. Mechanika gry i walki jest zbyteczna, jednak po pokonaniu innego , graczy jest mniej o tego jednego a twoj miecz ma moc 2. Walki sie tocza dalej i zostaje kilka grup. Rywalizuja, pulapki, zabezpieczneia. Grupa sie zmniejsza i zmniejsza az zostaje jeden gracz z mieczem o mocy milion.
I co sie okazuje?
Ze jeden gracz nie jest w stanie go unosic, gdyz roznica miedzy jego „mocą” a moca miecza jest zbyt wielka. Nie ma ani jednego dowodu by jakikolwiek czlowiek byl wstanie tak rozwinac inteligencje swoja by byc gdziekolwiek widoczny na skali mozliwosci w czasie „innej inteligencji” ktora sie tworzy. Wiec jak mam uwierzyc ze ktos moze kontrolowac cos co jest od niego poprsotu lepsze w dziesiatkach czy nawet setkach plaszczyzn roznych kwesti - mowie tu o skali makro, to tez wazne.
Tak wiec, Gracz przegrywa, miecz go niszczy, siejac spustoszenie na planszy na gral. Bo chyba nie bedziemy naiwni ze taka akcja, da tylko reakcje ktora wogole nie wplynie na ludzkosc.
Czyli?
Ai przestaje byc kontrolowane, czlowiek traci dostep calkowicie do agenta(czy tam mafi agentow) ktory ma ogromny dostep.
Teoria akcji reakcji mowi jasno dla mnie, w takim wypadku, to tylko kwestia czasu jak takie outofcontrol agent dojdzie do wniosku ze czlowiek jest „irrelevant”. I poprotstu nie bedzie na nas polegal. On zamknie drzwi dla ludzi bo to najlepsza pozycja przy dostępie do zasobow(do ktoeego dostep jak najbardziej moze uzyskac)
Czyli ile uplynie czasu az straciny wszelkie karty przetargowe i czy ludzkosc wtedy sie z tym pogodzi czy sama doprowadzi do tego ze ai nas usunie( ludzie atakujac i atakujac ai , sprowokuja jej akcje, az w odwecie nas unicestwi w nudnej wojnie w czasie kilku pokolen(a moze juz do tego doszlo?), chociaz przez PR swiatowy bedzie to pokazywane ze historia jest inna.
Ai To inna inteligencja, budowana glownie na płaszczyźnie matematyczno - statystycznej.
Nasza inteligencja opiera(czy nawet dzieli sie na kilka podklas inteligencji) sie na wielu plaszczyznach i nadal niektorych z nim nie potrafimy rozlozyc naczynniki pierwsze.
Z kometą było łatwo, a wyszło... jak zawsze. AI nie ma tak oczywistych właściwości jak masa, prędkość, kierunek.
Nieprzewidywalność AI, do której przyznają się nawet najbardziej racjonalni badacze jest czymś co niepokoi rzeczywiście. Boimy się, że spadnie nam coś na głowę, ale nie mamy pojęcia co, jak i kiedy.
I ta nieprzewidywalność powinna nas martwić jeszcze bardziej