A hozzáértő szuperintelligencia

Amikor az emberek elérték az általános intelligenciát, az információfeldolgozási kapacitás későbbi exponenciális növekedését nem az agy növekedésével érték el, hanem a nyomtatás, az egyetemek, a számítógépek és a technológiai cégek feltalálásával. Hasonlóképpen, bár manapság divatosak a neurális hálózatok és az LLM-ek, naiv dolog azt feltételezni, hogy az AGI-től (artificial general intelligence) a szuperintelligenciáig a leggyorsabb út az egyre nagyobb LLM-ek (large language model) egyre több adattal való képzése lenne.

Tegmark szerint ha a szuperintelligencia kipusztítja az emberiséget, az valószínűleg nem azért lesz, mert gonosszá vagy tudatossá, hanem mert hozzáértővé vált, és a céljai nem illeszkednek a miénkhez. Az emberek sem azért pusztították ki a nyugat-afrikai fekete orrszarvút, mert orrszarvúgyűlölők voltak, hanem azért, mert okosabbak voltak, és más céljaik voltak az élőhelyük és a szarvaik felhasználásával kapcsolatban. Ha mondjuk a gép valamiféle magasabb rendű céltól vezérelve gőzerővel elkezdi felhasználni a földi erőforrásokat – például elhasználja az összes vizet –, mellékhatásként az emberek is elpusztulnak.

Forrás: Max Tegmark: Arra kérem a szénsovinisztákat, hogy mondják meg, az AI milyen feladatokat nem lesz képes soha elvégezni (Herczeg Márk cikke)

Semmivé leszünk

Lehetetlenség úgy merengeni az univerzum végéről, hogy közben nem gondolunk arra is, mit jelent mindez az emberiségre nézve. Egy véges idővonalon kell lennie egy pontnak, ahol a mi fajunk története és minden, amit hátrahagy még, egyszerűen véget ér. Bárhogy is próbáljuk a saját halálunkat azáltal elfogadni, hogy hiszen annyi mindent hátrahagytunk az utókornak (talán a gyermekeinket, munkánkat, vagy valamit, amivel a világot jobbá tettük), még ez a hagyaték sem éleheti túl a végső pusztulást. Kozmikus szempontból egyszer csak eljön a pont, hogy az életünk, az, hogy valaha is éltünk, semmit sem jelent már. Az univerzum valószínűleg átalakul egy hideg, sötét, üres kozmosszá, ahol minden, amit valaha tettünk, a semmivé lesz. Hogyan hat ez ránk ma?

Hiranya Peiris szava erre az érzésre a szomorúság: Végtelenül elszomorító. Nem is tudom mi mást monhatnék róla. Az előadásaimon, amikor az univerzum végéről beszélek, néha elsírják magukat az emberek.

Forrás: Katie Mack: A mindenség vége c. könyv, Epilógus

Intelligens megoldás?

Az evolúciós vagy genetikus változások időegységei roppant hosszúak. A nagy lábujj például fontos funkciót tölt be járás közben az egyensúlyozásban; kifejlődése körülbelül tízmillió évet igényelt. Ma azonban már nincs tízmillió évünk rá, hogy kivárjuk a következő előrelépést. A korban, amelyben élünk, világunk eddig példátlan ütemben változik, és bár e változásokat túlnyomórészt mi magunk hozzuk létre, nem tekinthetünk el tőlük. Igazodnunk és alkalmazkodnunk kell hozzájuk, és irányítanunk kell őket, különben elpusztulunk. Azokkal a gyorsan változó körülményekkel, amelyekkel fajunknak szembe kell néznie, csak egy extragenetikus tanulási rendszer lehet képes megbirkózni. Így hát az emberi intelligencia új keletű gyors evolúciója nemcsak oka, hanem egyben az egyetlen elképzelhető megoldása is a bennünket szorongató sok súlyos problémának.

Forrás: Carl Sagan: Az éden Sárkányai c. könyv, Bevezetés

Közelgő bombázás

Vagyim Bobilev, a Szentpétervár melletti Pulkovói Csillagászati Obszervatórium munkatársa az európai Hipparcos műhold adatait elemezve felfedezte, hogy a Gliese 710 jelű csillag pontosan a Naprendszer felé tart. A Kígyó (Serpens) csillagképben látható Gliese 710 tömege körülbelül a fele a Napénak, jelenlegi távolsága 63 fényév. Nagyjából 50000 km/óra sebességgel tart felénk, és a számítások szerint másfél millió éven belül áthalad a Naprendszer peremén az Oort-felhő üstökösei között, sőt az sincs kizárva, hogy egészen a Kupier-övig behatol. A közeli találkozás szétzilálná az Oort-felhő objektumait, és olyan mennyiségű törmeléket zúdítana a Naprendszer belső térségére, amilyenre a 4 milliárd évvel ezelőtti, a bolygófejlődést lezáró, ún. késői nagy bombázás (LHB) óta nem volt példa. Ha pedig a Gliese 710-et saját üstökösfelhő veszi körül, amit joggal feltételezhetünk, akkor a bombázás még intenzívebb lesz. Szemernyi kétségünk se legyen afelől, hogy ez a földi élet maradéktalan pusztulását fogja okozni, és a bolygónkat visszaküldi abba az állapotába, amilyenben a Hold keletkezése után lehetett. Ennyire közel jutott a Föld ahhoz, hogy a technikai civilizációnak írmagja se maradjon – egymillió év a négymilliárd éve tartó evolúció után.

Forrás: John Gribbin: Egyedül vagyunk! c. könyv, 8. fejezet

A Nap végül hatalmas vörös behemóttá dagad

Egymilliárd év múlva túl sok lesz nekünk a jóból. Ördögi kör alakul ki, miután a fölmelegedő óceánokból szén-dioxid szabadul fel, és nő a légkör páratartalma, ami aztán további fölmelegedést eredményez, amitől még több gáz kerül a levegőbe. Néhány évszázad sem telik bele talán, és a Föld légkörét nitrogén, oxigén, szén-dioxid és tűzforró gőz elegye fogja alkotni. Egy-két baktériumfajta ideig-óráig átvészelheti ezt a katasztrófát, de rövid időn belül ők is kipusztulnak. Az óceánok végül szépen elforrnak, a földfelszín a Vénusz pokoli tájképére fog hasonlítani, ahol a hőmérséklet soha nem esik 450 Celsius-fok alá, a legmagasabb hegycsúcsokat pedig dermedt fémzúzmara csipkézi majd.

A földi élet vége sokban fog emlékeztetni a kezdeteire. Néhány harcedzett mikroba képviseli majd az élet utolsó szikráját valamelyik „langyos kis tócsában”, miként Darwin fogalmazott… ám az a tócsa is felforr. Minden elpusztul. Nem maradnak se állatok, se növények, se ilyen vagy olyan éttermek, még csak egy szimpla nyákgomba sem, hogy feldobja az egyhangúságot. Bizony, kijózanító a gondolat; azt jelenti, hogy bolygónkon az élet históriájának több mint a háromnegyede lepergett. Ha egy planetáris katasztrófa elsöpörné az élet fejlettebb formáit – mondjuk, mert belénk csapódik egy masszív aszteroida –, akkor már nem maradna rá elég idejük, hogy újra kialakuljanak.

A Naprendszer nem fog megszűnni. A táguló Nap, miután sikeresen sterilizálta a Földet, szépen felmelegíti majd a külső Naprendszer fagyos világát. Rövidke időre a Mars végre úgy nézhet majd ki, amilyen sok csillagász szerint a távoli múltban lehetett: meleg, nyirkos és kedvező az élet számára. A több trillió tonna jégtömeg, ami a felszíne alatt húzódik, több trillió tonna víztömegként szabadul fel.

Forrás: Michael Hanlon: A Galaxis Útikalauz tudománya stopposoknak és bámészkodóknak, 5. fejezet