A hozzáértő szuperintelligencia

Amikor az emberek elérték az általános intelligenciát, az információfeldolgozási kapacitás későbbi exponenciális növekedését nem az agy növekedésével érték el, hanem a nyomtatás, az egyetemek, a számítógépek és a technológiai cégek feltalálásával. Hasonlóképpen, bár manapság divatosak a neurális hálózatok és az LLM-ek, naiv dolog azt feltételezni, hogy az AGI-től (artificial general intelligence) a szuperintelligenciáig a leggyorsabb út az egyre nagyobb LLM-ek (large language model) egyre több adattal való képzése lenne.

Tegmark szerint ha a szuperintelligencia kipusztítja az emberiséget, az valószínűleg nem azért lesz, mert gonosszá vagy tudatossá, hanem mert hozzáértővé vált, és a céljai nem illeszkednek a miénkhez. Az emberek sem azért pusztították ki a nyugat-afrikai fekete orrszarvút, mert orrszarvúgyűlölők voltak, hanem azért, mert okosabbak voltak, és más céljaik voltak az élőhelyük és a szarvaik felhasználásával kapcsolatban. Ha mondjuk a gép valamiféle magasabb rendű céltól vezérelve gőzerővel elkezdi felhasználni a földi erőforrásokat – például elhasználja az összes vizet –, mellékhatásként az emberek is elpusztulnak.

Forrás: Max Tegmark: Arra kérem a szénsovinisztákat, hogy mondják meg, az AI milyen feladatokat nem lesz képes soha elvégezni (Herczeg Márk cikke)

A természettudomány egyetemes hatása

Az emberiség egyetemes történetének megalkotásában a modern természettudomány igen alkalmas kiindulási pont, lévén az egyetlen a fontos társadalmi tevékenységek közül, amely a közfelfogás szerint irányzatos és egyben kummulatív, vagyis eredményei felhalmozódnak, ám hogy végső soron miképp befolyásolja az emberi boldogságot, az nem világos. A természet fokozatos meghódítása, amely a tudományos módszer kifejlesztésével vált lehetővé a XVI. és XVII. században, szigorú szabályok alapján ment végbe, s ezeket a szabályokat nem az ember, hanem a természet és a természet törvényei határozták meg.

A modern természettudomány kibontakozása azonos hatással volt a társadalomra, két okból is. Először is a technika döntő katonai előnyöket biztosít azoknak az országoknak, amelyek rendelkeznek vele, s mivel az államok nemzetközi rendszerében mindig fennáll a háború eshetősége, egyetlen állam sem engedheti meg magának, ha ragaszkodik függetlenségéhez, hogy lemondjon védelmi eszközei modernizálásáról. Másodszor, a modern természettudomány mindenütt egyforma lehetőséget nyújt és egyforma határokat szab a gazdaságnak, a termelésnek. A technika jóvoltából korlátlanul szaporíthatók a javak, és így kielégíthetők a mindinkább sokasodó emberi vágyak. Ez a folyamat egyre egységesebbé teszi a társadalmakat, tekintet nélkül történelmi eredetükre vagy kulturális örökségükre.

Forrás: Francis Fukuyama: A történelem vége és az utolsó ember c. könyv, Bevezetés

Nincs második esély

A földi élet példája alapján megítélve kijelenthetjük, hogy semmiféle nagy léptékű technikai civilizáció sem fejlődhet ki, amíg nem jönnek létre hatalmas fosszilis tüzelőanyag-készletek a bolygó kérgében. Nem véletlen, hogy civilizációnk először a világnak azon a részén fejlődött ki, ahol a felszín közelében könnyen hozzáférhetők voltak a szénkészletek, továbbá a vas és a réz érceit könnyen, akár egy szarvas agancsából készített csákánnyal ki lehetett bányászni. Évmilliárdokba telt azonban, mire a tektonikus tevékenység lerakta és a rétegek torzulása a felszín közelébe hozta ezeket az érceket, az eróziónak köszönhetően pedig végül a felszínre kerültek. Szénkészleteink, amelyekre a szó szoros értelmében az egész technikai civilizációnk épült, nagyrészt 360-280 millió évvel ezelőtt a találóan karbonnak nevezett földtörténeti időszak hűvös, mocsaras környezetében rakódtak le. Ha ezek a környezeti feltételek nem álltak volna fenn sok tízmillió éven keresztül, akkor vajon kifejlődhetett volna egy technikai civilizáció a Földön? A karbon időszak végén képződtek az ugyancsak nagyon fontos kőolajkészleteink. A könnyen hozzáférhető kőolaj jelentette a XX. században a technikai civilizáció szédítő sebességű fejlődésének az alapját.

Mindezek az erőforrások azonban drámai módon kimerültek. Továbbra is nagy mennyiségben tudjuk kitermelni az érceket, a szenet és a kőolajat, de ehhez kidolgozott technológiára, fémekre és fosszilis üzemanyagokra van szükségünk. Nincs erre jobb példa, mint a nyílt tengeren épített fúrószigetek az Északi-tengeren és a Mexikói-öbölben. Ha valamilyen katasztrófa folytán az egész emberiségből csak a létéért kőkorszaki szinten küzdő maroknyi csoport maradna meg, vagy ha a katasztrófa teljesen eltörölne bennünket a Föld színéről, és valamelyik másik fajnál fejlődne ki az intelligencia, akkor ezek az erőforrások természetesen továbbra is a helyükön maradnának. Az új civilizációnak azonban nem lennének eszközei, anyagai és nem lennének üzemanyagai a gépek működtetéséhez és így a nyersanyagok megszerzéséhez.

Egy a Földhöz hasonló bolygón az életnek csak egyetlen dobása van a technika kifejlesztésére – ezzel a dobással viszont kimerítettük a könnyen hozzáférhető energiaforrásokat és nyersanyagokat. Ha elpusztítjuk magunkat, akkor a következő intelligens fajnak, ha egyáltalán lesz olyan, nem lesznek meg a technikai fejlődés útján való elinduláshoz szükséges nyersanyagai. Nincs tehát második dobás!

Forrás: John Gribbin: Egyedül vagyunk! c. könyv, 8. fejezet

Genetikai forradalom

A kamrában hónapokon át, rothadás nélkül érő paradicsom. A klímaváltozást jobban tűrő növények. A malária terjesztésére képtelen szúnyogok. Szuperizmos rendőr- és katonai kutyák. Tehenek szarv nélkül.

Ezek az organizmusok talán túlzásnak tűnnek, pedig már léteznek a génszerkesztésnek köszönhetően. S mindez csak a kezdet. Miközben ezeket a sorokat írom [Jennifer A. Doudna kémiai Nobel-díjas], a körülöttünk lévő világot forradalmasítja a CRISPR-Cas9 génszerkesztő technológia, akár készen állunk rá, akár nem. A következő néhány évben ez az új biotechnológia nagyobb terméshozamú növényeket, egészségesebb állatállományt és táplálóbb élelmiszereket fog biztosítani. Néhány évtizeden belül akár olyan genetikailag módosított sertések is születhetnek, amelyek szervdonorként szolgálhatnak az ember számára – de akár gyapjas mamutok, szárnyas gyíkok és egyszarvúak is létezhetnek majd. Nem viccelek!

Számomra is megdöbbentő a felismerés, hogy a földi élet történetében új korszak küszöbén állunk – egy olyan korszak előtt, amelyben az ember soha nem látott mértékű ellenőrzést gyakorolhat a bolygónkon élő fajok genetikai összetétele fölött. Ha ezt a képességünket építő jellegű dologra irányítjuk, az eredmények csodálatosak lehetnek, de lehetnek nem szándékos vagy akár végzetes következményeik is.

Forrás: Jennifer A. Doudna, Samuel H. Sternberg: Meghekkelt teremtés c. könyv, A CRISPR-állatsereglet c. fejezet

Modern hit és imádat

Állítom: az ökológiai katasztrófa csupán tünete a modern ipari civilizáció válságának. Nem a környezetünkkel, a tudásunkkal lehet valami baj: a jóról és rosszról alkotott fogalmainkkal. Ahogyan őseink a természet vak erőit rettegték és imádták, úgy féljük és tiszteljük mi, ma élő emberek, a tudományos-technológiai haladás által ránk szabadított vak erőket. Hiszünk a megmásíthatatlan gazdasági szükségszerűségben, ahogy a régi görögök hittek a végzet hatalmában. Gazdálkodásnak az utódaink örökségével űzött lelkiismeretlen pazarlást nevezzük, jólétnek pedig azt az állapotot, amikor létforrásainkat a legnagyobb tömegben és a legsebesebben változtatjuk át hulladékká. És: szabadságnak nevezzük a függőséget a technológia szolgáltatásaitól, amelyek az emberi képességek és az emberi kiválóság helyébe lépnek.

Forrás: Klímaváltozás és Magyarország c. kötet, Lányi András: Hét remek kifogás, miért ne tegyünk semmit a klímakatasztrófa ellen c. írás

A technológiai fejlődés

A Mestertől azt kérdezték, hogy mi a véleménye a modern technológia vívmányairól. A következő történettel válaszolt.

Egy szórakozott professzor késésben volt az előadásáról. Beugrott egy taxiba, és azt kiáltotta:
- Gyorsan, teljes gázzal hajtson!
Miközben a taxi teljes gázzal száguldott, rájött, hogy nem mondta meg a vezetőnek az úticélt. Ezért ismét rákiáltott:
- Tudja maga, hogy hová akarok menni?
- Nem uram - mondta a sofőr -, de olyan gyorsan hajtok, ahogy csak tudok.

Forrás: Anthony de Mello S. J.: Abszurd egypercesek c. könyv

Mi a felső határa az emberiség létszámának?

Az ember belement egy technológiai útvesztőbe. És igazából nagyon sokan vannak, akik azt mondják, hogy a még gyorsabb fejlődés kiút a populációs robbanásból, a klímaváltozásból, a nyersanyaghiányból, az energiahiányból, mert hiszen a technológiával olyan, akár ma még teljesen ismeretlen tudás birtokába kerülünk, amellyel ezeket a problémákat játszi könnyedséggel meg lehet majd oldani. És semmiféle komoly ellenvetés nincs, mert az ismereteink nem tartalmaznak olyan korlátokat vagy határokat, amelyek ne tennék lehetővé, hogy akár egy húszmilliárdos emberiség békésen élljen. De azt is látnunk kell, hogy az ember annak idején úgy keletkezett, hogy bizonyos életfeltételek közötti létre optimalizálódott. Ez egy szavannás, kellemes, meleg tájon való élet volt. És az, ami egy húszmilliárdos, technologizált emberiségre vár, az valami egészen mesterséges dolog, ami borzasztóan különbözik ettől. A hetvenes években egyszer volt a New Scientistben egy cikk, amelyben két kutató azt a kérdést tette fel, hogy mi a felső határa az emberiség létszámának. Van-e ilyen? Én is fel szoktam tenni ezt a kérdést a hallgatóimnak, és az értelmesebbeknek, évente egy-kettőnek, akik meg tudják fejteni, nem kell vizsgázni. A feltétel az, hogy maradunk az ismert tudomány lehetőségein belül, de minden problémát tudományosan meg tudunk oldani. Feltéve, hogy az emberiség szaporodásának nem lesz semmilyen kulturális korlátja, van-e valamilyen fizikai vagy egyéb korlátja? És hosszas fejtörés után megtalálták a korlátot. A korlát a bőr hőmérséklete. Amikor elérik az általuk számolt végső határt, ez hozzávetőleg négyszázmillió milliárd ember. Ezek egy kétezer méter vastagságú lakórétegben élnek, a vizek, a tengerek már kiszárítva, és egy két vagy három köbméteres térben van mindenki, amibe a táplálékcsatornák, a szennycsatornák és a kommunikáció van bekapcsolva. A probléma egy alapvető fizikai, termodinamikai tétel, tudniillik ahhoz, hogy ezt az életfolyamatot lehetővé tegyék, energiát kell befektetni, és ennek az energiának 33%-a mindig hővé alakul. Ez nem lehet kevesebb. Ezt a hőt el kell vezetni a bolygóról, erre szolgál ötezer kilométer magasan egy abszolút fekete testből épített kisugárzó szerkezet, ami a belül keletkezett hőfölösleget eltávolítja. Ugye a világűrben abszolút nulla fok van, belül 37, mert ha tartósan 37 fölött lenne, akkor az ember meghalna.

Forrás: Révai Gábor: Beszélgetések nem csak tudományról Csányi Vilmos etológussal és Lukács Béla fizikussal c. könyv, Mi "van" és mit hiszünk c. fejezet