A hozzáértő szuperintelligencia

Amikor az emberek elérték az általános intelligenciát, az információfeldolgozási kapacitás későbbi exponenciális növekedését nem az agy növekedésével érték el, hanem a nyomtatás, az egyetemek, a számítógépek és a technológiai cégek feltalálásával. Hasonlóképpen, bár manapság divatosak a neurális hálózatok és az LLM-ek, naiv dolog azt feltételezni, hogy az AGI-től (artificial general intelligence) a szuperintelligenciáig a leggyorsabb út az egyre nagyobb LLM-ek (large language model) egyre több adattal való képzése lenne.

Tegmark szerint ha a szuperintelligencia kipusztítja az emberiséget, az valószínűleg nem azért lesz, mert gonosszá vagy tudatossá, hanem mert hozzáértővé vált, és a céljai nem illeszkednek a miénkhez. Az emberek sem azért pusztították ki a nyugat-afrikai fekete orrszarvút, mert orrszarvúgyűlölők voltak, hanem azért, mert okosabbak voltak, és más céljaik voltak az élőhelyük és a szarvaik felhasználásával kapcsolatban. Ha mondjuk a gép valamiféle magasabb rendű céltól vezérelve gőzerővel elkezdi felhasználni a földi erőforrásokat – például elhasználja az összes vizet –, mellékhatásként az emberek is elpusztulnak.

Forrás: Max Tegmark: Arra kérem a szénsovinisztákat, hogy mondják meg, az AI milyen feladatokat nem lesz képes soha elvégezni (Herczeg Márk cikke)

Első benyomások

A sakkmesterekről nagy mennyiségű adat áll rendelkezésünkre az intuíció témájában. Mutassunk egy mesternek vagy egy nagymesternek egy játékközepi táblaállást. Mindössze öt vagy tíz másodperces szemlélődés után valószínűleg jó lépést fog ajánlani – az esetek nagy többségében ez a legjobb lépés az adott szituációban. Ha ugyanez a mester ugyanezt a játékot egy erős ellenféllel játsza, akkor nem fog azonnal lépni; lehet, hogy három percet fog ülni az asztalnál, de lehet, hogy fél órát, amíg eldönti, vajon első benyomása helyes volt-e. De az esetek 80 vagy 90%-ában ez a bizonyos első benyomás helyesnek fog bizonyulni.

Készültek számítások arról, hogy a sakkmesterek számára hányféle ismerős módon szerepelhetnek a figurák a táblán. A becslések szerint körülbelül ötvenezerféle ilyen mód létezhet, ami körülbelül ugyanannyi, mint amekkora az anyanyelvi szókincsünk. A szaktudás bármely területén az intuíció fő forrása az, hogy rendelkezünk egy fejlett különbségtevő hálózattal, amely képessé tesz bennünket különböző tárgyak vagy helyzetek tízezrei közül bármelyiknek a felismerésére. Intuíció az a képesség is, amikor az ember felismeri egy barátját az utcán, majd előhívja emlékezetéből mindazt, amit tud erről a barátról. Ha sokmindent tud róla, akkor képes lesz helyes ítéleteket is alkotni vele kapcsolatban. Kölcsönadhat-e neki pénzt, vagy nem? Visszakapja-e, ha ad neki? Ha jól ismeri a barátját, akkor intuitív módon eldöntheti, hogy kérdéseire igen vagy nem-e a válasz.

Forrás: Herbert Simon: Az ésszerűség szerepe az emberi életben c. könyv, A racionalitás alternatív nézőpontjai c. fejezet

A szavak terhe

A szavak már magukban hordják megszilárdult jelentésük terhét, s amikor egy új érzést vagy gondolatot szeretnénk kifejezni, valami speciálisat, intimet, ami csak a miénk, azt érezzük, hogy a nyelv túlságosan közönséges vagy általános; hogy inkább a közérdeket képviseli, mintsem személyiségünk kifejezésének érdekét. Csak ritkán van úgy, hogy amit érzünk, az pontosan irigység vagy neheztelés, gyűlölet vagy düh. De amikor ezeket az érzéseket közölni szeretnénk, akkor ezeknek a szavaknak egyikére kell hagyatkoznunk, és ahhoz mindig túlságosan pontosnak, evvel egyidejűleg túl konvencionálisnak vagy durvának érezzük őket, hogy tapasztalatunkat pontosan kifejezzék. És minél inkább érezzük ezt, annál inkább félrecsúszik a kifejezés. Innen származik a kísértés, hogy megerőszakoljuk a nyelvet, vagy eltekintsünk tőle, és ez annál erősebb, minél erőteljesebb az a gondolat vagy érzés, amit ki szeretnénk fejezni. Ebből következik, hogy a neologizmusok vagy legvégső esetben a csönd használata inkább a filozófusokat, szerelmeseket, művészeket és misztikusokat jellemzi. Vagyis mindazokat, akik végeredményben valami különleges, eddig még nem közzétett gondolatot vagy egy bizalmas élményt szeretnének kifejezni.

Forrás: Xavier Rubert de Ventós: Minek filozofálni? c. könyv, 3. fejezet

Pletykaelmélet

Yuval Noah Harari szerint az embereket a pletyka tette együttműködővé. Sapiens című könyvében így ír erről:

A nyelv a pletykálkodás eszközéül fejlődött ki. E szerint az elmélet szerint a Homo sapiens alapvetően társas állat. A szociális együttműködés túlélésünk és szaporodásunk igazi kulcsa. Az egyénnek nem elég az oroszlánok és bivalyok hollétét ismernie. Sokkal fontosabb tudnia azt, hogy a hordában ki kit utál, ki kivel fekszik le, ki becsületes és ki csalárd. A néhány tucat egyén közötti örökké változó viszonyok követéséhez szükséges megszerzendő és tárolandó információ mennyisége megdöbbentő. Egy 50 tagú hordában 1225 egyéni kapcsolat és számtalan összetettebb kombináció létezik. Minden emberszabású majom élénk érdeklődést mutat az ilyen típusú információ iránt, viszont képtelenek hatékonyan pletykálni. A Neander-völgyieknek és az ősi Homo sapiensnek is nyilván nehézséget okozott egymás háta mögött sutyorogni – pedig ez a sokat ócsárolt képesség nélkülözhetetlen nagyobb számú egyed együttműködéséhez. Az arról szoló információk, hogy kiben lehet és kiben nem lehet megbízni azt jelentették, hogy a kisebb hordákból nagyobbak lettek, és a sapiensek az együttműködés szorosabb és elvontabb formáit tudták kifejleszteni. A pletykaelmélet tréfának tűnhet, de számtalan tanulmány támasztja alá. Az emberi kommunikáció zöme – akár e-mail, akár telefonhívás, akár újságcikk formájában – még ma is pletyka. Annyira természetes jelenség, hogy úgy tűnik, mintha a nyelvünk kifejezetten erre a célra fejlődött volna ki. Azt gondolják, hogy a történészprofesszorok az első világháború kitörésének okairól csevegnek ebéd közben, vagy az atomfizikusok a kvarkokról társalognak a konferenciák kávészüneteiben? Néha így is van. De leginkább a professzorasszony a téma, aki rajtakapta a férjét egy másik nővel, esetleg a tanszékvezető és a dékán közti veszekedés, netán az a híresztelés, hogy az egyik kolléga luxusautóra költötte a kutatásaira kapott pénzt.

Forrás: Szvetelszky Zsuzsanna és Bodor-Eranus Eliza: A pletyka természete c. könyv, Miért pletykálunk? c. fejezet

A megértés eszköze a nyelv

Azt mondhatjuk, hogy a fizika a természettudománynak egy része és mint ilyennek a természet leírására és megértésére kell törekednie. De a megértés minden fajtája, legyen az akár tudományos, akár nem tudományos, a nyelvtől függ, attól, hogy a gondolatokat közölni tudjuk. Jelenségek, kísérletek és ezek eredményei leírásának alapja a nyelv, amely egymás megértésének egyedüli eszköze. E nyelv szavai fejezik ki a mindennapi élet fogalmait, amelyeket a fizika tudományos nyelvén a klasszikus fizika fogalmaivá finomíthatunk. Ezzel a fogalmak az egyértelmű közlésnek, a folyamatok, a kísérleti elrendezések és ezek eredményei megértésének egyedüli eszközei. Ezért, ha az atomfizikustól azt kívánjuk, hogy annak a leírását adja, ami az ő kísérleteiben valóban történik, akkor a „leírás”, „valóban” és „történik” szavak csak a mindennapi élet és a klasszikus fizika fogalmaira vonatkozhatnak. Mihelyt a fizika megkísérli ennek az alapnak a feladását, elveszíti annak a lehetőségét, hogy egyértelműen fejezze ki magát és tudományát nem folytathatja tovább. Ezért minden arra vonatkozó állítás, ami történik vagy történt, csak a klasszikus fizika fogalmaival kifejezett állítás lehet. Ez a termodinamika és a természet határozatlansági relációi miatt a szóban forgó atomfolyamatok részleteire vonatkozóan nem teljes. A követelmény, hogy leírjuk azt, ami egy kvantumelméleti folyamatban két egymásra következő megfigyelés közt történik, contradicto in adjecto (önellentmondás), mivel a „leírás” szó a klasszikus fogalmak alkalmazására vonatkozik, amelyeket pedig a térben két megfigyelés között nem lehet alkalmazni. Csak a megfigyelés pillanatában alkalmazhatók.

Forrás: Werner Heisenberg: Válogatott tanulmányok, A kvantumelmélet koppenhágai értelmezésének kritikája és az ellenjavaslatok c. fejezet

Ez a mosogatás is olyan, mint a nyelv…

Niels Bohr Nobel-díjas dán fizikus mondta egyszer, amikor egy kiránduláson éppen mosogatott:

Ez a mosogatás is olyan, mint a nyelv. Piszkos a vizünk, piszkos a törlőruhánk, és valahogy mégis megtisztítjuk az edényt meg a poharakat. Így állunk a nyelvvel is: tisztázatlan fogalmakkal dolgozunk, és olyan logikát használunk, amelynek nem ismerjük a pontos érvényességi körét; ennek ellenére reménykedünk, hogy mégiscsak tisztaságot teremtünk a természet megértésében.

Forrás: Mérő László: Észjárások c. könyv, Nulladik fejezet