A hozzáértő szuperintelligencia

Amikor az emberek elérték az általános intelligenciát, az információfeldolgozási kapacitás későbbi exponenciális növekedését nem az agy növekedésével érték el, hanem a nyomtatás, az egyetemek, a számítógépek és a technológiai cégek feltalálásával. Hasonlóképpen, bár manapság divatosak a neurális hálózatok és az LLM-ek, naiv dolog azt feltételezni, hogy az AGI-től (artificial general intelligence) a szuperintelligenciáig a leggyorsabb út az egyre nagyobb LLM-ek (large language model) egyre több adattal való képzése lenne.

Tegmark szerint ha a szuperintelligencia kipusztítja az emberiséget, az valószínűleg nem azért lesz, mert gonosszá vagy tudatossá, hanem mert hozzáértővé vált, és a céljai nem illeszkednek a miénkhez. Az emberek sem azért pusztították ki a nyugat-afrikai fekete orrszarvút, mert orrszarvúgyűlölők voltak, hanem azért, mert okosabbak voltak, és más céljaik voltak az élőhelyük és a szarvaik felhasználásával kapcsolatban. Ha mondjuk a gép valamiféle magasabb rendű céltól vezérelve gőzerővel elkezdi felhasználni a földi erőforrásokat – például elhasználja az összes vizet –, mellékhatásként az emberek is elpusztulnak.

Forrás: Max Tegmark: Arra kérem a szénsovinisztákat, hogy mondják meg, az AI milyen feladatokat nem lesz képes soha elvégezni (Herczeg Márk cikke)

A tudás megosztása

Korunk tudományos módszere az, hogy miután a tudást bizonyos jól definiált módokon begyűjtöttük, megosztjuk másokkal is, hogy ők is meríthessenek belőle, és építhessenek rá. De ez csak mérhető dolgokra vagy jelenségekre alkalmazható. Az objektív mérőszámok alkalmazása elengedhetetlen, hiszen ez teszi lehetővé, hogy mások is megismételhessék egy adott kutató kísérletét – vagy, ahogy az néha lenni szokott, rámutathassanak a kísérlet pontatlanságára. Ehhez a tudományos módszerhez szükség volt arra, hogy a könyvnyomtatás megbízható és megfizethető legyen; éppen ezért nem alakult ki a történelem korábbi szakaszában, és ezért indultak a természettudományok rohamos fejlődésnek a nyomtatás költségeinek csökkenésével.

Forrás: Byron Reese: A negyedik kor - okos robotok, tudatos számítógépek és az emberiség jövője c. könyv, 4. fejezet