A hozzáértő szuperintelligencia

Amikor az emberek elérték az általános intelligenciát, az információfeldolgozási kapacitás későbbi exponenciális növekedését nem az agy növekedésével érték el, hanem a nyomtatás, az egyetemek, a számítógépek és a technológiai cégek feltalálásával. Hasonlóképpen, bár manapság divatosak a neurális hálózatok és az LLM-ek, naiv dolog azt feltételezni, hogy az AGI-től (artificial general intelligence) a szuperintelligenciáig a leggyorsabb út az egyre nagyobb LLM-ek (large language model) egyre több adattal való képzése lenne.

Tegmark szerint ha a szuperintelligencia kipusztítja az emberiséget, az valószínűleg nem azért lesz, mert gonosszá vagy tudatossá, hanem mert hozzáértővé vált, és a céljai nem illeszkednek a miénkhez. Az emberek sem azért pusztították ki a nyugat-afrikai fekete orrszarvút, mert orrszarvúgyűlölők voltak, hanem azért, mert okosabbak voltak, és más céljaik voltak az élőhelyük és a szarvaik felhasználásával kapcsolatban. Ha mondjuk a gép valamiféle magasabb rendű céltól vezérelve gőzerővel elkezdi felhasználni a földi erőforrásokat – például elhasználja az összes vizet –, mellékhatásként az emberek is elpusztulnak.

Forrás: Max Tegmark: Arra kérem a szénsovinisztákat, hogy mondják meg, az AI milyen feladatokat nem lesz képes soha elvégezni (Herczeg Márk cikke)

Micsoda remek procik

A rovarvilág számára mi vagyunk a legkegyetlenebb gyilkosok, és ha a rovarok gondolkodni tudnának, bizonyára arra a meggyőződésre jutnának, hogy az autók ellenük tervezett óriási gyilkológépek. Eközben, őszintén megvallva, alig gondolunk ezekre az apró teremtményekre a szélvédőnkön. Egy általános mesterséges intelligencia (MI), ehhez hasonlóan, annyira más szinten mozogna, lehetséges, hogy eszébe se jutna tettének a ránk mért hatását mérlegelni. Például egyszer csak több számítási kapacitásra lenne szüksége, és ahogy körülnézne, észrevenné azt a néhány milliárd agyat, ami a tévésorozatok követésén túl alig használja ki a rendelkezésére álló memóriát. Micsoda remek tárhely és mennyi párhuzamosan futtatható processzor, gondolná. Majd beúszik a Mátrix főcímzenéje. Eliezer Yudkowsky MI-kutató így írt erről: Az MI nem utál téged, nem is szeret, viszont olyan atomokból állsz össze, amiket ő valami másra hasznosítani tud.

Forrás: Byron Reese: A negyedik kor - okos robotok, tudatos számítógépek és az emberiség jövője c. könyv, 15. fejezet

Mélytanulás bíztató eredményei

Segít-e majd egy nap az MI tudományos alapproblémák felvetésében és megoldásában? A különféle információforrásokat összekapcsolva segítenek-e majd az MI rendszerek a kreatívabb és jobb megoldások felkutatásában? Felvethetnek-e új hipotéziseket, vagy netán felfedezendő új területeket?

Már látszik néhány bíztató korai előrelépés ezen a területen. Például a kutatók mélytanulást használtak az orvosi diagnosztikában, algoritmust dolgoztak ki a retina sokféle rendellenességének osztályozására, és ugyanolyan pontosságig jutottak el vele, mint az emberi szakértők. Egy másik példa: MI-algoritmust dolgoztak ki a bőrbetegségekről készült képek osztályozására ‒ jó- vagy rosszindulatú-e az elváltozás ‒, amely elérte a hivatalosan elismert bőrgyógyászok diagnosztikai pontosságát. A sürgősségi osztályokon a mélytanulás segíthet eldönteni, hogy vajon a beteg CT-vizsgálata agyi érkatasztrófát mutat-e. Az új algoritmus ezeket a figyelmeztető jelzéseket olyan pontossággal ismerte fel, mint az orvosszakértők - csak épp 150-szer gyorsabban.

Az MI-technológia sikeressége a mélytanulás két kritikus összetevőjéből adódik: a nagy mennyiségű tanulóadatból és az osztályozás egyértelműségéből. [...] Ez azt sugallja, hogy az MI-technológia azokon a szűkebb tudományterületeken hozhat közvetlen hasznot, amelyek egyértelmű osztályozási stratégiát adó algoritmussal szolgálhatnak, de elég mélyek is ahhoz, hogy az MI az összes adat végigvizsgálása után ‒ és erre egyetlen kutató sem képes ‒ új eredményekhez juthasson.

De ami a legfontosabb: a gépek pontossága és hatékonysága gyorsan javul ugyan, de a tudományban nem önmagukban a gép vagy az ember áll a legizgalmasabb jövő előtt, hanem a kettő stratégiai együttműködése.

Forrás: Dashun Wang és Barabási Albert-László: A tudomány tudománya, 22. fejezet

A kognitív pszichológia és a mesterséges intelligencia kapcsolata

A kognitív pszichológia indíttatása a deskripció, egy ténylegesen létező, természet adta működés minél jobb leírása és modellezése, míg a mesterséges intelligencia indíttatása a konstrukció, a működés létrehozása. Ehhez mindkét tudománynak szüksége lehet a természet adta működés megértésére, ezért fonódik napjainkban össze a két tudományág. Ha netalán ezt a célt elérik, útjaik ismét szétválnak: a mesterséges intelligencia kutatóit ezek után a működés mesterséges megvalósításának és javításának technikai lehetőségei érdekelnék, a pszichológusok ezek után inkább az általános elveken belül fellelhető egyéni különbségek okait és szerepét kutatnák. A kognitív pszichológia azért keresi az emberi gondolkodás jól működő modelljeit, mert ez számára a megértés eszköze lehet. A mesterséges intelligencia azért, mert ez számára a hasonló (vagy jobb) működések létrehozásának eszköze lehet.

Forrás: Mérő László: Észjárások c. könyv, Különféle kultúrák észjárásai c. fejezet