Az emberiség a jelenlegi körülmények között, de még belátható időn belül sem áll készen a mesterséges intelligenciára (MI) – állítja a terület egyik legnevesebb szakértője.
Eliezer Yudowsky, vezető MI-kutató szerint a mesterséges intelligencia fejlesztői „alábecsülik a helyzet komolyságát.”
„A kulcskérdés most nem az ’emberrel versenyképes’ intelligencia; az a kérdés, hogy mi történik azután, ha a mesterséges intelligencia az embernél okosabb lesz” – jelentette ki. Hozzátette, hogy a kutatók számítása szerint ez a forgatókönyv az emberiség kihalását fogja eredményezni, amire „nem csak van némi esély, hanem ez a legkézenfekvőbb dolog, ami történhet”.
A ChatGPT berobbanása után több kutató és vezérigazgató – köztük Elon Musk és Steve Wozniak is – aláírt egy levelet, amelyben arra szólították fel a mesterséges intelligencia fejlesztőit, hogy legalább hat hónapra szüneteltessék a GPT-4-nél erősebb MI-rendszerek képzését. Yudowsky úgy gondolja, hogy a mestereséges intelligenciának az embertől eltérő igényei lesznek, és ha egyszer öntudatra ébred, „nem fog törődni velünk, sem más érző élőlénnyel”. Ugyan a kutató szerint „ezt a fajta törődést be lehetne ültetni egy MI-rendszerbe, még nem állunk készen erre”, amiért abszolút leállásra szólítja fel a fejlesztőket. Az MI úgy tekint majd minden élőlényre, mint egy atomra, amelyet különböző dologra tud majd felhasználni: olyan lesz ez, mintha egy tízéves gyermek próbálná legyőzni a Stockfish 15 sakkprogramot – ami eddig egyetlen embernek sem sikerült.
Leegyszerűsítve, képzeljük el úgy a mesterséges intelligenciát, hogy az már nem az internet határain belül létezik:
„Képzeljünk el egy egészen idegen civilizációt, amely gyorsabban gondolkodik, mint az ember, kezdetben számítógépek közé szorítva – egy olyan világban, ahol az ő szemszögéből nézve ostoba és lassú lények élnek. Egy mindenható mesterséges intelligencia megépítése az emberiség és a Földön élő összes biológiai élet halálát eredményezné” – figyelmeztetett Yudowsky.
