Abba kellene hagynunk a haladó mesterséges intelligencia képzését?
Mintmesterséges intelligencia (AI)tovább fejlődik, a terület néhány kulcsfigurája most az AI-képzés felfüggesztését kéri az emberiség számára jelentett kockázat miatt. A Twitter vezérigazgatója, Elon Musk, az Apple társalapítója, Steve Wozniak és a DeepMind egyes kutatói aláírták a Future of Life Institute nyílt levelét, amelyben sürgetik a mesterséges intelligencia fejlesztésének ideiglenes felfüggesztését egy bizonyos kapacitás felett, figyelmeztetve a fejlettebb rendszerek potenciális kockázataira. . A levél azzal érvel, hogy az elmúlt hónapokban az AI-laboratóriumok egy kontroll nélküli versenybe zártak, hogy erősebb digitális elméket fejlesszenek ki, amelyeket még az alkotóik sem tudnak megérteni, előre jelezni vagy irányítani.
A Future of Life Institute egy non-profit szervezet, amelynek célja, hogy a transzformatív technológiákat elterelje az extrém, nagy léptékű kockázatoktól és az élet javára. Nyílt levelükben a szervezet kijelenti, hogy az emberrel versengő intelligenciával rendelkező AI-rendszerek komoly kockázatokat jelentenek a társadalomra és az emberiségre nézve. A levél arra figyelmeztet, hogy az ilyen rendszerek téves információkkal áraszthatják el az információs csatornákat, és a munkahelyeket automatizálással helyettesíthetik. A fejlett mesterségesintelligencia-fejlesztéseket óvatosan kell fejleszteni, ehelyett az elmúlt hónapokban a laboratóriumok versenyeztek az egyre erősebb rendszerek bevezetésén.
A Goldman Sachs befektetési bank nemrégiben kiadott egy jelentést, amely szerint bár a mesterséges intelligencia valószínűleg növeli a termelékenységet, munkahelyek milliói automatizálódhatnak. Más szakértők azonban azzal érvelnek, hogy az MI munkaerőpiacra gyakorolt hatását nehéz megjósolni. A levélben a Future of Life Institute azt kérdezi: „Ki kell-e olyan nem emberi elméket fejlesztenünk, amelyek végül túllépnek, túljárnak az eszén, elavulnak [sic] és helyettesítenek minket?” Stuart Russell, a Berkeley-i Kaliforniai Egyetem professzora és a levél egyik aláírója a BBC News-nak elmondta, hogy a mesterséges intelligencia rendszerek jelentős kockázatot jelentenek a demokráciára a fegyveres dezinformáció révén, a foglalkoztatásra az emberi készségek kiszorítása révén, az oktatásra pedig a plágium és demotiváció révén.
A levél arra is figyelmeztet, hogy a fejlett AI-k potenciális jövőbeni fenyegetést jelentenek a civilizációnk feletti emberi kontrollra, Arvind Narayanan, a princetoni számítógép-tudomány professzora azonban bírálta a levelet, amiért figyelmen kívül hagyta a probléma már most is ártó változatát. Azzal vádolta a levelet, hogy a „spekulatív, futurisztikus kockázatra” összpontosít. Az OpenAI, a ChatGPT mögött álló vállalat nemrégiben kiadta a GPT-4-et – egy csúcstechnológiás technológiát, amely lenyűgözte a megfigyelőket azzal a képességével, hogy olyan feladatokat tud végrehajtani, mint például a képeken látható objektumokkal kapcsolatos kérdések megválaszolása.OpenAInyilvánosan nem kommentálta a levelet.
Tekintettel a mesterséges intelligencia gyors fejlődéséhez kapcsolódó lehetséges kockázatokra, a szakértők fokozott óvatosságra szólítanak fel a mesterséges intelligencia fejlesztése során. Különösen arra kérik a laboratóriumokat, hogy haladéktalanul legalább hat hónapra szüneteltessenek a GPT-4-nél erősebb mesterséges intelligencia rendszerek képzését. Míg a mesterséges intelligencia képes átalakítani a társadalmat, a szakértők azzal érvelnek, hogy az ilyen átalakulásnak nem szabad az emberek biztonságának és ellenőrzésének rovására mennie.
Hosszú távon az ésszerű óvintézkedések csekély árat jelentenek a fejlett mesterséges intelligencia okozta kockázatok mérséklése érdekében. A szakértők azonban azzal is érvelnek, hogy a kockázatokat nehéz előre jelezni, és óvatosan kell eljárnunk, hogy elkerüljük a nem kívánt következményeket. A Future of Life Institute arra kéri a mesterséges intelligencia fejlesztőit, hogy vegyék fontolóra munkájuk lehetséges jövőbeli következményeit, és gondoskodjanak a fejlett mesterséges intelligencia fejlesztéséről.
Összességében a mesterséges intelligencia képzésének egy bizonyos kapacitás feletti felfüggesztésére vonatkozó felszólítás a fejlett mesterséges intelligencia által jelentett kockázatok miatti növekvő aggodalmat tükrözi. Bár még mindig sok mindent nem tudunk az AI hosszú távú hatásairól, a szakértők óvatosságra intenek, hogy elkerüljük a társadalom és az emberiség esetleges kárait. A mesterséges intelligencia fejlődésének gyors üteme az elmúlt években sok szakértőt aggodalomra ad okot amiatt, hogy a technológia kikerülhet az irányítás alól, és fennáll annak a veszélye, hogy olyan rendszereket hozunk létre, amelyeket nem tudunk megérteni vagy ellenőrizni. Mint ilyen, a mesterséges intelligencia fejlesztésének szüneteltetése szükséges lépés annak biztosításához, hogy biztonságosan és felelősségteljesen ki tudjuk használni az AI-ban rejlő lehetőségeket.