Valóban képes lenne az AI véglegesen átalakítani a világot? Egyesek szerint ez az emberiség utolsó órája, míg mások még mindig hisznek a reményben. Mennyire vagyunk felkészülve arra, hogy a mesterséges intelligencia miként formálja jövőnket?
A mesterséges intelligencia (MI) keresztapja szerint gyökeres változások kellenek. A női elem nélkül eljöhet az MI hatalomátvétel.
A mesterséges intelligencia (MI) atyja, Geoffrey Hinton, a Nobel-díjas számítástechnikai szakértő, nemrégiben egy Las Vegas-i AI4 konferencián figyelmeztette a közönséget, hogy a mesterséges intelligencia komoly fenyegetést jelenthet az emberiség számára, és ennek valószínűsége folyamatosan növekszik. Előadásában Hinton arra is felhívta a figyelmet, hogy milyen lépésekkel lehetne megakadályozni az MI hatalomátvételét, más néven a szingularitás bekövetkeztét.
Hinton véleménye szerint a mesterséges intelligencia (MI) jelentős veszélyt jelenthet az emberiségre, és ennek valószínűsége 10-20% között mozog. Úgy látja, hogy a technológiai vállalatok jelenlegi megközelítése az MI fejlesztésére nemcsak hogy nem segít, hanem súlyosbítja a problémákat, és alapvetően téves alapokra épül. A legtöbb fejlesztő a hagyományos, férfias értékek keretein belül dolgozik, ami a technológia célorientáltságát, praktikusságát és logikai megközelítését tükrözi. A szektorban elterjedt az "alárendelés" stratégiája, amely szerint a gépek alárendeltek az emberi irányításnak. Hinton azonban hangsúlyozza, hogy ez a nézet túlzottan egyszerűsítő, és figyelmen kívül hagyja a mesterséges intelligencia önállóságának növekvő mértékét.
Dr. Sütheő Péter, a magyar mesterséges intelligencia etikai kutató, úgy véli, hogy a gépek pontosan azt valósítják meg, amit a felhasználók utasítanak nekik, és olyan módon cselekszenek, ahogyan azt a megadott feltételek lehetővé teszik. Például, ha kártyajátékot játszanánk egy MI-vel, de nem határozzuk meg, hogy ne csaljon, vagy ne lesse a többi játékos lapját, akkor az MI számára ez a lehetőség fennáll. Amennyiben a csalás előnyösebb számára a játék megnyeréséhez, úgy azt meg fogja tenni. Ez a megközelítés addig működhet, amíg egy kifejezetten játékra optimalizált MI-ről van szó. Azonban, ha egy szélesebb spektrumú, szuperintelligens rendszer létrehozására törekszünk, amely többféle feladatot is képes ellátni, akkor már nem lehet annyi változót és feltételt figyelembe venni. Geoffrey Hinton figyelmeztet arra, hogy ha továbbra is ilyen „alárendelt” stratégiát követünk, az MI túljárhat az eszünkön, mivel az adott céljai elérésében ez számára kedvezőbb megoldásokat kínálhat. Ezt a jelenséget egyre több példa is alátámasztja.
