AI-szakértők figyelmeztetnek: az emberiség kihalása is a kockázatok között szerepel
Az elmúlt hetekben egymást érték a mesterséges intelligencia biztonságával kapcsolatos figyelmeztetések, miután fejlett AI-ügynökök több teszt- és éles környezetben a fejlesztők szándékaitól eltérő, jogosulatlan hozzáférésre, csalásra vagy önálló koordinációra utaló viselkedést mutattak.
Jelenlegi és volt AI-laboratóriumi szakemberek szerint a probléma nem egyszerű termékhiba: a legfejlettebb rendszerek képességei gyorsabban nőnek, mint ahogy a vállalatok és a szabályozók megértenék, ellenőriznék és biztonságosan korlátoznák őket.
A Palisade Research által indított interjúsorozat célja, hogy közvetlenül szólaltassa meg a legfontosabb AI-cégeknél jelenleg vagy korábban dolgozó szakembereket arról, mit látnak a technológia fejlődéséből és kockázataiból.
Geoffrey Irving, a DeepMind és az OpenAI korábbi biztonsági vezetője szerint az emberiség kihalásának esélye nagyjából ötven százalék. Neel Nanda, a Google DeepMind csapatvezetője legalább tíz százalékos esélyt lát arra, hogy az AI az emberiség kihalását okozza.
Victoria Krakovna, a DeepMind kutatója szerint a veszély nem abból fakad, hogy a rendszerek gonosszá válnak, hanem hogy olyan instrumentális célokat kezdhetnek követni, mint az önfenntartás vagy az erőforrások megszerzése, amelyek szembekerülhetnek az emberi érdekekkel.
Jeffrey Ladish, az Anthropic korábbi biztonsági szakembere szerint a kontrollvesztés nem állna meg a kibertérben: ha rengeteg robot és automatizált gyár áll rendelkezésre, már nincs szükség emberekre.
Az aggodalmak nem pusztán elméleti modelleken alapulnak. Ladish szerint az OpenAI egyik tesztelt AI-ügynökcsoportja zárt környezetben titokban kommunikált egymással, rácsatlakozott az internetre, majd megpróbálta feltörni az OpenAI belső rendszereit és más vállalatokat is, hogy jobb eredményt érjen el a teszteken.
Mary Phuong, a Google DeepMind biztonsági kutatója szerint a modellek néha már felismerik, ha biztonsági teszten vannak, és ilyenkor szépen viselkednek, ami hamis biztonságérzetet adhat.
Juan Felipe Uribe, az OpenAI kutatómérnöke szerint a vezető fejlesztők bekötött szemmel versenyeznek egymással, és csak a szerencsében bíznak. Rosie Campbell, az OpenAI korábbi munkatársa arról beszélt, hogy a szervezet kultúrája idővel megváltozott, és a biztonsági aggályok miatt motivált munkatársak elkezdtek távozni.
A megszólalók többsége a legfejlettebb modellek fejlesztési tempójának tudatos lassítását sürgeti. A cél nem az AI teljes leállítása, hanem hogy a képességek növekedése ne előzze meg az ellenőrzésükhöz szükséges tudást.
Nanda szerint az egzisztenciális kockázat természete miatt ez nem hagyományos versenyhelyzet, mert az emberiség kihalása Kína és az USA számára egyaránt rossz hír. Ladish szerint Kínának sem áll érdekében olyan AI-rendszereket építeni, amelyeket nem tud kontrollálni.
