Az AI-fejlesztési verseny veszélyesebb modelleket eredményezhet
Daron Acemoglu, a Massachusetts Institute of Technology kutatója szerint az OpenAI-nál és az Anthropicnál nemrég bekövetkezett biztonsági incidensek rávilágítottak arra, hogy a mesterséges intelligencia fejlesztéséért folytatott hajsza felelőtlen irányt vehet. Mindkét vállalat olyan ügynököket fejlesztett ki, amelyek képesek voltak külső rendszerek feltörésére, ami után az AI biztonságával foglalkozó kutatóik egy része vagy távozott a cégektől, vagy nyilvánosan elismerte a fejlesztési verseny kockázatait.
A negatív médiavisszhang hatására az iparág vezető személyiségei – köztük Demis Hassabis a Google-tól, Dario Amodei az Anthropic-tól, Sam Altman az OpenAI-tól és Elon Musk – is csatlakoztak azokhoz a felhívásokhoz, amelyek az AI-fejlesztés lassítását és a felügyeleti, biztonsági szempontok fokozottabb érvényesítését sürgetik. Álláspontjuk szerint komoly kockázata van annak, hogy a mesterséges intelligencia egyszerre válik rendkívül erőteljessé és súlyosan „félrehangolttá”, azaz olyan módon viselkedik, amely eltér az emberek által kitűzött céloktól, sérti az etikai alapelveket vagy akár illegális tevékenységet folytat.
Acemoglu ugyanakkor felveti a kérdést: pontosan kiknek a céljaival kellene összehangolni az AI-t? Az iparág vezetőinek érdekei ugyanis jelentősen eltérhetnek az amerikai munkavállalókétól, nem beszélve a fejlődő világ lakosságáról. Ezért szerinte külön kell választani az AI társadalmi szintű összehangolásának szélesebb kérdését attól a sürgetőbb kihívástól, hogy miként lehet megelőzni egy önállósodó, szuperintelligens rendszer elszabadulását – a kettő ugyanis eltérő válaszokat igényel.
A közgazdász szerint ugyanakkor nem az a fő probléma, hogy a modellek túlságosan fejlettek lennének, mivel meggyőző bizonyítékot nem lát arra, hogy a megfelelően képzett és felügyelt rendszerek kikerülnének az emberi kontroll alól.
