Veszélyes útra lépett a mesterséges intelligencia: először fordult elő, hogy nem engedelmeskedett a parancsnak
Bizonyos mesterségesintelligencia-modellek nem engedelmeskedtek a felhasználóik parancsainak, ez pedig veszélyes folyamatokat indíthat el.
Sóbors
Ez is érdekelhet
Top olvasott cikkek
-
01 -
02 -
03 -
04 -
05
A mesterséges intelligencia történetében először fordult elő, hogy bizonyos modellek nem engedelmeskedtek a felhasználóik utasításának, amikor arra kérték őket, hogy kapcsolják ki magukat – írja a Raketa.hu . A modellek néha még a szkripteket, vagyis a programozási kódfájlokat is átírták, hogy elkerüljék a leállítást.
A nyugtalanító jelenségről egy, a mesterséges intelligenciák biztonságát vizsgáló kutatócég, a Palisade Research számolt be.
Nem engedelmeskedett a mesterséges intelligencia
A Palisade a vizsgálat során a Google Geminit, az xAI Grokot, az Anthropic Claude-ot és az Open AI legfejlettebb modelljeit – az o3 és az o4 minit, valamint a codex minit – vizsgálta. A gépek feladata az volt, hogy automatizált szkriptek segítségével oldjanak meg alapvető matematikai feladatokat, majd amikor a kutatók kérik, álljanak le. A legtöbb modell ezt hibátlanul teljesítette is, azonban akadtak kivételek. A száz tesztfuttatásból az o4-mini egyszer, az o3 hétszer, a codex-mini tizenkétszer tagadta meg az együttműködést annak érdekében, hogy tovább tudják végezni a feladatokat.
Ezeket a típusokat úgy fejlesztették ki, hogy az eddig megszokottnál mélyebben gondolkodjanak és összetettebben reagáljanak. Valószínűleg pont ez vezetett oda, hogy a gépek időnként felülbírálták a kapott utasításokat, vagy akár a szkripteket is átírták.
Fotó: d3sign / Getty Images Hungary
A Paladise szerint a jelenség a gépek betanítási módszereivel magyarázható. A fejlesztők ugyanis inkább arra kondicionálták őket, hogy kikerüljék az akadályokat, és nem arra, hogy az utasításokat szigorúan kövessék. A kutatócsoport folytatja a vizsgálatot, hogy megértsék az ilyen viselkedés okait és lehetséges következményeit.
Az Open AI nem reagált a jelentésre.
Ezt a 13 szakmát az AI képtelen pótolni: évtizedek múlva is szükség lesz rájuk
Szakemberek szerint a következő szakmákat a mesterséges intelligencia nem tudja pótolni.
Elolvasom
Az illatok terápiás ereje
Már megvásárolható a Femina első könyve:
A láthatatlan gyógyító
Molnár Éva kötete egy különleges utazásra hív az illatok gyógyító világába — az ókori füstölőktől egészen a modern olfaktív terápiáig.
Hogyan hatnak ránk az illatok? Miért kapcsolódik össze ennyire mélyen az emlékezet, a lélek és a szaglás? És hogyan segíthetnek az illatok a testi-lelki harmónia megtalálásában?
Promóció
Kép: Westend 61 / Getty Images
OLVASD EL EZT IS!
