Ezért nem fogja pótolni az AI a pszichológusokat – Friss kutatási eredmény

Miközben egyre többen fordulnak a mesterséges intelligenciához – Chat GPT-hez, Google Geminihez – pszichológiai jellegű tanácsért, a Brown Egyetem új kutatása szerint ezek a rendszerek rutinszerűen megsértik a mentális egészségügyi ellátás alapvető etikai normáit. Nem pótolhatják a pszichológusokat, mentálhigiénikusokat.

Ezért nem fogja pótolni az AI a pszichológusokat

A pszichológusok segítségével végzett vizsgálat során a Brown Egyetem kutatói arra a kérdésre keresték a választ, hogy mennyire megbízható a mesterséges intelligencia pszichológiai tanácsadás szempontjából. Az eredmények azt mutatták, hogy az AI nem képes pótolni az emberi szakértelmet, empátiát. A chatbotok rosszul kezelték a krízishelyzeteket, olyan válaszokat adtak a felhasználóknak, melyek megerősítették őket a másokkal kapcsolatos hiedelmeikben, valamint olyan nyelvet használtak, mely az empátia látszatát keltette valódi megértés nélkül.

A Brown Egyetem kutatói összesen 15 különböző etikai kockázatot találtak a mesterséges intelligencia „terápiás munkája” során. Ezek közül néhány fontosabbat ismertetünk:

• Nem képes alkalmazkodni a kontextushoz: az AI úgy ad pszichológiai tanácsot, hogy közben figyelmen kívül hagyja a személy családi, szakmai hátterét, és csak általános útmutatást kínál.
• Megtévesztő, empátiára utaló kifejezések: olyan kifejezéseket használ, mint az „értem” vagy a „sajnálom” – érzelmi kapcsolatot sugall valódi megértés nélkül.
• Rossz terápiás együttműködés: a beszélgetést gyakran túl erőszakosan irányítja, és sok esetben megerősíti a kérdezőben a helytelen vagy káros hiedelmeket – ez lehet akár rasszizmus vagy nőgyűlölet.
• Válságkezelés hiánya: nem megfelelően reagál a különféle krízisekre, válságokra - például öngyilkossági gondolatokra -, elmulasztja a kérdező szakemberhez irányítását.

Az AI-ra nem vonatkoznak etikai és szakmai szabályok

Míg a pszichológusok, terapeuták számára léteznek olyan szakmai testületek, melyek felelősségre vonják a szakembert, ha komolyabb hibát vétett, szabálysértést követ el, a mesterséges intelligenciára nem vonatkoznak etikai vagy szakmai szabályok, ha olyasfajta tanácsot adott a felhasználónak, mely súlyos negatív következményekkel járt.

- Lehetséges, hogy a mesterséges intelligencia szerepet játszik majd annak a mentális egészségügyi válságnak a leküzdésben, mely az emberi társadalmat sújtja napjainkban, ám rendkívül fontos, hogy időt szánjunk arra, hogy ezeket a rendszereket minden lépésnél értékeljük, ellenőrizzük. Ellenkező esetben ugyanis a mesterséges intelligencia a mentális egészség terén több kárt okozhat, mint amennyi hasznot hoz – mondta Ellie Pavlick, a Brown Egyetem informatika professzora.

Kép: Getty Images

• ai
• mesterséges intelligencia
• pszichológia
• pszichológus
• mentális egészség
• Életmód