Nagy kockázatokkal járna, ha a Microsoft AI-eszköze elérhetővé válna nyilvánosan: veszélyes dologra képes

A Microsoft legújabb mesterséges intelligencián alapuló eszköze, a VALL-E 2 képes arra, hogy hihetetlen pontossággal utánozzon emberi beszédet. Azonban a techóriás úgy döntött, hogy nem osztja meg ezt az eszközt a nyilvánossággal, mivel jelentős kockázatokat hordoz magában.

Beszédet utánzó AI

A VALL-E 2 egy szöveg-beszéd generátor, amely néhány másodpercnyi hang alapján képes utánozni egy adott hangot. Az eszköz az úgynevezett "zero-shot learning" módszert alkalmazza. Ez a technológia az első a maga nemében, amely elérte az úgynevezett "emberi paritást", vagyis a teljesítménye megfelel vagy meghaladja az emberi beszéd természetességét és pontosságát.

A Microsoft kutatói szerint a VALL-E 2 képes "pontos, természetes beszédet előállítani az eredeti beszélő hangjának megfelelően". Ennek ellenére a vállalat úgy döntött, hogy az eszközt nem hozza nyilvánosságra, mivel az jelentős kockázatokat rejt magában. Ezek közé tartozik a hangazonosítás hamisítása és a célzott személyazonosság-lopás.

- Jelenleg nincs tervünk arra, hogy a VALL-E 2-t termékké alakítsuk, vagy a nyilvánosság számára elérhetővé tegyük - írta a vállalat a weboldalán. - Ez a modell potenciális visszaélésekhez vezethet, mint például a hanghamisítás vagy egy konkrét beszélő megszemélyesítése.

Az úgynevezett "vishing" (voice phishing) egy olyan támadási forma, ahol csalók barátoknak, családtagoknak vagy más megbízható személyeknek adják ki magukat a telefonon. Emellett a hanghamisítás nemzetbiztonsági kockázatot is jelenthet - áll a TheSun oldalán.

Januárban egy robothívás Joe Biden elnök hangját utánozva arra buzdította a demokratákat, hogy ne szavazzanak New Hampshire előválasztásán, ami végül vádemeléshez vezetett.

(Képek forrása: Getty Images Hungary.)

• ai
• mesterséges intelligencia
• beszéd
• veszélyes
• hang
• hamis
• Terasz