Kockázat nélkül nincs nyereség – de nem az AI Act szerint

Az Európai Unió mesterséges intelligencia szabályozása egyre több vállalkozás működését érinti, mégis sok félreértés övezi az AI Act által alkalmazott kockázatértékelési rendszert. Ebben a cikkben elmagyarázzuk, hogy mikor számít egy AI-rendszer valóban magas kockázatúnak.

Az AI Act úgynevezett kockázatalapú megközelítést alkalmaz. Ez azt jelenti, hogy a különböző kockázati szintbe sorolt AI-rendszerekre eltérő szabályok vonatkoznak. Vannak minimális és korlátozott kockázatú rendszerek, tiltott gyakorlatok, illetve a legszigorúbban szabályozott kategória: a magas kockázatú AI-rendszerek.

De mitől lesz egy AI „magas kockázatú”?

Nem attól, hogy mennyire modern vagy bonyolult a technológia, hanem attól, hogy milyen döntésekben vesz részt, és ezek milyen hatással lehetnek az emberek életére, jogaira vagy lehetőségeire.

Az AI Act nevesít olyan területeket, ahol az AI használata automatikusan magas kockázatúnak minősül. Ide tartozik például:

• az önéletrajzok automatikus szűrése, 
• az álláskeresők rangsorolása állásinterjú előtt, 
• a munkavállalók teljesítményének értékelése, 
• oktatási értékelő algoritmusok. 

Nem az tehát a döntő kérdés, hogy egy cég milyen típusú AI-t használ, hanem az, hogy az adott rendszer milyen döntéseket támogat vagy automatizál. Ha a mesterséges intelligenciát emberek rangsorolásához, pénzügyi lehetőségek befolyásolásához, munkaerőpiaci kiválasztáshoz, vagy egészségügyi, oktatási kérdésekben használják, akkor könnyen lehet, hogy a rendszer a magas kockázatú kategóriába tartozik.

És itt jön a lényeg: ha egy rendszer magas kockázatúnak minősül, akkor a vállalkozásnak komoly megfelelési kötelezettségei keletkeznek.

Az egyik legfontosabb elv az emberi felügyelet biztosítása. Az AI Act szerint a magas kockázatú AI-rendszereket nem lehet teljesen „magukra hagyni”. Kell egy olyan kompetens személy, aki érti a rendszer működését, képes ellenőrizni azt, és szükség esetén be tud avatkozni vagy felül tudja bírálni az AI döntését.

Emellett a cégeknek biztosítaniuk kell azt is, hogy a rendszert a szolgáltató előírásainak megfelelően használják. Ez a gyakorlatban belső szabályzatokat, jogosultságkezelést, ellenőrzési folyamatokat és dokumentált működési rendet jelent.

A dokumentáció és a naplózás szintén kulcsfontosságú. A vállalkozásnak képesnek kell lennie igazolni, hogy hogyan működött az AI-rendszer, milyen adatok alapján hozott döntést és ki felügyelte a működését. 

A rendelet a monitoringra és az incidenskezelésre is nagy hangsúlyt helyez. A magas kockázatú AI-t használó szervezeteknek folyamatosan figyelniük kell a rendszerük működését, dokumentálniuk kell a hibákat vagy rendellenességeket, és súlyos esetben akár jelentési kötelezettségük is lehet a hatóságok felé.

Különösen fontos az adatminőség kérdése is. Ha a vállalkozás kontrollálja a rendszerbe bekerülő adatokat, akkor felelőssége lehet abban is, hogy azok pontosak, relevánsak és torzításmentesek legyenek. Egy hibás vagy diszkriminatív adatbázis ugyanis közvetlenül befolyásolhatja az AI döntéseit — és ezzel együtt komoly jogi vagy reputációs kockázatot is okozhat.

Az AI Act egy másik fontos üzenete, hogy az AI használatához megfelelő tudás is kell. A rendelet hangsúlyozza az AI-ismeretek fontosságát. Magyarul: azoknak a munkavállalóknak, akik AI-rendszereket használnak, érteniük kell azok működését, korlátait és kockázatait. Ez sok cégnél belső képzések és oktatások bevezetését teszi szükségessé.

A legfontosabb tanulság pedig talán az, hogy az AI Act nem csak a technológiai cégek problémája. Akkor is érintett lehetsz, ha egy külső szolgáltató AI-eszközét használod. Egy HR-platform vagy automatizált ügyfélértékelő megoldás használata már önmagában elegendő lehet ahhoz, hogy a vállalkozásod a rendelet szerint nagy kockázatúnak minősüljön — ezzel együtt pedig megfelelési kötelezettségei is keletkezzenek.

Az AI Act tehát nem egyszerűen egy technológiai szabályozás, hanem egy új megfelelési keretrendszer, amely sok vállalkozás működését érintheti.

Érdemes már most átgondolni:

• milyen AI-rendszereket használtok, 
• ezek milyen döntésekre vannak hatással, 
• és szükség van-e belső AI governance, dokumentációs vagy kontrollfolyamatok kialakítására. 

Mert a bírságok hamarosan érkeznek. Az időben megkezdett felkészülést a céged is értékelni fogja.

Ne hagyd, hogy az AI miatt te legyél a fekete bárány az auditon. Vedd fel velünk a kapcsolatot és mi rendet vágunk az AI körül!