A mesterséges intelligenciát sokan a tökéletes racionalitással azonosítják. Nem fárad el, nem felejt, nem téved, csak számol, elemez, dönt. A valóság árnyaltabb. Az algoritmus tőlünk tanul. Amikor mi hibázunk, ő követ minket.

Ha a betáplált adat elfogult, akkor az MI is az lesz.
Egy toborzórobot a múltbeli minták miatt a férfi jelölteket részesítette előnyben. Nem „gonosz” lett, csak lemásolta a korábbi gyakorlatot.

Sok szervezet az MI-t kockázatcsökkentésre vezeti be. Azonban, ha nincs kontroll, az ellenkezője történik.
Kötelező feladatok:

Rendszeres audit (adatminőség, torzítás, teljesítmény).

Emberi felülvizsgálat a kritikus döntéseknél.

Stresszteszt, monitorozás.

Naplózás, visszakövethető döntési út.

A modern kockázatkezelés nem az MI helyett, hanem vele együtt gondolkodik. A cél nem a kontroll teljes átadása, hanem annak kijelölése, mit bízunk a gépre, és mit nem.
Nem baj, ha a robot is megbotlik – de nekünk ott kell állnunk, hogy elkaphassuk!