Banking risk, FRTB, actuarial science and compliance
Riskstyrning i den artificiella intelligensens tidsålder
Artificiell intelligens förändrar beslutens hastighet och omfattning, men tar inte bort ansvaret. Effektiv styrning börjar med vilket beslut som stöds, vilka bevis som krävs och konsekvensen av ett fel.
Börja med beslutet
En modell som sammanfattar ett internt dokument skapar inte samma risk som ett system för prissättning, kundgodkännande, sanktionskontroll eller kapitalallokering. Användningsfall bör därför klassificeras efter kundpåverkan, finansiell väsentlighet, automatiseringsgrad, datakänslighet och möjlighet att återställa beslutet.
Bygg en spårbar beviskedja
Varje väsentligt system behöver en spårbar kedja från data och antaganden till resultat, granskning och slutligt beslut. Valideringen bör bedöma noggrannhet, stabilitet, begränsningar, snedvridning, säkerhet och prestanda i realistiska stressfall. Mänsklig kontroll är meningsfull endast när granskaren har kompetens, tid, underlag och befogenhet att avvisa resultatet.
Följ upp resultaten
Godkännandet är inte slutet på styrningen. Organisationer bör följa prestanda, åsidosättanden, incidenter, dataförskjutning och kundutfall. Väsentliga ändringar i modell, leverantör, data eller process ska utlösa en ny bedömning. En säker reservprocess behövs när prestandan blir oacceptabel.