Artificiell intelligens (AI) har revolutionerat många områden de senaste åren, inklusive banksektorn. Det har funnits både positiva och negativa aspekter av dess genomförande, särskilt frågan om algoritmisk diskriminering vid utlåning.

I Kanada och mer allmänt runt om i världen har implementeringen av AI inom stora banker lett till ökad produktivitet samtidigt som det erbjuder en större personalisering av tjänsterna.

Enligt IEEE Global Survey förväntas införandet av AI-baserade lösningar fördubblas globalt till 2025, och nå 80 procent av finansinstituten.

Vissa banker är mer avancerade, som BMO Financial Group, som har skapat specifika positioner för att övervaka integrationen av AI i sina digitala tjänster för att förbli konkurrenskraftiga. Som ett resultat, tack vare AI, kan den globala banksektorns vinster överstiga 2 biljoner USD till 2028, vilket motsvarar en tillväxt på nästan nio procent mellan 2024 och 2028.

Som professor vid Laval University för kunskaps- och innovationsledning och vetenskapskommunikatör fick jag hjälp att skriva denna analys av Kandet Oumar Bah, författare till ett forskningsprojekt om algoritmisk diskriminering, och Aziza Halilem, expert på styrning och cyberrisk vid den franska tillsyns- och upplösningsmyndigheten.

Hur förbättrar AI bankens prestanda?

Integrationen av AI i banksektorn har redan optimerat de finansiella processerna avsevärt, med en operativ effektivitetsvinst på 25 till 40 procent. I kombination med den växande kapaciteten hos big data – till exempel den massiva insamlingen av data – erbjuder AI kraftfulla analyser som redan kan minska felmarginalerna i finansiella system med 18 till 30 procent.

Det gör det också möjligt att övervaka miljontals transaktioner i realtid, upptäcka misstänkt beteende och till och med förebyggande blockera vissa bedrägliga transaktioner. Detta är en av användningarna som implementerats av J.P. Morgan.

Dessutom hjälper plattformar som FICO, som är specialiserade på AI-baserad beslutsanalys, finansinstitut att utnyttja en mängd olika kunddata och förfina sina kreditbeslut genom avancerade prediktiva modeller.

Flera banker runt om i världen förlitar sig nu på automatiserade ratingalgoritmer som kan analysera många parametrar, inklusive inkomst, kredithistorik och skuldkvoter, på några sekunder. På kreditmarknaden förbättrar dessa verktyg avsevärt behandlingen av ansökningar, särskilt för "standard"-ärenden, såsom de med uttryckliga lånegarantier.

Men hur är det med de andra fallen?

Formaliserar orättvisor?

Som de amerikanska forskarna Tambari Nuka och Amos Ogunola påpekar, utgör illusionen att algoritmer ger rättvisa och objektiva förutsägelser en stor risk för banksektorn.

Genom att granska den vetenskapliga litteraturen varnar de för frestelsen att blint delegera bedömningen av komplext mänskligt beteende till automatiserade system. Flera centralbanker, inklusive Kanadas, har också uttryckt starka reservationer mot detta och varnat för de operativa riskerna som är förknippade med alltför beroende av AI, särskilt vid bedömning av kreditvärdighet och solvens.

Även om algoritmer är tekniskt neutrala, kan de förstärka befintliga ojämlikheter när träningsdata är befläckade av historiska fördomar, särskilt de som ärvts från systemisk diskriminering mot vissa grupper. Dessa fördomar beror inte bara på explicita variabler som kön eller etniskt ursprung, utan också från indirekta samband med faktorer som bostadsort eller typ av anställning.

Till exempel kan ratingsystem tilldela lägre kreditgränser för kvinnor, även i situationer där de är ekonomiskt likvärdiga med män. Att analysera variabler som postnummer och anställningshistorik kan också leda till uteslutning av medlemmar av marginaliserade grupper, såsom rasifierade individer, arbetare med oregelbundna inkomster och nyligen invandrade.

Virginia Eubanks, professor i USA och expert på social rättvisa, illustrerar detta fenomen väl, och visar hur människor som bor i historiskt missgynnade stadsdelar eller med atypiska karriärvägar straffas av automatiserade ekonomiska beslut baserade på partisk data.

Detta väcker en avgörande fråga:hur kan vi säkerställa att automatiseringen av finansiella beslut hjälper till att minska skillnaderna i tillgång till banktjänster?

Förhindra fel genom inkluderande ekonomi

Flera vägar undersöks i den vetenskapliga litteraturen som svar på dessa risker för diskriminering. Nuka och Ogunola, till exempel, föreslår en strategi för ekonomisk integration. Detta innebär att kontinuerligt förbättra statistiska modeller genom att identifiera och korrigera fördomar i träningsdata för att minska skillnader i behandling mellan sociala grupper.

Utöver tekniska lösningar har regelverk nyligen införts för att säkerställa transparens och rättvisa algoritmer i känsliga sektorer som finans. Kanadas Artificial Intelligence and Data Act och Europas EU Artificial Intelligence Act är exempel på detta. Det senare, som antogs 2024 och implementerades gradvis, ställer stränga krav på högrisk-AI-system, som de som används för att bevilja krediter.

I artikel 13 fastställs insynskrav för att säkerställa att systemen kan granskas och att deras beslut kan förstås av alla intressenter. Syftet är att förhindra algoritmisk diskriminering och säkerställa etisk och rättvis användning. Finansiella tillsynsmyndigheter har också en avgörande roll att spela för att säkerställa efterlevnad av rättvisa konkurrensregler och garantera försiktiga och öppna metoder i intresset för finansiell stabilitet och kundskydd.

Påtryckningar från vissa teknologiska och finansiella lobbygrupper för att bromsa antagandet av strikta standarder utgör dock en betydande risk:bristen på reglering i vissa länder och svårigheter att efterleva i andra kan uppmuntra opacitet, till nackdel för de mest utsatta medborgarna.