Artificiell intelligens förändrar vår värld och finansiella tjänster är inget undantag. AI håller på att omforma den personliga banksektorn men var står den för närvarande när det gäller jämställdhet, transparens och rättvisa?

När någon ansöker om ett lån idag ökar chansen att ingen människa någonsin läser deras ansökan. En datadriven algoritm avgör om de kvalificerar sig, hur mycket de kan låna och hur riskabla de anses, ofta inom några sekunder och utan förklaring, och formar i tysthet ekonomiska möjligheter på ett sätt som de flesta aldrig ser utan känner i sin vardag.

Dessa system presenteras vanligtvis som neutrala verktyg:snabbare än människor, mer konsekventa, mindre benägna att fördomar.

I en sektor som länge kritiserats för opacitet och partiskhet är det löftet tilltalande och återkommer ofta i industri- och politiska debatter. Men det löftet vilar på ett bräckligt antagande, som sällan gjorts explicit, att de data som dessa system lär sig från återspeglar allas liv lika.

En färsk rapport från EU:s byrå för grundläggande rättigheter, baserad på fältarbete i fem medlemsländer, undersökte hur högrisk-AI-system styrs enligt EU:s AI-lag inom områden som sysselsättning, offentliga förmåner och brottsbekämpning. Den fann en slående klyfta mellan juridisk ambition och praxis:även om riskerna för diskriminering är allmänt erkända, saknar leverantörer och leverantörer ofta verktyg, expertis och vägledning för att systematiskt bedöma dem. Självbedömningar tenderar att vara inkonsekventa och tillsynen är fortfarande liten.

Detta är en viktig fråga. När data som matar dessa system misslyckas med att fånga verkligheten i kvinnors ekonomiska liv med samma djup och precision som mäns, är resultatet inte bara en teknisk brist utan en strukturell snedvridning, en som formar vem som får tillgång till kredit, på vilka villkor och med vilka långsiktiga konsekvenser. För att AI-driven finansiering ska vara rättvis måste kvinnor först vara "synliga" i den data som dessa system är beroende av.

Algoritmer bedömer inte rättvisa eller frågar om ett resultat är vettigt, utan uppskattar vad som är mest sannolikt att vara korrekt baserat på den data de ges, ritar mönster och projicerar dem framåt. När data är ofullständig eller förvrängd vilar systemets slutsatser på skakiga antaganden från början.

Om kvinnor är underrepresenterade, dåligt mätta eller aldrig analyserade separat från män kan systemet inte se ojämlika utfall, och det det inte kan se kan det inte korrigera. Bias förs helt enkelt vidare och görs till rutin.

Denna dynamik är lätt att missa när diskussionerna håller sig på nivå med modeller och reglering, men dess effekter blir tydliga så snart automatiserade system observeras i praktiken. I olika länder visar bevis hur snabbt ojämlikhet kan inbäddas i algoritmiska beslut, inte för att system är utformade för att diskriminera, utan för att de troget återger de snedvridningar som redan finns i data de lär sig av.

Kenya erbjuder en talande illustration. Enligt publicerade studier erbjöd en allmänt använd digital utlåningsalgoritm konsekvent kvinnor mindre lån än män, i vissa fall med mer än en tredjedel, trots starkare återbetalningsprestanda. Systemet pekade inte ut kvinnor medvetet:det lärde sig helt enkelt av data som formats av långvariga sociala och ekonomiska skillnader och tillämpade sedan dessa mönster i stor skala.

Det som spelar roll i det här exemplet är inte Kenya i sig, utan vad fallet synliggör. Algoritmen gjorde precis vad den var designad för att göra, att lära av tidigare beteende och tillämpa dessa mönster konsekvent, men utan förmågan att skilja mellan kvinnors och mäns resultat, fanns det inget sätt att upptäcka att ojämlikhet reproducerades i realtid. Problemet var inte automatisering, utan blindhet.

Hur kan finansiering övervinna den blinda fläcken för kön?

Det är där könsuppdelad data blir väsentlig. Genom att sortera finansiell data efter kön kan tillsynsmyndigheter, finansinstitutioner och teknikdesigners avslöja effekterna av automatiserade system, identifiera vem som har tillgång till finansiering och peka ut områden där resultaten börjar skilja sig åt. Utan den synligheten förblir könsskillnaderna dolda, och dolda klyftor har för vana att bli permanenta. Inom digital ekonomi är data "en tjejs bästa vän", inte som en slogan, utan som ett praktiskt villkor för ansvarsskyldighet.

De flesta finansinstitut registrerar redan en kunds kön som en del av den grundläggande identifieringen. På papper finns informationen där, inbäddad i rutinrapportering och grundläggande kundregister. I praktiken är det dock inte samma sak att registrera en variabel som att använda den. I många länder förekommer kundens kön i databaser men analyseras, rapporteras eller övervakas aldrig av tillsynsmyndigheter, inklusive i centrala tillsynsramverk som tillsynsrapportering. Alltför ofta finns uppgifterna redan, men de samlas in, arkiveras och ignoreras sedan tyst. Problemet ligger inte i vad som kan göras, utan i vad som görs.

Rättvisare finansiering:utvecklingsländerna leder vägen

Bilden ser väldigt annorlunda ut i länder som ofta antas ha mindre resurser. I delar av Latinamerika och Afrika har tillsynsmyndigheter krävt könsuppdelad rapportering i åratal och publicerar regelbundet uppgifter om könsskillnader i ekonomi.

I Chile har finansmyndigheter spårat könsskillnader i lån och inlåning i mer än två decennier och publicerat regelbunden könsuppdelad finansiell statistik.

I Mexiko kombinerar tillsynsmyndigheter bankdata med nationella hushållsundersökningar för att förstå hur kvinnor och män använder finansiella tjänster och hur de presterar som låntagare.

Den synligheten har fått praktiska konsekvenser. I Mexiko visade tillsynsdata att kvinnors lån var mindre men mindre riskfyllda, bevis som ledde till förändringar i reglerna för kreditförluster.

I Chile visade uppgifterna att lika tillgång till konton inte ledde till lika resultat för sparande eller försäkring, vilket ledde till mer riktade policysvar. När dessa luckor väl blev synliga blev de mycket svårare att ignorera.

Sett ur detta perspektiv ser situationen i många höginkomstekonomier mindre ut som en teknisk eftersläpning och mer som en institutionell tvekan. I stora delar av Europa förblir könsdata frivilliga eller fragmenterade trots avancerad datainfrastruktur, ett misslyckande inte vad gäller teknisk kapacitet utan institutionellt val. Mitt kommande policydokument "Data Are a Girl's Best Friends:Tackling Digital Financial Inequality Through Sex-Disaggregated Data", som kommer att publiceras i maj, utforskar detta.

När artificiell intelligens blir djupare inbäddad i finansiellt beslutsfattande, blir det valet svårare att försvara. I en tid när Europa implementerar EU:s AI-lag och diskuterar hur man reglerar algoritmiskt beslutsfattande inom finans, väcker frånvaron av systematiska könsdata en grundläggande fråga:hur kan rättvisa övervakas om den data som behövs för att upptäcka ojämlikhet aldrig analyseras?

Att synliggöra kvinnor i datan är inte symboliskt. Utan det är rättvis finansiering inte mycket mer än ett krav.

Ett veckovis e-postmeddelande på engelska med expertis från forskare och forskare. Den ger en introduktion till mångfalden av forskning som kommer från kontinenten och tar upp några av de nyckelfrågor som europeiska länder står inför. Få nyhetsbrevet!