Under 2019 var världen orolig över att algoritmer nu känner oss bättre än vi känner oss själva. Inget koncept fångar detta bättre än övervakningskapitalism, en term som myntats av den amerikanska författaren Shoshana Zuboff för att beskriva en dyster ny era där sådana som Facebook och Google tillhandahåller populära tjänster medan deras algoritmer försvårar våra digitala spår.

Överraskande nog sträcker sig Zuboffs oro inte till algoritmerna på finansmarknaderna som har ersatt många av människorna på handelsgolven. Automatiserad algoritmisk handel tog fart runt början av 2000-talet, först i USA men snart även i Europa.

En viktig drivkraft var högfrekvent handel, som går i bländande hastigheter, ner till miljarddelar av en sekund. Det erbjöd investerare möjligheten till ett försprång gentemot sina konkurrenter, samtidigt som det bidrog till att ge likviditet till en marknad genom att säkerställa att det alltid fanns någon som var villig att köpa och sälja till ett visst pris. Högfrekvent handel ligger nu bakom mer än hälften av volymerna på både aktie- och terminsmarknaderna. På andra marknader, såsom valuta, har algoritmer en mindre men ändå betydande närvaro, utan tecken på att de kommer att avta i framtiden.

Enheters laster

Människor programmerar fortfarande algoritmerna och utformar sina handelsstrategier, även om uppkomsten av djupinlärning hotar även denna roll. Men i samma ögonblick som algoritmerna går live på marknader, agerar de på egen hand utan mänsklig inblandning och dansar med varandra på svindlande och ofta oväntade sätt.

Vid första anblicken har de lite gemensamt med oss. De kan inte tänka eller känna, och trots hypen kring maskininlärning är det fortfarande omtvistat och komplicerat att beskriva dem som intelligenta. Liksom människohandlare fattar de dock beslut, observerar andra fatta beslut och anpassar sitt beteende som svar.

I hastigheter som är många gånger snabbare än vad människor förmodligen någonsin kommer att uppbringa, skapar dessa algoritmer lätt förväntningar på varandras förväntningar när de lägger sina köp- och säljorder.

Till exempel kan en algoritm försöka manipulera en annans förväntningar om prisrörelser genom att skicka ett stort antal order för att antingen köpa eller sälja en viss tillgång. Den första algoritmen kommer sedan snabbt att avbryta sina beställningar, efter att förhoppningsvis ha lurat sin rival att göra fel satsning om vilken väg marknaden är på väg.

Intressant nog anser sociologer att denna typ av ömsesidig förväntan är ett centralt inslag i vad det innebär för människor att vara sociala. De har länge sett marknader som mycket sociala arenor. Under handelsgolvens storhetstid, att läsa andra handlares sociala ledtrådar korrekt – en grimas eller flin, oroliga toner, till och med ståhej på handelsgolvet – stavade ofta skillnaden mellan rikedom och katastrof.

Men om maskiner kan vara sociala, hur likt eller annorlunda är det hur människor umgås egentligen? Det finns uppenbara skillnader såklart. Medan de mänskliga handlarna från det förflutna ofta kände varandra väl och ofta umgicks tillsammans efter jobbet, handlar algoritmer anonymt. När de skickar order om att köpa eller sälja tillgångar vet inga andra handlare om det kommer från en man eller en maskin.

Det är faktiskt just därför de är programmerade att skapa förväntningar på varandra. Ansiktssignaler är inte längre tillgängliga, men hela strategier har utvecklats som försöker ta reda på om ett antal beställningar kan ha gjorts av en och samma algoritm – och sedan försöka förutsäga vad nästa drag kan bli.

För att undvika sådana försök är algoritmer ofta utformade så att de inte känns igen som algoritmer av andra algoritmer. Som den skotske sociologen Donald MacKenzie har uttryckt det, kan de engagera sig i dissimuleringsstrategier och/eller försöka ge en särskild presentation av sitt "jag" offentligt. Dessa är återigen attribut som sociologer länge har ansett nyckelaspekter av storstadslivet.

Lavin!

Tillsammans med kollegor har jag tillbringat de senaste åren i stora finansiella knutpunkter och intervjuat handlare, programmerare, tillsynsmyndigheter, börstjänstemän och andra finansexperter om dessa handelsalgoritmer. Detta har dragit fram några andra intressanta likheter mellan mänskliga och automatiserade handlare.

Programmerare erkänner villigt att när deras algoritmer börjar interagera med andra, rycks de med och agerar oförutsägbart, som om de var i en mobb. Sociologer sedan slutet av 1800-talet har studerat hur människor blir hänförda av folkmassor och låter sin autonomi glida i "sociala laviner", men vi har hittills i stort sett ignorerat det faktum att finansiella maskiner gör något liknande.

"Flash-kraschen" den 6 maj 2010 illustrerar bäst vad jag menar här. På fyra och en halv minut satte den frenetiska interaktionen av helautomatiska handelsalgoritmer de amerikanska marknaderna i en djupdykning, vilket genererade cirka 1 biljon USD (768 miljarder pund) i förluster tills handeln snabbt avbröts.

De flesta av dessa inblandade affärer avbröts senare som "uppenbart felaktiga". Förvisso hade ingen handlare eller programmerare planerat att skapa denna massiva prisförändring, men årtionden av sociologisk forskning säger oss att den här typen av beteende förväntas i stora grupper. Vi måste förstå hur våra finansiella algoritmer samverkar innan våra egna verktyg blir vår undergång.

Naturligtvis är inte alla former av social interaktion beundransvärda eller fördelaktiga. Liksom människor interagerar algoritmer med varandra på sätt som sträcker sig från omtänksam och fridfull till kall och våldsam:från att tillhandahålla likviditet och upprätthålla marknadsstabilitet till att göra manipulativa order och utlösa vild handelsaktivitet.

Att ta tag i dessa interaktioner är inte bara nyckeln till att förstå modern handel och försöka förhindra framtida flashkrascher. Algoritmer pratar med varandra inom allt fler områden idag. Att förstå hur de beter sig som folksamlingar kommer förhoppningsvis att kasta ljus i områden där de precis börjar komma till sin rätt – tänk till exempel självkörande trafiksystem eller automatiserad krigföring. Det kan till och med uppmärksamma oss på laviner som ligger och väntar också.