Human in the loop – vad fan är det för något?

Tänk att du ber en AI att boka en resa åt dig. Den letar flyg, jämför hotell och föreslår vad du borde boka. Men innan den faktiskt köper biljetterna får du frågan om du vill godkänna köpet.

Där är du. Människan i loopen.

Human in the loop, ofta förkortat HITL, betyder egentligen något väldigt enkelt. En människa finns kvar någonstans i processen och kan kontrollera, korrigera, godkänna eller stoppa det AI gör.

Det låter kanske självklart. Men det håller på att bli en betydligt viktigare fråga.

De AI-tjänster som de flesta av oss först lärde känna hade människan väldigt tydligt i loopen. Du frågar ChatGPT om något. AI svarar. Sedan bestämmer du själv vad du gör med svaret. Om AI skriver ett korkat mejl händer ingenting förrän du själv väljer att skicka det.

Men AI håller på att gå från att bara svara till att också kunna göra.

Det är här AI-agenter kommer in. En AI-agent kan få verktyg och tillgång till andra system. Den kan till exempel läsa mejl, öppna dokument, söka efter information, arbeta med filer eller genomföra flera steg för att lösa en uppgift.

Och då blir frågan om människan i loopen plötsligt mycket mer intressant.

Tänk dig Kalle som använder AI för sin mejl. AI kan läsa ett inkommande mejl och föreslå ett svar. Kalle läser det och trycker själv på skicka. Väldigt tydlig mänsklig kontroll.

Nästa steg skulle kunna vara att AI läser mejlet, skriver svaret och frågar Kalle om den får skicka det. AI gör mer, men Kalle har fortfarande sista ordet.

Sedan kan vi gå ytterligare ett steg. AI läser mejlet, bestämmer själv vad som behöver göras, skriver svaret och skickar det. Kalle kanske får veta efteråt vad som hände.

Samma typ av AI. Helt olika nivåer av mänsklig kontroll.

Det är egentligen kärnan i human in the loop. Det handlar inte om att människan måste göra allting själv. Då försvinner mycket av poängen med AI och automatisering. Det handlar om var människan behöver finnas och vad AI får göra utan att fråga.

En AI kanske kan sortera 5 000 dokument åt dig. Perfekt. Det sparar massor av tid. Men om nästa steg är att radera 800 av dem kanske det vore ganska trevligt om någon frågade dig först.

Och ju större konsekvenser en handling kan få, desto viktigare blir frågan. Det är en sak om AI väljer fel låt i din spellista. Det är något helt annat om den skickar pengar, ändrar information, bedömer en människa eller arbetar inne i ett företags system.

Men det finns ytterligare ett problem. Bara för att en människa finns med betyder det inte automatiskt att människan faktiskt har kontroll.

Tänk dig att en AI gör 10 000 bedömningar och sedan visar en knapp där någon ska klicka på ”Godkänn”. Ingen människa kommer rimligen att kontrollera 10 000 bedömningar innan knappen trycks in. Människan finns tekniskt sett i loopen, men kanske mest som en gummistämpel.

Det är därför det viktiga egentligen inte är om en människa finns i processen.

Det viktiga är om människan förstår vad som händer, får möjlighet att reagera och faktiskt kan stoppa AI när något går fel.

Det blir särskilt intressant när AI-system blir mer självständiga. På HITL försöker vi förstå den utvecklingen genom fyra enkla saker. Vad kan AI göra? Vad kommer den åt? Hur mycket får den göra själv? Och hur snabbt och i vilken skala kan den göra det?

Det är det vi kallar kapacitet, åtkomst, autonomi och skalbarhet.

En AI som kan göra ganska lite, inte kommer åt några viktiga system och måste fråga dig innan den gör något är en sak. En AI som är mycket kapabel, kommer åt viktiga system, kan arbeta självständigt och kan utföra tusentals handlingar är något helt annat.

Och ja.

Det är därför den här sidan heter Human in the Loop.

AI kan ge oss enorma möjligheter. Den kan lösa problem, automatisera tråkigt arbete och hjälpa oss att göra saker som tidigare varit omöjliga. Samtidigt blir systemen snabbare, mer kapabla och mer självständiga.

Mitt i allt detta finns en väldigt enkel fråga som jag tycker att vi borde fortsätta ställa.

Finns människan fortfarande kvar i loopen?

Och om något går åt helvete, kan hon fortfarande dra i handbromsen?