Det lockande med automatisering är uppenbart. Saker händer medan du gör något annat.
Det skrämmande är också uppenbart. Saker händer medan du gör något annat.
Ingen vill upptäcka att en AI-agent har publicerat en märklig åsikt, lovat en kund något omöjligt eller skickat en käck påminnelse mitt i ett känsligt samtal.
Smart automatisering börjar med gränser, inte övermod.
Det som kan sköta sig självt
Vissa handlingar är förutsägbara, möjliga att rätta till och lätta att kontrollera.
Att skicka en bokningsbekräftelse. Leverera en betald nedladdning. Lägga ett möte i kalendern. Kopiera godkänd information till rätt kundkort. Kontrollera att ett formulär fungerar. Förbereda en daglig lista över möjligheter från överenskomna källor.
Uppgifterna har tydliga underlag och en tydlig definition av vad ett lyckat resultat är. Om något går fel kan systemet säga till och en människa rätta det.
Här känns självständigheten bra. Du lämnar ifrån dig upprepningen, inte omdömet.
Användbart, men först efter ditt godkännande
Annat arbete kan få hjälp av automatisering men bär din offentliga röst eller ditt yrkesmässiga rykte.
En agent kan göra research och skriva ett artikelutkast. Den ska inte publicera artikeln innan du har läst den.
Den kan förbereda annonser utifrån ett godkänt erbjudande. Du ska se löftet, målgruppen, budgeten och den färdiga utformningen innan pengar börjar användas.
Den kan skriva en offert utifrån dina anteckningar. Du ska kontrollera omfattning, pris och sådant som låter som ett åtagande. Pausen för godkännande är en del av att systemet gör sitt jobb.
En del ska fortsätta vara mänskligt
Klagomål. Känsliga uppgifter från kunder. Beslut med stora konsekvenser. Ovanliga önskemål. Stunder där tonen beror på vad som hänt tidigare. Allt som rör omsorg, förtroende eller löften som verksamheten kanske inte kan hålla.
En agent kan samla relevant information eller snabbt uppmärksamma dig. Den ska inte låtsas ha en klokhet den saknar.
Kunderna behöver ingen automatiserad version av din empati. De behöver den riktiga personen när situationen kräver det.
Varje automatisering behöver en väg tillbaka
Ställ fyra frågor innan något börjar köras:
Exakt vad får den göra? Var ser jag vad den har gjort? Hur får jag veta om den misslyckas? Hur stoppar eller ångrar jag den?
Du ska kunna läsa en logg på vanligt språk. Viktiga fel ska nå dig. Det manuella sättet att göra uppgiften ska inte försvinna helt. Och inget system ska kräva en teknisk räddningsaktion bara för att pausas.
NIST:s ramverk för AI-riskhantering omfattar mycket mer än små företags hemsidor, men principen är användbar här: pålitlig AI kräver att risker förstås och hanteras genom hela systemet. På vanligt verksamhetsspråk bestämmer vi vad ett bra beteende är, vad som kan gå fel och vem som behåller ansvaret.
Ge systemet mindre åtkomst än det ber om
Koppla bara in det som uppgiften behöver.
En agent som letar efter möjligheter behöver inte kundregister. En innehållsassistent behöver inte få ändra betalningsinställningar. Ett automatiserat formulär behöver inte hela din mejlhistorik.
Små, genomtänkta behörigheter begränsar skadan vid misstag och gör systemet lättare att förstå.
Den användbara mitten
Du behöver varken göra allt själv eller låta program sköta företaget medan du håller tummarna. Ett bra system är stillsamt kapabelt, lätt att granska och lite försiktigt kring det som betyder mest.
Det hanterar det som är tryggt. Det pausar när din röst eller dina pengar berörs. Det kliver åt sidan när en människa behöver en människa.
Det är inte mindre avancerat. Det är mycket mognare.