Ponera att du använder en AI‑agent som första linjen i din kundsupport. När en kund kontaktar er möts de av en LLM‑baserad chatbot som svarar på vanliga frågor. En fullt rimlig lösning som sparar tid för både organisationen och kunden, som slipper vänta på en ledig handläggare.

Men vad händer när chatboten gör fel? När den ger felaktig information som får konsekvenser för både kund och företag. Vem bär då ansvaret? Kunden? Utvecklaren? Eller är det företaget som AI‑agenten representerar?

Detta dilemma blev högst verkligt för Air Canada 2022. Deras chatbot informerade en kund om att han kunde få pengar tillbaka på en resa i efterhand eftersom han hade rätt till en rabatt. Problemet? Chatboten hallucinerade. Rabatten gällde bara om den begärdes innan resan.

Air Canada erbjöd en värdecheck, men kunden vägrade och stämde bolaget. Domstolen gav honom rätt: företaget ansvarade för chatbotens misstag. Flygbolaget fick betala hela beloppet plus rättegångskostnader.

Fallet illustrerar hur komplex ansvarsfrågan blir när vi låter AI agera i vårt namn. Det är lätt att tycka att Air Canada borde ha tagit ansvar direkt och bara betalat ut rabatten. Men om vi drar ut linjerna blir frågan betydligt svårare:

• Vem ansvarar om en AI‑agent raderar all kunddata (något som faktiskt hänt i ett uppmärksammat fall med utvecklingsverktyget Replit)?  
• Vem ansvarar om en självkörande bil orsakar en olycka?
• Vem ansvarar om ett autonomt vapensystem begår ett krigsbrott?

Detta är frågor som forskare inom etik och juridik brottas med världen över.

Till skillnad från klassisk kod är AI‑modeller icke‑deterministiska. Vi kan inte följa en kodsträng och se exakt varför modellen gav ett visst svar, vilket också gör dem svåra att testa. Därför kan vi inte heller betrakta AI‑fel som:

• ett tillverkningsfel
• en bug
• en barnsjukdom

Även om modellerna blir bättre kommer de alltid att kunna göra misstag — precis som människor. Samtidigt är AI‑modeller tränade att blidka användaren, utan att ha verklig etik, moral eller kontext. De kan låta säkra även när de har fel. Det gör ansvarsfrågan unik. 

För att kunna dra nytta av AI:s enorma fördelar måste vi väga:

• Vinsten i effektivitet och kostnadsbesparingar
  mot
• Risken för skada om AI:n gör fel

I ena änden av spektrumet: en felaktig rabatt. I den andra: något som kan hota hela verksamheten.

Därför bör det alltid finnas någon som är ansvarig – vare sig det är en människa eller ett företag.

Mina rekommendationer i korthet:

• Klargör ansvarsförhållandena — en människa ska kunna stoppa, korrigera eller godkänna beslut.
• Inför flera nivåer av granskning i känsliga fall — viktiga beslut bör ha flera par ögon på sig.
• Låt risken styra — är det en testmiljö eller skarp drift mot kunder? Anpassa kontrollnivån därefter.
• Säkra att du har kontroll över dina AI-agenter. Du behöver säkra att agenterna inte har rättigheter, i praktiken inte har möjlighet, att göra sådant som du inte vill. Det går, som erfarenheten visat, inte att lita på att de avstår bara för att du instruerat dem att låta bli.