AI behöver fler trafikregler – inte fler moralfilosofer

Two researchers from the universities of Oxford and Warwick argue in a Journal of Business Ethics article that AI regulation should focus on the societal systems where the technology is used, such as traffic or healthcare, rather than on moral thought experiments. They warn that rules based on individual dilemmas, like a self-driving car choosing between two cyclists, can create perverse incentives that undermine overall safety and fairness.

AI behöver fler trafikregler – inte fler moralfilosofer Hur ska en självkörande bil agera om den måste välja mellan två dåliga alternativ? Den typen av moraliska tankeexperiment har länge dominerat AI-etiken. Två forskare från universiteten i Oxford och Warwick menar att frågan har fått alltför stort inflytande över debatten om hur artificiell intelligens ska regleras. I en artikel i Journal of Business Ethics argumenterar de för att regleringen i stället bör utgå från det samhällssystem där tekniken används. En självkörande bil ingår i trafiksystemet, ett diagnosverktyg i sjukvården och en handelsalgoritm på finansmarknaden. Reglerna bör därför utformas för att systemen som helhet ska bli säkra, rättvisa och effektiva. När AI påverkar människors beteende Forskarna illustrerar problemet med en självkörande bil som måste välja mellan två cyklister, där den ena bär hjälm. Om bilen alltid ska minimera den omedelbara skadan blir den hjälmförsedda cyklisten den logiska personen att köra på. Konsekvensen av en sådan regel kan samtidigt bli att viljan att använda hjälm minskar. Därmed försämras trafiksäkerheten över tid. Reglering måste därför ta hänsyn till vilka incitament den skapar i hela systemet. Ett annat exempel gäller ruttplanering. AI-styrda fordonsflottor kan minska köerna genom att leda trafik genom lugna bostadsområden. Den lösningen flyttar samtidigt buller, risker och utsläpp till de boende. Regleringen bör därför väga effektivitet mot hur kostnader och nyttor fördelas i samhället, skriver forskarna. Resonemanget sträcker sig långt bortom trafiken. Samma princip bör, enligt forskarna, styra AI i sjukvården, rättsväsendet och finanssektorn. Frågan är inte främst hur en algoritm ska agera i ett enskilt dilemma, utan vilka institutioner och spelregler tekniken ska bidra till att bygga. Referenser Kugelberg, E., & Kugelberg, H. D. 2026 . Practicedependent governance of AI. Journal of Business Ethics . DOI: 10.1007/s10551-026-06377-7 Relaterat Hämta EFN:s app för iOS och Android /app - gratis: nyheter, analyser, börs, video, podd