
Hur artificiell intelligens förändrar rapporterna som amerikansk polis skriver | Artificiell intelligens (AI)
OFicern Wendy Venegas talade lågt på spanska till 14-åringen som stod vid sidan av en smal bostadsväg i östra Palo Alto. Flickans ansikte var svullet av gråt när hon tyst förklarade vad som hade hänt.
Flickan sa att hennes pappa hade fångat henne och hennes pojkvän när de ”gör saker” den morgonen, och att hennes pappa antingen hade slagit eller knuffat pojken, förklarade Venegas senare. Nu hade polisen kommit för att förhöra dem alla tre. Hittills var allt detta standardförfarande.
Men när det var dags att förvandla denna incident till en rapport, skulle Venegas få hjälp av en ny assistent: ett banbrytande verktyg för artificiell intelligens som heter Draft One.
East Palo Alto, en liten arbetarklassstad som kan känna sig en värld borta från sina grannar i Silicon Valley, är bland en handfull avdelningar i Kalifornien, inklusive Campbell, San Mateo, Bishop och Fresno, som har börjat använda eller testa AI- driven mjukvara utvecklad av Axon, en branschledare inom kroppskameror och tasers. Axon sa att programmet kan hjälpa tjänstemän att producera mer objektiva rapporter på kortare tid. Men i takt med att fler byråer använder den här typen av verktyg undrar vissa experter om de ger artificiell intelligens en alltför stor roll i det straffrättsliga systemet.
”Vi glömmer att det dokumentet spelar en mycket central roll i beslut som förändrar människors liv”, säger Andrew Ferguson, straffrättsprofessor vid American University Washington College of Law som skrev den första lagöversynen artikel om AI-assisterade polisrapporter, som han räknar med att publicera nästa år.
Från att dokumentera detaljerna om komplexa mord till att registrera grunderna för en stulen cykel, polisrapporter har varit kärnan i polisarbetet.
”De är faktiskt typ av byggstenen i det straffrättsliga systemet eftersom de är den officiella typen av minnesmärke av vad som hände, när och ibland varför,” sa Ferguson.
Åklagare fattar åtalsbeslut, domare fattar beslut om borgen och människor fattar beslut om sitt eget försvar baserat – åtminstone delvis – på vad som står på detta första papper.
”Om en del av det formas av AI, väcker det några verkliga farhågor om huruvida vi kan lita på det,” sa Ferguson. Potentialen för fel eller fördomar som introduceras av AI studeras fortfarande. Men, tillade han, brottsbekämpande ledare har en förståelig önskan att förbättra effektiviteten.
Axon marknadsför sitt Draft One-verktyg som en kraftmultiplikator, vilket är attraktivt för många polisavdelningar som kämpar för att rekrytera och behålla poliser, en kris som många inom brottsbekämpning säger förvärrades av mordet på George Floyd och de efterföljande protesterna.
”Pendeln svänger, men många av dem är fortfarande 15, 20 % under sina målstyrkor”, sa Axon-grundaren Rick Smith på en vinstsamtal med aktieägarna i augusti. ”Och det är där vi hör den här typen av magisk feedback, där de är som ”Man, med Draft One, om det frigör 20, 25 % av mina officerares dag från att skriva rapporter, så är det nästan som en 20 % stöt i min kraftkraft över natten.’”
East Palo Alto-chefen Jeff Liu sa att hans byrå inte är immun mot dessa personalproblem. Avdelningen är budgeterad för 36 edsvurna officerare, inklusive chefen, men han saknar för närvarande åtta positioner. Han ser inte Draft One som en nyckelfärdig lösning men hoppas att det kan hjälpa poliser att spendera mer tid på gatan.
”Om den här AI kommer att påskynda rapporterna, men utan att kompromissa med noggrannheten, tror jag att det är en vinst,” sa han. East Palo Alto’s kontrakt visar Draft One kostar staden cirka 70 USD per kroppskamera och månad eller cirka 40 000 USD per år.
Liu sa att även om han inte skriver många rapporter nuförtiden, använder han ChatGPT för att skriva inlägg på sociala medier och till och med kondoleansbrev, som han sedan anpassar med sin egen röst. Att arbeta med den populära AI-chatboten gjorde honom mer öppen för Draft One, sa han. Draft One använder samma underliggande AI som ChatGPTmen avdelningsdata lagras på en säker statlig molntjänst utvecklad av Microsoft.
Axon är inte det enda företaget som erbjuder denna tjänst. Truleo – ett företag som använder AI för att analysera stora delar av kroppskamerafilmer för att se till att poliser agerar professionellt – erbjuder ett liknande program för att skriva rapport, men det har inte marknadsförts eller använts så brett som Axons Draft One.
I närliggande Santa Clara county sa Campbells poliskapten Ian White att under hans avdelnings första månad av att testa Draft One, sa poliser att det sparade dem cirka 50 timmar totalt. Polisavdelningen i Fort Collins, Colorado, fann att rapporter skrivna med Draft One producerades i genomsnitt på åtta minuter, medan de som inte använde programvaran tog 23 minuter.
Men den första oberoende studera av programvaran Draft One, som publicerades denna vecka i Journal of Experimental Criminology, bekräftade inte de tidsbesparingar som White och andra rapporterade. Forskare vid University of South Carolina gjorde en randomiserad kontrollerad studie med en polisavdelning i New Hampshire under det senaste året, som fann att poliser som använde Draft One inte skrev rapporter snabbare än de i kontrollgruppen.
Biträdande professor Ian Adams, som ledde studien, sa att han ännu inte kan dra några slutsatser om varför det inte fanns några tidsbesparingar – han och hans kollegor undersöker fortfarande det – men han sa att resultaten förvånade honom. Han varnade också för att ge sina fynd för mycket vikt. ”Det är i en byrå, ungefär ett resultat vid en tidpunkt,” sa Adams.
Hans team undersöker fortfarande om det kan finnas andra fördelar som noggrannhet eller fullständighet. Om teknik som Draft One kan producera bättre skrivna rapporter, sa han, ”kanske får de tillbaka för redigering eller revidering mindre [often]och så kan man kanske se systemiska besparingar”.
Officer Venegas i östra Palo Alto sa att programmet hjälper henne att övervinna författarblockad, särskilt efter en lång dag på patrull. Hon kan bara trycka på Draft One-knappen på sin dator, och en berättelse baserad på ljudtranskriptionen av hennes bodycam-filmer dyker upp inom några sekunder.
”När du inte vet vilka ord du försöker skriva, och då tittar du bara och du tänker ”Åh, det var precis vad jag tänkte!” Det är det bästa, sa hon. Draft One förändrar också hur hon arbetar på fältet. Eftersom rapporten är baserad på ljudavskriften sa Venegas att hon målmedvetet kommer att prata om vad som händer under en incident.
”Jag kommer att säga,” såg du det? Spegeln är trasig”, sa Venegas. ”’Såg du det? Det ligger grejer på golvet. Kniven, den blodiga kniven, ligger på golvet.’”
Axon produktdesigner Noah Spitzer-Williams sa att detta var en av de mest överraskande och fascinerande bieffekterna av programvaran: det uppmuntrar poliser att vara mer verbala överlag, till och med prata in i kamerans mikrofon för att ge sammanhang – som villkorlig villkorlig status för en person eller om ett vapen har rapporterats innan det anlände till en plats – så ljudavskriften innehåller viktiga detaljer som Draft One lägger i rapporten.
”Sedan, under interaktionen, ställer officeren fler frågor,” sa Spitzer-Williams. ”De återger uttalanden som,” OK, Jimmy. Du ger mig samtycke till att söka igenom din ryggsäck.’”
Spitzer-Williams sa att detta också hjälper samhällsrelationer eftersom officerare förklarar vad de gör och varför.
Men forskning av American Civil Liberties Union visar hur officerares berättelser i realtid också har använts för att manipulera bevis. Ett vanligt exempel är när officerare ropar ”sluta göra motstånd” för att rättfärdiga användning av våld även när individen efterkommer. Axons Spitzer-Williams sa att han inte tror att Draft One kommer att göra denna ”verkliga oro” värre.
Spitzer-Williams pekade också på en Axon studera att hittade rapporter skrivna av programvaran tenderade att använda mindre partiskt språk än rapporter skrivna av tjänstemän.
Tillbaka i ett konferensrum på polisavdelningen i East Palo Alto läste Venegas ur sin AI-genererade rapport. ”Den 23 september 2024, ungefär kl. 10.49, svarade jag, officer Venegas, på ett uppmaning om service som involverade en mindre och en störning i hemmet.”
Programmet gav ett bra grovt utkast, sa hon, men det har vissa begränsningar. Vid det här laget förstår Draft One bara engelska, så det blev en del fel, som vem som talade och vem som var släkt med vem.
”Ibland gör den små misstag som det,” sa Venegas, ”som är lätta att rätta till.”
Vissa inom den straffrättsliga sektorn sa att dessa till synes små misstag pekar på större frågor om författarskap, som kan bli avgörande i bedömningsprocessen. Dr Matthew Guariglia, en policyanalytiker för Electronic Frontier Foundation, sa att han är oroad över att dessa rapporter ”kommer att förstöra förmågan att korsförhöra poliser. För om en officer blir fångad i en lögn på läktaren kan de alltid bara säga, ’Ja, AI skrev det’.”
White från Campbells polisavdelning, som har använt programvaran sedan maj, sa att hans avdelnings policy säkerställer att tjänstemän tar ansvar för att skriva rapporterna som produceras av Draft One. Även om en tjänsteman ”skruvade till” och ett fel introducerades i rapporten, sa han, borde det vara lätt att lösa genom att granska vad han kallade ”guldstandarden” för bevis: bodycam-videon.
”Det finns fel i all mänsklig aktivitet,” sa White. Han tror att AI kommer att göra saker mer exakta, inte mindre.
Biträdande distriktsåklagare i San Mateo, Rebecca Baum, som har pratat med East Palo Alto och San Mateos polisavdelningar om deras övergång till AI-assisterade rapporter, sa att hennes kontor är försiktigt optimistiskt om det nya programmet. Hennes främsta oro är att kroppskameror, och särskilt kroppskameraljud, inte fångar allt som händer under en incident.
”Vittnesuppförande, om någon är påverkad av droger eller alkohol, om det finns skador,” sa Baum, ”det här kommer inte från en ljudinspelning av kroppskameran.”
Tjänstemännen måste förbli engagerade i processen att skriva dessa rapporter, sa Baum, så att de inte lämnar något – särskilt information som visar att en person kan vara oskyldig, som åklagare har en skyldighet att lämna över.
Axon har för sin del också byggt in ett antal skyddsåtgärder i applikationen för att säkerställa att en tjänsteman går igenom rapporten i detalj för att korrekturläsa den och se till att den är korrekt.
På datorskärmen visade officer Venegas hur varje stycke i rapporten innehåller kommentarer som måste lösas innan hon kan flytta rapporten från Draft One och in i avdelningssystemet.
Och längst ner på skärmen pekade Venegas på en ruta hon måste klicka på, ett sista steg som Spitzer-Williams, från Axon, sa är ”förmodligen det viktigaste” med tanke på de potentiella konsekvenserna av varje rapport.
”Jag erkänner att den här rapporten skapades med Draft One av Axon,” läste Venegas högt. ”Och att jag vidare erkänner att jag har tittat på rapporten i detalj, gjort alla nödvändiga ändringar och tror att det är en korrekt representation av mitt minne av de rapporterade händelserna. Om det behövs är jag villig att vittna om riktigheten i denna rapport.”
Den här historien är ett samarbete mellan KQEDGuardian US och Kalifornien nyhetsrum
Source link