Susie Alegre är en internationell människorättsadvokat och författare, ursprungligen från Isle of Man, vars fokus de senaste åren har legat på teknik och dess inverkan på mänskliga rättigheter. Som juridisk expert har hon varit rådgivare till Amnesty International, FN och andra organisationer i frågor som bekämpning av terrorism och antikorruption. Hennes första bok, Frihet att tänkapublicerad 2022 och nominerad till Christopher Bland-priset, tittade på historien om juridiska friheter kring tanken. I hennes nya bok Mänskliga rättigheter, robotfelriktar hon sin uppmärksamhet mot hur AI hotar våra rättigheter inom områden som krig, sex och kreativitet – och vad vi kan göra för att slå tillbaka.

Vad fick dig att skriva den här boken?
Det fanns två triggers. En var den plötsliga explosionen av ChatGPT och berättelsen om hur alla kan vara romanförfattare nu och det kommer inte att finnas något behov av mänskliga skapare, eftersom AI kommer att kunna göra allt för oss. Det kändes helt deprimerande. Den andra var berättelsen om en belgisk man som tog sitt liv efter en sex veckors intensivt förhållande med en AI-chatbot. Hans änka kände att utan denna relation, som förvrängde hans världsbild, skulle han fortfarande ha funnits där för henne och för sina barn. Det fick mig att tänka – ja, det här handlar absolut om rätten till liv; till familjeliv, till tankefrihet och frihet från manipulation. Och hur är tänker vi på AI och de riktigt allvarliga sätten att det påverkar våra mänskliga rättigheter?

Du ger inte mycket tilltro till hotet om en AI-apokalyps.
Jag tror att det är en distraktion. Det vi behöver vara oroliga för är att sätta gränser för hur AI kan utvecklas, säljas och användas av människor. Och i slutändan finns det människor bakom tekniken, i designfasen och särskilt i marknadsföringen, och även i de val som görs om hur den används.

Allt vi hör om AI tyder på att det går framåt med otrolig hastighet, och att modellerna fungerar på komplexitetsnivåer som inte ens deras skapare kan förstå. Hur kan tillsynsmyndigheter någonsin hoppas kunna hänga med?
Jag tycker att det är fruktansvärt mycket rök och speglar. Det är som i Trollkarlen från Oz, när Toto drar tillbaka gardinen och vi ser vad som händer bakom. Så vi behöver inte tro att allt är oundvikligt och allsmäktigt. Vi kan fortfarande göra val och ställa frågor. Dessutom, om något är så komplext att det inte kan förklaras, så finns det vissa områden där det inte bör användas.

Tror du att de befintliga rättssystemen och charter om mänskliga rättigheter klarar uppgiften att hantera AI, eller behöver vi skapa en nytt ramverk?
Jag tror inte att vi behöver ett nytt ramverk, men det vi verkligen behöver är tillgång till rättvisa. Det kan mycket väl finnas vissa rättsliga vägar som behöver utvecklas. Men en av de verkligt grundläggande utmaningarna är, hur trycker man tillbaka? Hur upprätthåller du reglering? Och det är vad vi har sett i förhållande till några stora teknikföretag: deras verksamhet befinns vara olaglig, de åläggs enorma böter, och de fortsätter fortfarande.

Du har ett mycket intressant kapitel om sexrobotar och chatbots. Vilka är de viktigaste problemen?
Det här var ett helt område som jag inte riktigt hade tänkt på tidigare och jag blev ganska förskräckt över att inse hur utbredd användningen av AI-botar för att ersätta mänskligt sällskap är. Anledningen till att det oroade mig är att det här är teknologi från den privata sektorn som sätts in i människors liv för att ersätta mänskliga relationer, och det är mycket farligt när det gäller social kontroll. Det är inte en fråga om moral utan snarare, vad betyder detta för det mänskliga samhället och vår förmåga att samarbeta och ansluta?

Är inte AI goda nyheter för människor som inte har råd med juridiskt ombud?
Det beror på. Om du pratar om väldigt grundläggande tvister där det bara handlar om att känna till reglerna kan tekniken förbättra tillgången. Men när du tittar på mer komplexa frågor är problemet att generativ AI faktiskt inte vet vad lagen är och det kan mycket väl vara att ge dig en massa gammalt skräp – och när något levereras av en maskin i en auktoritativ ton, det är väldigt svårt för folk att tvivla på det.

Vad hände när du frågade ChatGPT: “Vem är Susie Alegre?”
Det stod att Susie Alegre inte existerade, eller åtminstone inte dök upp på internet. Jag kände mig lite nedstämd, med tanke på att min första bok hade kommit ut ett år tidigare. Jag frågade det, vem skrev Frihet att tänka, och den första personen det kom på var en manlig biolog. Jag frågade det om och om igen och det kom upp 20 olika namn, alla män utom en. Det var som om, för ChatGPTtanken på att en kvinna skulle ha skrivit en bok om tankar var helt otänkbar.

Vad är din åsikt om det “fair use”-försvar som chatbot-företag använder för att försvara att samla ord och bilder för att mata deras AI?
Jag är inte en amerikansk upphovsrättsadvokat så jag har egentligen ingen expertis på det, men jag tror att det ska bli väldigt intressant att se hur ärenden utvecklas i olika jurisdiktioner. USA har en helt annan inställning till nästan var som helst i världen när det gäller frågor om yttrandefrihet och hur det har använts för att stödja utvecklingen inom teknikindustrin. Oavsett lagligheten av “fair use”-försvaret väcker det enorma frågor för framtiden för mänsklig kreativitet, journalistik och informationsutrymmet. Och bakom det ligger det grundläggande problemet med den massiva minskningen av lönen för kreatörer – den allmänna banan har gått mot att beröva skapare ekonomiska incitament.

Om allt du föreslår i boken vad gäller reglering skulle bli verklighet, finns det inte en fara att det skulle strypa innovationen?
Det är lite av en halmgubbe, tanken att reglering kväver innovation. Vad reglering gör är att få innovation att utvecklas i en viss riktning och stänga av riktningar som skulle vara extremt skadliga. Jag tror faktiskt att det finns den motsatta risken, att om du låter AI dominera på ett sätt som undergräver vår förmåga att tänka själva, att kräva tillbaka vår uppmärksamhet, så kommer vi att förlora innovationsförmågan.

Du påpekar att AI inte bara är något godartat moln som svävar ovanför våra huvuden. Det är främst baserat på materialutvinning och exploatering av arbetare i global söderut, och det är otroligt förorenande att springa. Men så mycket av detta är dolt. Hur går vi tillväga för att hantera dessa effekter?
Det är en enorm fråga. Ett sätt att hantera det är att titta på frågan om AI-adoption från en ESG [environmental, social and governance] perspektiv. All utrustning som vi använder, telefonerna som vi pratar om nu, är byggda av mineraler som ofta hämtas från konfliktområden, inklusive barnarbete. Att vara medveten om det kan förhoppningsvis bidra till att förändra samhällets krav och konsumentvanor. Du kan använda generativ AI för att göra en rolig meme, men hur mycket vatten och energi förbrukar du? Kunde du inte bara ta upp en penna, och kanske det faktiskt är mer tillfredsställande?

Önskar du ibland att AI kunde läggas tillbaka på hyllan?
Det är inte en allt-eller-inget ekvation mellan att förbjuda AI eller att omfamna det i varje aspekt av ditt liv. Det är en fråga om att välja vad vi vill använda AI till. Att vara kritisk och ställa frågor betyder inte att du är emot AI: det betyder bara att du är emot AI-hype.

• Mänskliga rättigheter, robotfel av Susie Alegre publiceras av Atlantic Books (£12,99). För att stödja väktare och Observatör beställ ditt exemplar på guardianbookshop.com. Leveransavgifter kan tillkomma