Det är för tidigt att säga vad som i efterhand kommer att definiera 2023. En av de troliga kandidaterna är däremot genombrottet för artificiell intelligens i det allmänna medvetandet. Med verktyg som ChatGPT och Dall-E är kraften hos AI inte längre något man bara hör om, utan något man själv upplever.
År 2023 markerade också AI:s inträde på den politiska arenan, särskilt genom EU-kommissionens kontroversiella förslag Chat-Control 2.0. Förslaget kräver att företag som erbjuder moln- och chattjänster skannar användardata för CSAM – 'Child Sexual Abuse Material’. Skanningen är inte tänkt att göras av människor, utan av en AI. Medan det uttalade syftet, bekämpandet av hemska brott mot barn, är lovvärt skulle förslaget samtidigt innebära ett slut på den fria kommunikationen i hela Europa.
Även om frågan inte är helt avgjord togs de mest integritetskränkande delarna bort i Europaparlamentets första beslut i frågan. Parlamentet antog i år också ett omfattande regleringspaket för artificiell intelligens, med syfte att minska de risker som tekniken kan föra med sig.1 Med paketet kom även flera förbud kopplade till den personliga integriteten och AI.
Det är en framsynt politik, för den personliga integriteten är hotad när AI sätts i händerna på politiker som tar för lättvindigt på massövervakning. Ett skrämmande exempel i nutid är diktaturen Kina med sitt AI-drivna övervakningssystem. Genom ansiktsskanning av övervakningsbilder poängsätter staten medborgarna utifrån deras handlingar. En låg poäng kan ge repressalier och en hög ger förmåner. Sådana system är nu förbjudna inom EU.
Men man behöver faktiskt inte titta på diktaturer för att upptäcka samma typ av hot. EU- kommissionens eget förslag, Chat-Control, är ett lika tydligt exempel. AI möjliggör övervakning på en skala som tidigare inte varit möjlig.
I tidigare stora debatter om integritet har ett starkt argument varit att massövervakningen har låg träffsäkerhet. Den leder till att myndigheter drunknar i information som de inte hinner analysera ordentligt, vilket minskar möjligheten att förebygga brott. Det är därför inte ovanligt att personer som har kommit att begå terroristdåd dykt upp i polisens system innan dåden sker. Problemet är att många andra också gjort det, på grund av den svaga träffsäkerheten.
Med AI:ns kraft kan vi stå inför en situation där denna invändning minimeras eller försvinner. Där övervakningen träffsäkert kan peka ut vilka som har hög sannolikhet att begå grova brott. Priset skulle vara att varenda invånare behandlas som misstänkt och omöjligen kan leva ett liv utan statlig inblick. Risken är också stor att ett sådant system skulle breddas till fler syften än den allra grövsta brottsligheten. För att inte tala om hur illa det kan bli om våra samhällen en dag styrs av icke-demokatiska ledare.
Trots riskerna tyder mycket på att det politiska trycket för ett sådant system skulle vara stort, liksom för Chat Control, FRA-lagen och andra förslag med ökad övervakning på bekostnad av integriteten. Framtidens integritetsvänner har ett stort uppdrag framför sig, att hålla gränsen till det gränslösa.
Framtidsbilder, del 7. Den här texten ingår i ledarsidans jul- och nyårsserie som fäster blicken på det nya året.