AI-säkerhet

Frågan om AI-säkerhet ställs oftast som om AI vore ett nytt system att skydda. Kapitlet visar att den är bredare än så, och att den svåraste delen sällan är tekniken utan att alls veta vad som redan pågår i den egna organisationen. De flesta verksamheter använder fler AI-verktyg än de har beslutat om, och skillnaden mellan de två talen är själva riskbilden.

Det börjar med AI som hotvektor, alltså hur angripare använder tekniken för att göra det de redan gjorde, fast bättre, billigare och i större skala. Vinsten för angriparen är sällan ny förmåga utan ökad volym. Sedan behandlas AI som försvarsverktyg, med en nykter bild av vad det faktiskt tillför inom detektion och analys och var påståendena är större än effekten. Därefter kommer de regulatoriska kraven, alltså AI-förordningen och dess samspel med cybersäkerhetslagen, ett område som introduceras i kapitel 4 om produkter, AI och regelverk. Riskbedömning för AI-användning får ett stort avsnitt och är kapitlets mest praktiska del, följt av de säkerhetsåtgärder som faktiskt går att vidta kring data, åtkomst och uppföljning. Ett avsnitt kopplar AI till digital suveränitet, eftersom modellerna och infrastrukturen ofta ligger hos ett fåtal aktörer. Ett annat behandlar vad som händer när ett system fattar beslut som får konsekvenser för människor, och var ansvaret då hamnar. Det sista tar upp skugg-AI som den blinda fläck det är.

Aktualiteten ligger i takten. AI-verktyg införs i verksamheter snabbare än styrningen hinner byggas, och den som väntar på att AI-förordningens högriskkrav ska träda i kraft innan arbetet börjar kommer att göra kartläggningen under tidspress, med verktyg som redan är djupt inbäddade i arbetsflöden. Kartläggningen av vad som faktiskt används är därför det första steget, och det är sällan så enkelt som att fråga.

Sidan visar vad kapitlet omfattar och varför styrningen behöver komma ikapp användningen. Riskbedömningen, åtgärderna och de regulatoriska gränsdragningarna finns i kapitel 19 i boken.