Nu kommer lagstiftning om AI – för att stärka säkerheten

BIld av Sang Hyun Cho från Pixabay

EU kommer bli först i världen med att släppa en lagstiftning kring AI. Orsaken är att man ser klara risker i människors fundamentala rättigheter och säkerhet när AI implementeras högt och lågt. Asimov hade blivit nöjd.

Genom att implementera standarder ska Europa hamna i framkant för en etisk teknisk utveckling och samtidigt behålla konkurrenskraften.

Man har arbetat utifrån olika riskscenarios som utvärderats och konsoliderats. Tanken är att de som inte följer standarden ska beläggas med dryga böter.

För mer information, se pressreleasen. Nedan följer de olika klassificeringarna i korthet. Är din AI i riskzonen?

Hög risk: AI-system som anses utgöra hög risk är exempelvis AI-system som används i:

  • Kritiska infrastrukturer (t.ex. transport), som kan innebära hot mot människors liv och hälsa.
  • Utbildning, där systemen kan avgöra personers tillgång till utbildning och yrkeskarriär (t.ex. poängsättning av prov).
  • Säkerhetskomponenter i produkter (t.ex. AI-tillämpningar för robotstöd vid operationer).
  • Anställning, arbetsledning och tillgång till egenföretagande (t.ex. mjukvara för sortering av cv:n i samband med rekrytering).
  • Väsentliga privata och offentliga tjänster (t.ex. kreditbedömning som innebär att medborgare hindras från att ta lån).
  • Brottsbekämpning som kan påverka människors grundläggande rättigheter (t.ex. bedömning av tillförlitligheten i bevis).
  • Hantering av migration, asyl och gränskontroll (t.ex. kontroll av äktheten i resehandlingar).
  • Rättskipning och demokratiska processer (t.ex. tillämpning av lagstiftning på ett konkret faktaunderlag).

Begränsad risk, dvs. AI-system med särskilda transparenskrav:: Vid användning av sådana AI-system som chattbotar ska användarna vara medvetna om att de interagerar med en maskin så att de kan fatta ett välgrundat beslut om att fortsätta eller avsluta.

Minimal risk: Lagstiftningsförslaget tillåter fri användning av sådana tillämpningar som AI-stödda videospel eller skräppostfilter. Den absoluta majoriteten av AI-systemen tillhör denna kategori. Utkastet till förordning omfattar inga åtgärder för dessa system, eftersom de utgör en minimal eller obefintlig risk för medborgarnas rättigheter eller säkerhet.