AI-færdigheder og Artikel 4 i AI Act: Derfor er AI-kompetencer blevet et lovkrav

Kunstig intelligens er i dag en integreret del af mange organisationers daglige arbejde. Medarbejdere anvender AI til alt fra tekstproduktion og analyse til kundeservice, beslutningsstøtte og automatisering. Derfor har EU med AI-forordningen (AI Act) indført et krav om, at organisationer skal sikre et tilstrækkeligt niveau af AI-færdigheder hos de mennesker, der arbejder med AI-systemer. Kravet fremgår af Artikel 4 og gælder både offentlige og private organisationer.

Hvad siger Artikel 4?

Artikel 4 fastslår, at udbydere og idriftsættere af AI-systemer skal træffe passende foranstaltninger for at sikre, at medarbejdere og andre personer, som arbejder med AI på organisationens vegne, har de nødvendige AI-færdigheder.

Kravet skal vurderes i forhold til:

• Personens uddannelse og erfaring
• Teknisk viden og kompetenceniveau
• Den konkrete anvendelse af AI-systemet
• De mennesker, som påvirkes af AI-systemets output eller beslutninger

Der er således ikke tale om et generelt krav om AI-undervisning for alle, men om et krav om, at organisationen aktivt vurderer og udvikler de nødvendige kompetencer.

Hvad er AI-færdigheder?

AI-færdigheder, ofte omtalt som AI literacy, handler om mere end blot teknisk forståelse af kunstig intelligens. Det omfatter den viden, de færdigheder og den forståelse, som gør det muligt at anvende AI på en informeret, sikker og ansvarlig måde.

Det indebærer blandt andet:

• Forståelse af hvad AI er, og hvordan AI-systemer fungerer
• Kendskab til AI-systemers muligheder og begrænsninger
• Evnen til at identificere fejl, bias og upræcise resultater
• Bevidsthed om etiske problemstillinger
• Forståelse af relevante regler og lovkrav
• Kompetence til at udføre passende menneskeligt tilsyn med AI-systemer

AI-færdigheder handler derfor både om teknologi, governance, etik, risikostyring og ansvarlig anvendelse.

Et risikobaseret krav

En central tanke i AI Act er, at reguleringen skal være risikobaseret. Det gælder også kravene til AI-færdigheder.

En medarbejder, der anvender generativ AI til at skrive mødenoter eller udarbejde udkast til dokumenter, har ikke nødvendigvis behov for samme kompetenceniveau som en medarbejder, der anvender AI i forbindelse med sundhedsydelser, kreditvurderinger eller HR-processer.

Jo større risiko en AI-anvendelse indebærer, desto højere bliver kravene til medarbejdernes viden og forståelse af systemet.

Organisationer bør derfor starte med at kortlægge:

• Hvilke AI-systemer der anvendes
• Hvem der anvender dem
• Hvilke risici der er forbundet med anvendelsen
• Hvilke kompetencer der er nødvendige for en forsvarlig brug

Forskellige roller kræver forskellige kompetencer

Ikke alle medarbejdere har samme ansvar i relation til AI. Derfor bør AI-færdigheder tilpasses den enkelte rolle.

Ledelsen

Ledelsen bør forstå:

• AI’s strategiske muligheder
• Risici og ansvar
• Governance og compliance
• Sammenhængen mellem AI og organisationens mål

Systemejere

Systemejere bør have viden om:

• Risikovurdering
• Dokumentation
• Leverandørstyring
• Overholdelse af AI Act

Driftsansvarlige

De driftsansvarlige bør forstå:

• Teknisk funktionalitet
• Overvågning og vedligeholdelse
• Håndtering af fejl og afvigelser
• Menneskeligt tilsyn

Slutbrugere

Slutbrugere bør kende:

• Systemets formål og begrænsninger
• Korrekt brug af systemet
• Risici ved ukritisk anvendelse
• Hvordan resultater skal vurderes og verificeres

AI-færdigheder som fundament for ansvarlig AI

Mange organisationer fokuserer på teknologi, datasikkerhed og juridiske krav, når de arbejder med AI. Men i praksis er medarbejdernes kompetencer ofte den afgørende faktor for, om AI anvendes sikkert og ansvarligt.

Selv det mest avancerede AI-system kan skabe problemer, hvis brugerne:

• Stoler blindt på systemets output
• Overser fejl eller skævheder
• Mangler forståelse for begrænsningerne
• Ikke kender deres ansvar

AI-færdigheder er derfor en grundforudsætning for at opnå de mål, som AI Act søger at fremme: beskyttelse af grundlæggende rettigheder, sikkerhed, transparens og tillid til AI.

Fra compliance til konkurrencefordel

Selvom Artikel 4 er et lovkrav, bør organisationer ikke betragte AI-færdigheder som en ren compliance-øvelse.

Organisationer med høj AI-modenhed er typisk bedre til at:

• Identificere nye anvendelsesmuligheder
• Håndtere risici tidligt
• Træffe kvalificerede beslutninger
• Udnytte AI-teknologiens potentiale

Investering i AI-færdigheder handler derfor ikke kun om at efterleve lovgivningen. Det handler også om at skabe en organisation, der kan anvende kunstig intelligens sikkert, ansvarligt og effektivt.

Artikel 4 sender et klart signal: Ansvarlig AI begynder ikke med teknologien. Den begynder med menneskerne, der anvender den.