Er tilslutning af en AI-agent til en eksisterende maskine en væsentlig ændring?

Dette afgøres ud fra de tre kriterier i artikel 3, nr. 16), i forordning (EU) 2023/1230, som udtrykkeligt omfatter ændringer foretaget »ved fysiske eller digitale midler«: software nyder ingen særstilling. Det første kriterium er næsten altid opfyldt, da fabrikanten ikke har forudset denne driftsmåde i sin brugsanvisning. Det andet afhænger af agentens faktiske beføjelser: at overvåge og logge skaber ingen fare; at styre bane, takt eller energiniveauer bringer maskinen i tilstande, som den oprindelige risikovurdering ikke tog højde for. Det tredje kriterium er afgørende: det kræver enten afskærmninger eller beskyttelsesudstyr, »hvis behandling nødvendiggør ændring af det eksisterende sikkerhedskontrolsystem«, eller nye beskyttelsesforanstaltninger for at sikre stabilitet eller mekanisk styrke. Hvis den funktionelle sikkerhed fortsat varetages af et uafhængigt system, som agenten hverken kan omgå eller omkonfigurere, er dette kriterium muligvis ikke opfyldt. Hvis agenten derimod er integreret i sikkerhedslogikken, er kriteriet opfyldt, og i medfør af artikel 18 anses den, der foretager indgrebet, for at være fabrikant af den ændrede maskine.

Hvad kræver maskinforordningen af et AI-styret styresystem?

Det væsentlige krav 1.2.1 i bilag III til forordning (EU) 2023/1230 indeholder et særskilt afsnit for styresystemer med helt eller delvist selvudviklende adfærd eller logik, som er udformet til at fungere med varierende autonominiveauer. Det kræver, at de ikke foranlediger maskinen til at udføre handlinger ud over dens definerede opgave og arbejdsområde, at registrering af data om beslutningsprocessen vedrørende sikkerhed i softwarebaserede sikkerhedssystemer er aktiveret og opbevares i et år efter registreringen, og at det til enhver tid er muligt at korrigere maskinen for at opretholde dens iboende sikkerhed. Det generelle afsnit i samme krav tilføjer sporing af installerede sikkerhedssoftwareversioner, aktiveret i fem år efter installationen, samt reglen om, at enhver ændring af indstillinger eller regler genereret af maskinen eller operatørerne, herunder i læringsfasen, ikke er tilladt, hvis det kan medføre en farlig situation. Forordningen forbyder ikke styring af en maskine med kunstig intelligens: den kræver, at dens aktionsfelt er defineret, sporbart og korrigerbart.

Kræver en AI-agent på en maskine inddragelse af et bemyndiget organ?

Under to kumulative betingelser. Bilag I, del A, til forordning (EU) 2023/1230 omfatter i punkt 5 sikkerhedskomponenter med helt eller delvist selvudviklende adfærd eller logik ved hjælp af maskinlæringsmetoder, som sikrer sikkerhedsfunktioner, og i punkt 6 maskiner, der indeholder systemer med netop disse egenskaber. Det er derfor nødvendigt, at systemet både sikrer en sikkerhedsfunktion og er baseret på maskinlæring. Når det er tilfældet, forpligter artikel 25, stk. 2, fabrikanten — eller den i artikel 18 nævnte person, det vil sige den, der foretager en væsentlig ændring — til at anvende EU-typeafprøvning efterfulgt af typeoverensstemmelse, fuld kvalitetssikring eller enhedsverifikation. Intern produktionskontrol, modul A, fremgår ikke af disse muligheder: selvcertificering er ikke tilgængelig. En agent, der optimerer en takt uden at deltage i en sikkerhedsfunktion, er ikke omfattet af bilag I.

Forside / Væsentlig ændring

§ Artikel 3, nr. 16) · artikel 17 og 18

Er denne ændring væsentlig?

Seks spørgsmål i den rækkefølge, forordningsteksten stiller dem. Til sidst en begrundet vurdering og et vurderingsark til udskrift og underskrift. Det er dét, der tæller: man bliver ikke fabrikant af at ændre en maskine, men af at ændre den uden at have dokumenteret det skriftligt.

Spørgsmål 1 af 6

§ Hvorfor netop disse tre kriterier

Lovteksten frem for værktøjet.

Artikel 3, nr. 16), definerer en væsentlig ændring ud fra tre betingelser, som skal være opfyldt samtidigt. Artikel 18 drager konsekvensen: den, der foretager ændringen, anses for fabrikant af den ændrede maskine.

Kriterium 1Ikke forudset

Fabrikanten havde ikke forudset den

Ændringen foretages efter ibrugtagning eller bringelse i omsætning, med fysiske eller digitale midler, og var hverken forudset eller planlagt af fabrikanten. En justering beskrevet i brugsanvisningen, fabriksmonteret tilbehør eller et ombygningssæt leveret af fabrikanten selv: alt dette var forudset og falder uden for anvendelsesområdet.

Kriterium 2Sikkerhed

Påvirker sikkerheden

Skaber en ny fare eller øger en eksisterende risiko. En ændring, der forbedrer sikkerheden uden at skabe en anden risiko, eller som hverken påvirker funktion, hastighed eller energiformer, opfylder ikke dette kriterium.

Kriterium 3Beskyttelse

Kræver nye beskyttelsesforanstaltninger

Nødvendiggør tilføjelse eller ændring af beskyttelsesforanstaltninger: afskærmning, beskyttelsesudstyr eller redesign af sikkerhedslogikken. Dækker de eksisterende foranstaltninger den nye situation uden ændringer, er kriteriet ikke opfyldt.

Tre »ja'er«: du er fabrikant af den ændrede maskine. Blot ét »nej«: du er det ikke, men du skal kunne bevise det.

Kilde: forordning (EU) 2023/1230, artikel 3, nr. 16) (definition), artikel 17 (bringelse i omsætning under eget navn) og artikel 18 (forpligtelser i tilfælde af væsentlig ændring) — EUR-Lex. Se også vores vejledning om ombygning og ofte stillede spørgsmål.

§ Artikel 3, nr. 16) · krav 1.2.1

Det højaktuelle tilfælde: softwareagenten, der styrer maskinen.

At overlade styringen af en eksisterende maskine til et system med kunstig intelligens er ikke et nyt spørgsmål for forordningen. Det var tænkt ind fra starten og afgøres efter de samme tre kriterier.

Definitionen i artikel 3, nr. 16), omfatter ændringer udført »fysisk eller digitalt«. En agent koblet på styringen af en maskine, der allerede er i drift, er derfor ifølge selve forordningsteksten en kandidat til en væsentlig ændring. Der findes ingen særordning for software, og der var ikke behov for en ny retsakt for at rejse spørgsmålet.

Det, der ændrer sig, er hastigheden. Tilkobling af en agent til produktions- eller laboratorieudstyr tog førhen uger af integration; grænsefladestandarderne udgivet i 2026 reducerer tidsforbruget til timer. Antallet af sådanne tilkoblinger vil stige voldsomt, længe før den tekniske dokumentation kan følge med.

Kriterium 1 — ikke forudset

Næsten altid opfyldt. Fabrikanten af en maskine leveret i 2019 har ikke i sin brugsanvisning forudset, at en softwareagent skulle styre dens cyklusser. Det præcise spørgsmål, der skal stilles: findes der et dokument fra fabrikanten, som beskriver denne styringsform? Hvis det findes, bortfalder kriteriet, og analysen slutter her.

Kriterium 2 — sikkerhed

Skal undersøges nøje og aldrig blot antages. En agent, der overvåger og logger, skaber ingen fare. En agent, der styrer (bevægelsesbane, takttid, sekvens, energitilførsel), bringer maskinen i driftstilstande, som den oprindelige risikovurdering ikke tog højde for.

Kriterium 3 — beskyttelsesudstyr

Det er her, sagen afgøres, og forordningsteksten er præcis: der kræves enten a) afskærmninger eller beskyttelsesudstyr »nødvendiggør ændring af det eksisterende sikkerhedskontrolsystem«, eller b) nye beskyttelsesforanstaltninger for at sikre stabiliteten eller den mekaniske modstandskraft.

Det er arkitekturen, der afgør den juridiske status. En agent, der styrer igennem den funktionelle sikkerhed, ændrer den. En agent, der styrer underlagt en uafhængig og uændret sikkerhed, berører den ikke.

Konsekvensen er konkret og afgøres ved anlæggets dimensionering, ikke efterfølgende. Hvis nødstop, sikkerhedsafstande og rumlige afgrænsninger fortsat håndteres af et uafhængigt sikkerhedsstyresystem, som agenten hverken kan omgå eller omkonfigurere, kan det tredje kriterium være uopfyldt. Hvis agenten er integreret i sikkerhedslogikken, eller hvis dens autonomi tvinger til at ændre den, er kriteriet opfyldt, og artikel 18 pålægger den, der har udført indgrebet, fabrikantansvaret for den ændrede maskine.

Hvis ændringen er væsentlig: krav 1.2.1 finder anvendelse

Den ændrede maskine skal opfylde de væsentlige krav i bilag III i sin ændrede tilstand. Krav 1.2.1 indeholder et afsnit formuleret specifikt for styresystemer med »fuldstændig eller delvist selvudviklende adfærd eller logik, som er bygget til at fungere med varierende grad af autonomi«. Det stiller tre krav:

at sådanne systemer »de ikke får maskinen eller det relaterede produkt til at udføre handlinger ud over deres definerede opgaver og bevægelsesradius«;
registrering af data om beslutningsprocessen vedrørende sikkerhed for softwarebaserede sikkerhedssystemer, som skal opbevares i et år efter registreringen, udelukkende med henblik på at påvise overensstemmelse efter begrundet anmodning fra en national myndighed;
at det til enhver tid er muligt at korrigere maskinen for at opretholde dens iboende sikkerhed.

Samme krav tilføjer i sit generelle afsnit to forpligtelser, der er uafhængige af enhver autonomi. Der kræves registrering af versionerne af indlæst sikkerhedssoftware, tilgængelig i fem år efter indlæsningen. Og frem for alt den sætning, næsten ingen citerer: grænserne for sikkerhedsfunktionerne fastlægges i fabrikantens risikovurdering, og der må ikke foretages ændringer i indstillinger eller regler genereret af maskinen eller operatørerne, »herunder i læringsfasen«, når dette kan medføre en farlig situation.

En agent, der kan ændre sine egne sikkerhedsgrænser, er i strid med kravene allerede i sin konstruktion. Det handler hverken om gode intentioner eller modellens kvalitet: det er et spørgsmål om arkitektur, og det skal eftervises på udstyrsniveau.

Vendepunktet: bilag I

Det er den konsekvens, man ofte opdager for sent. Hvis det selvudviklende system varetager sikkerhedsfunktioner og anvender maskinlæringsmetoder, falder maskinen ind under bilag I, del A, punkt 5 og 6. Artikel 25, stk. 2, giver ingen udvej: fabrikanten — eller den person, der er omhandlet i artikel 18, altså den, der har foretaget ændringen — skal anvende EU-typeafprøvning (modul B efterfulgt af modul C), fuld kvalitetssikring (modul H) eller enhedsverifikation (modul G).

Intern produktionskontrol, modul A, som man udfører på egen hånd, findes ikke på denne liste. Der kræves et bemyndiget organ med de frister og omkostninger, det medfører.

En agent, der optimerer en takt, er ikke omfattet af bilag I. En agent, hvis output indgår i en sikkerhedsfunktion, er. Mellem de to ligger en arkitekturbeslutning, og den træffes før købet, ikke bagefter.

Kilder: Forordning (EU) 2023/1230 — artikel 3, nr. 16) (definition), artikel 18 (forpligtelser), artikel 25, stk. 1 og 2 (procedurer), bilag I, del A, punkt 5 og 6, samt bilag III, krav 1.2.1 — EUR-Lex. Om accelerationen af integrationen mellem agenter og maskiner: Anthropic, »Previewing the Model Hardware Standard«, 27. august 2026 (foreløbig forskningsversion). Se også krav 1.2.1 i Krav og standarder og ofte stillede spørgsmål.