Ali povezava agenta UI z obstoječim strojem pomeni bistveno spremembo?

To se presoja na podlagi treh meril iz člena 3, točka 16, Uredbe (EU) 2023/1230, ki izrecno zajema spremembe, izvedene „s fizičnimi ali digitalnimi sredstvi“: programska oprema nima posebnega izjemnega režima. Prvo merilo je skoraj vedno izpolnjeno, saj proizvajalec tega načina upravljanja ni predvidel v svojih navodilih za uporabo. Drugo je odvisno od dejanskih pooblastil agenta: opazovanje in beleženje ne ustvarjata nevarnosti; vodenje poti, takta ali energij pa stroj premakne v stanja, ki jih prvotna ocena tveganja ni zajela. Tretje je odločilno: zahteva bodisi varovala ali varovalne naprave, „katerih obdelava zahteva spremembo obstoječega varnostnega krmilnega sistema“, bodisi dodatne zaščitne ukrepe za zagotovitev stabilnosti ali mehanske trdnosti. Če funkcionalno varnost še naprej zagotavlja neodvisen sistem, ki ga agent ne more zaobiti niti ponovno konfigurirati, to merilo morda ni izpolnjeno. Če je agent vključen v varnostno logiko, je izpolnjeno, in v skladu s členom 18 se oseba, ki izvede poseg, šteje za proizvajalca spremenjenega stroja.

Kaj uredba o strojih zahteva od krmilnega sistema, vodenega z UI?

Bistvena zahteva 1.2.1 iz Priloge III k Uredbi (EU) 2023/1230 vsebuje poseben pododstavek za krmilne sisteme s popolnoma ali delno samorazvijajočim se vedenjem ali logiko, ki so zasnovani za delovanje z različnimi stopnjami avtonomije. Zahteva, da stroju ne povzročijo izvajanja dejanj zunaj njegove opredeljene naloge in območja gibanja, da se omogoči beleženje podatkov o procesu odločanja v zvezi z varnostjo za varnostne sisteme na podlagi programske opreme, ki se hranijo eno leto po beleženju, ter da je mogoče stroj kadar koli popraviti, da se ohrani njegova vgrajena varnost. Splošni odstavek iste zahteve dodaja še beleženje naloženih različic varnostne programske opreme, ki je omogočeno pet let po naložitvi, in pravilo, da nobena sprememba nastavitev ali pravil, ki jih ustvari stroj ali upravljavci, tudi med fazo učenja, ni dovoljena, če lahko povzroči nevarno situacijo. Uredba ne prepoveduje vodenja stroja z umetno inteligenco: zahteva, da je njegovo področje delovanja opredeljeno, sledljivo in popravljivo.

Ali agent UI v stroju zahteva vključitev priglašenega organa?

Ob izpolnjevanju dveh kumulativnih pogojev. Priloga I, del A, k Uredbi (EU) 2023/1230 v točki 5 zajema varnostne komponente s popolnoma ali delno samorazvijajočim se vedenjem, ki uporabljajo pristope strojnega učenja, ki zagotavljajo varnostne funkcije, v točki 6 pa stroje, ki vključujejo sisteme s temi istimi lastnostmi. Zato je hkrati potrebno, da sistem zagotavlja varnostno funkcijo in da temelji na strojnem učenju. V tem primeru člen 25(2) proizvajalca — ali osebo iz člena 18, torej izvajalca bistvene spremembe — zavezuje k uporabi EU-pregleda tipa, ki mu sledi skladnost s tipom, popolnega zagotavljanja kakovosti ali preverjanja enote. Notranji nadzor proizvodnje, modul A, med temi možnostmi ni predviden: samocertificiranje ni mogoče. Agent, ki optimizira takt, ne da bi sodeloval pri varnostni funkciji, ne spada v Prilogo I.

Domov / Bistvena sprememba

§ Člen 3, točka 16 · člena 17 in 18

Ali je ta sprememba bistvena?

Šest vprašanj po vrstnem redu iz besedila uredbe. Na koncu obrazložena presoja in obrazec ocene za tisk in podpis. Ta šteje: proizvajalec ne postanete zato, ker stroj spremenite, temveč zato, ker ga spremenite, ne da bi to dokumentirali.

Vprašanje 1 od 6

§ Zakaj ta tri merila

Besedilo pred orodjem.

Člen 3, točka 16, določa bistveno spremembo prek treh pogojev, ki morajo biti izpolnjeni hkrati. Člen 18 opredeljuje posledico: kdor jo izvede, se šteje za proizvajalca spremenjenega stroja.

Merilo 1Nepredvidena

Proizvajalec je ni predvidel

Sprememba se izvede po dajanju na trg s fizičnimi ali digitalnimi sredstvi in je proizvajalec ni predvidel ali načrtoval. Nastavitev, opisana v navodilih za uporabo, kataloška možnost, komplet, ki ga prodaja sam proizvajalec: vse to je bilo predvideno in ne sodi na to področje.

Merilo 2Varnost

Vpliva na varnost

Ustvarja novo nevarnost ali povečuje obstoječe tveganje. Sprememba, ki izboljša varnost brez ustvarjanja novega tveganja ali ki ne vpliva niti na delovanje niti na takt niti na energije, tega merila ne izpolnjuje.

Merilo 3Zaščita

Zahteva nova varovala

Narekuje dodajanje ali spreminjanje zaščitnih ukrepov: varovala, varovalne naprave ali prenovo varnostne logike. Če obstoječi ukrepi pokrivajo novo stanje brez kakršnega koli posega vanje, merilo ni izpolnjeno.

Trije „da“: vi ste proizvajalec spremenjenega stroja. En sam „ne“: niste, vendar morate to znati dokazati.

Vir: Uredba (EU) 2023/1230, člen 3, točka 16 (opredelitev), člen 17 (dajanje na trg pod lastnim imenom) in člen 18 (obveznosti v primeru bistvene spremembe) — EUR-Lex. Oglejte si tudi naš vodnik za retrofit in pogosta vprašanja.

§ Člen 3, točka 16 · oddelek 1.2.1

Primer, ki že prihaja: programski agent, ki krmili stroj.

Zaupati upravljanje obstoječega stroja sistemu umetne inteligence za uredbo ni novo vprašanje. V njej je bilo predvideno že vnaprej in se rešuje z istimi tremi merili.

Opredelitev v členu 3, točka 16, zajema spremembe, izvedene „fizično ali digitalno“. Agent, povezan s krmilnimi napravami stroja, ki je že v obratovanju, je po samem besedilu torej kandidat za bistveno spremembo. Za programsko opremo ni nobene izjeme in za postavitev tega vprašanja ni bilo potrebno novo besedilo.

Spreminja se hitrost. Za povezavo agenta s proizvodno ali laboratorijsko opremo so bili prej potrebni tedni integracije; standardi vmesnikov, objavljeni leta 2026, ta čas skrajšujejo na nekaj ur. Število takšnih povezav bo naraslo veliko prej, preden bo tehnična dokumentacija dohajala ta tempo.

Merilo 1 — nepredvidena

Skoraj vedno je izpolnjeno. Proizvajalec stroja, dobavljenega leta 2019, v svojih navodilih za uporabo ni predvidel, da bo cikle krmilil agent. Točno vprašanje, ki si ga je treba zastaviti: ali obstaja proizvajalčev dokument, ki opisuje ta način upravljanja? Če obstaja, merilo odpade in analiza se tu konča.

Merilo 2 — varnost

Treba ga je preučiti, nikoli domnevati. Agent, ki opazuje in beleži, ne ustvarja nobene nevarnosti. Agent, ki ukazuje (trajektorija, takt, zaporedje, energije), stroj pripelje v stanja, ki jih prvotna ocena tveganja ni zajela.

Merilo 3 — zaščita

Tu se odloči vse, in besedilo je natančno: potrebna so bodisi a) varovala ali varovalne naprave, „katerih obdelava zahteva spremembo obstoječega krmilnega sistema za nadzor varnosti“, bodisi b) dodatni zaščitni ukrepi za zagotovitev stabilnosti ali mehanske trdnosti.

Arhitektura je tista, ki odloča o pravnem režimu. Agent, ki ukazuje skozi funkcionalno varnost, jo spreminja. Agent, ki ukazuje pod neodvisno in nespremenjeno varnostjo, se je ne dotika.

Posledica je konkretna in se določi pri zasnovi namestitve, ne kasneje. Če ustavitev v sili, varnostne razdalje in omejitve območja gibanja še naprej zagotavlja neodvisen varnostni krmilni sistem, ki ga agent ne more niti zaobiti niti prenastaviti, tretje merilo morda ni izpolnjeno. Če je agent integriran v varnostno logiko ali če njegova pristojnost sili v njeno prenovo, je merilo izpolnjeno in člen 18 tistega, ki je poseg izvedel, šteje za proizvajalca spremenjenega stroja.

Če je bistvena: uporablja se oddelek 1.2.1

Spremenjeni stroj mora izpolnjevati bistvene zahteve iz Priloge III v svojem spremenjenem stanju. Oddelek 1.2.1 vsebuje odstavek, napisan za krmilne sisteme „popolnoma ali delno samorazvijajočim se vedenjem ali logiko, ki je zasnovana tako, da deluje z različnimi stopnjami avtonomije“. Nalaga tri stvari:

da ti sistemi „stroja ali sorodnega proizvoda ne vodijo k opravljanju dejanj, ki presegajo njegovo opredeljeno nalogo in prostor za gibanje“;
beleženje podatkov o postopku odločanja o varnosti programsko vodenih varnostnih sistemov, ki se hranijo eno leto po beleženju in izključno za dokazovanje skladnosti na podlagi utemeljene zahteve nacionalnega organa;
da je kadar koli mogoče korigirati stroj, da se ohrani njegova vgrajena varnost.

Isti oddelek v svojem splošnem odstavku dodaja dve obveznosti, ki nista odvisni od avtonomije. Dnevnik naloženih različic varnostne programske opreme, omogočen pet let po naložitvi. In predvsem stavek, ki ga skoraj nihče ne navaja: meje varnostnih funkcij se določijo v proizvajalčevi oceni tveganja in nobena sprememba nastavitev ali pravil, ki jo ustvari stroj ali upravljavci, „tudi med fazo učenja“, ni dovoljena, če bi lahko povzročila nevarno situacijo.

Agent, ki lahko spreminja lastne varnostne meje, že po zasnovi ni skladen. Ne gre za vprašanje namena ali kakovosti modela: gre za vprašanje arhitekture in se dokazuje na ravni opreme.

Prelomna točka: Priloga I

To je posledica, ki jo odkrijemo prepozno. Če samorazvijajoči se sistem zagotavlja varnostne funkcije in uporablja pristope strojnega učenja, stroj pade v Prilogo I, del A, točki 5 in 6. Člen 25(2) takrat ne pušča izbire: proizvajalec — ali oseba iz člena 18, torej izvajalec spremembe — uporabi EU-pregled tipa (modul B, ki mu sledi modul C), popolno zagotavljanje kakovosti (modul H) ali preverjanje enote (modul G).

Notranji nadzor proizvodnje, modul A, ki ga izvedete sami, ni na tem seznamu. Potreben je priglašeni organ z vsemi roki in stroški, ki jih to prinaša.

Agent, ki optimizira takt, ne pade v Prilogo I. Agent, katerega izhod sodeluje pri varnostni funkciji, pač. Med obema je odločitev o arhitekturi, in ta se sprejme pred nakupom, ne po njem.

Viri: Uredba (EU) 2023/1230 — člen 3, točka 16 (opredelitev), člen 18 (obveznosti), člen 25(1) in (2) (postopki), Priloga I, del A, točki 5 in 6 ter Priloga III, oddelek 1.2.1 — EUR-Lex. O pospešitvi integracije med agenti in stroji: Anthropic, „Previewing the Model Hardware Standard“, 27. avgust 2026 (predogledna raziskovalna različica). Glejte tudi oddelek 1.2.1 v Zahteve in standardi ter pogosta vprašanja.