Je li povezivanje UI agenta s postojećim strojem znatna preinaka?

Pitanje se rješava pomoću triju kriterija iz članka 3. točke 16. Uredbe (EU) 2023/1230, koji izričito obuhvaća preinake izvedene „fizičkim ili digitalnim putem”: softver ne uživa nikakav iznimni režim. Prvi je kriterij gotovo uvijek ispunjen jer proizvođač u svojim uputama za uporabu nije predvidio takav način vođenja. Drugi ovisi o stvarnim ovlastima agenta: pasivno promatranje i bilježenje ne stvaraju opasnost; upravljanje putanjom, radnim taktom ili energijama dovodi stroj u stanja koja izvorna procjena rizika nije predvidjela. Treći je presudan: zahtijeva ili štitnike ili zaštitne uređaje „za čiju je obradu potrebna preinaka postojećeg sustava za kontrolu sigurnosti” ili nove zaštitne mjere za osiguranje stabilnosti ili mehaničke čvrstoće. Ako funkcionalnu sigurnost i dalje osigurava neovisan sustav koji agent ne može ni zaobići ni rekonfigurirati, taj kriterij možda nije ispunjen. Ako je agent integriran u sigurnosnu logiku, kriterij je ispunjen te se na temelju članka 18. osoba koja izvodi zahvat smatra proizvođačem preinačenog stroja.

Što Uredba o strojevima zahtijeva od kontrolnog sustava vođenog umjetnom inteligencijom?

Bitni zahtjev 1.2.1. Priloga III. Uredbi (EU) 2023/1230 sadrži poseban stavak za kontrolne sustave s ponašanjem ili logikom koji se potpuno ili djelomično sami razvijaju i osmišljeni su za rad s različitim razinama autonomije. Zahtijeva se da oni ne uzrokuju radnje stroja izvan definiranog zadatka i područja kretanja, da je omogućeno bilježenje podataka o postupku donošenja sigurnosnih odluka za softverski utemeljene sigurnosne sustave koji se čuvaju godinu dana nakon bilježenja te da je u svakom trenutku moguće korigirati stroj kako bi se zadržala njegova inherentna sigurnost. Opći stavak istog zahtjeva dodaje i bilježenje verzija učitanog sigurnosnog softvera, omogućeno pet godina od učitavanja, kao i pravilo prema kojem nije dopuštena nikakva preinaka postavki ili pravila koje generira stroj ili operateri, uključujući tijekom faze učenja, ako to može dovesti do opasne situacije. Uredba ne zabranjuje upravljanje strojem pomoću umjetne inteligencije: zahtijeva da njegovo područje djelovanja bude definirano, sljedivo i podložno korekciji.

Zahtijeva li UI agent na stroju obvezno uključivanje prijavljenog tijela?

Pod dvama kumulativnim uvjetima. Prilog I. dio A Uredbe (EU) 2023/1230 u točki 5. obuhvaća sigurnosne komponente s ponašanjem koje se potpuno ili djelomično samo razvija s pomoću pristupa strojnog učenja koje osiguravaju sigurnosne funkcije, a u točki 6. strojeve koji sadrže sustave s istim tim svojstvima. Stoga je istodobno nužno da sustav osigurava sigurnosnu funkciju i da se temelji na strojnom učenju. Ako je tako, članak 25. stavak 2. obvezuje proizvođača — ili osobu iz članka 18., odnosno izvođača znatne preinake — na primjenu EU ispitivanja tipa nakon kojeg slijedi sukladnost s tipom, potpunog osiguranja kvalitete ili jedinične provjere. Unutarnja kontrola proizvodnje, modul A, ne nalazi se među tim opcijama: samocertificiranje nije moguće. Agent koji optimizira radni takt, a ne sudjeluje u sigurnosnoj funkciji, ne ulazi u Prilog I.

Početna / Znatna preinaka

§ Članak 3. točka 16. · članci 17. i 18.

Je li ova preinaka znatna?

Šest pitanja redoslijedom kojim ih postavlja propis. Na kraju dobivate obrazloženu procjenu i obrazac za ocjenjivanje koji možete ispisati i potpisati. On je ključan: proizvođačem se ne postaje pukom preinakom stroja, nego preinakom bez pismenog traga.

Pitanje 1 od 6

§ Zašto ova tri kriterija

Propis, prije samog alata.

Članak 3. točka 16. definira znatnu preinaku pomoću tri uvjeta koji moraju biti ispunjeni kumulativno. Članak 18. iz toga izvodi posljedicu: onaj tko je provede smatra se proizvođačem preinačenog stroja.

Kriterij 1Nije predviđena

Proizvođač je nije predvidio

Preinaka se izvodi nakon stavljanja na tržište, fizičkim ili digitalnim putem, i proizvođač je nije predvidio ili planirao. Podešavanje opisano u uputama za uporabu, kataloška opcija, komplet koji prodaje sam proizvođač: sve je to bilo predviđeno i ostaje izvan dosega.

Kriterij 2Sigurnost

Utječe na sigurnost

Stvara novu opasnost ili povećava postojeći rizik. Preinaka koja poboljšava sigurnost bez stvaranja drugog rizika ili koja ne utječe na funkciju, radni takt ni energiju, ne ispunjava ovaj kriterij.

Kriterij 3Zaštita

Zahtijeva nove zaštitne mjere

Zahtijeva dodavanje ili preinaku zaštitnih mjera: štitnika, zaštitnog uređaja ili preinaku sigurnosne logike. Ako postojeće mjere pokrivaju novonastalu situaciju bez ikakvih zahvata, kriterij nije ispunjen.

Tri odgovora „da”: smatrate se proizvođačem preinačenog stroja. Samo jedan „ne”: niste proizvođač, ali to morate moći dokazati.

Izvor: Uredba (EU) 2023/1230, članak 3. točka 16. (definicija), članak 17. (stavljanje na tržište pod vlastitim imenom) i članak 18. (obveze u slučaju znatne preinake) — EUR-Lex. Pogledajte i naš vodič za retrofit i česta pitanja.

§ Članak 3. točka 16. · zahtjev 1.2.1.

Slučaj koji već stiže: softverski agent koji upravlja strojem.

Povjeravanje upravljanja postojećim strojem sustavu umjetne inteligencije nije novo pitanje za Uredbu. U njoj je već unaprijed predviđeno i rješava se pomoću ista tri kriterija.

Definicija iz članka 3. točke 16. obuhvaća preinake izvedene „fizičkim ili digitalnim sredstvima”. Softverski agent povezan s kontrolnim sustavom stroja koji je već u uporabi stoga je, prema samom tekstu propisa, kandidat za znatnu preinaku. Za softver ne postoji iznimka i nije bio potreban novi propis da se otvori to pitanje.

Ono što se mijenja jest brzina. Povezivanje softverskog agenta s proizvodnom ili laboratorijskom opremom mjerilo se u tjednima integracije; standardi sučelja objavljeni 2026. smanjuju to vrijeme na sate. Broj takvih povezivanja znatno će porasti prije nego što ga tehnička dokumentacija uspije pratiti.

1. kriterij — nije predviđena

Gotovo je uvijek ispunjen. Proizvođač stroja isporučenog 2019. nije u svojim uputama za uporabu predvidio da će softverski agent voditi njegove cikluse. Točno pitanje koje treba postaviti: postoji li dokument proizvođača koji opisuje ovakav način upravljanja? Ako postoji, kriterij otpada i analiza tu završava.

2. kriterij — sigurnost

Mora se ispitati, a nikada pretpostaviti. Agent koji promatra i bilježi ne stvara nikakvu opasnost. Agent koji upravlja (putanja, radni takt, redoslijed, energije) dovodi stroj u stanja koja izvorna procjena rizika nije obuhvatila.

3. kriterij — zaštita

Ovdje se sve odlučuje, a tekst je precizan: potrebni su ili a) štitnici ili zaštitni uređaji „čija obrada zahtijeva preinaku postojećeg sustava za kontrolu sigurnosti”, ili b) nove zaštitne mjere radi osiguravanja stabilnosti ili mehaničke čvrstoće.

Arhitektura određuje pravni režim. Agent koji upravlja kroz funkcionalnu sigurnost preinačuje je. Agent koji upravlja ispod neovisne i neizmijenjene sigurnosti ne dira je.

Posljedica je konkretna i odlučuje se pri projektiranju instalacije, a ne naknadno. Ako su zaustavljanje u slučaju opasnosti, sigurnosne udaljenosti i prostorna ograničenja i dalje u nadležnosti neovisnog sustava za kontrolu sigurnosti, koji agent ne može niti zaobići niti rekonfigurirati, treći kriterij možda nije ispunjen. Ako je agent integriran u sigurnosnu logiku, ili ako njegove ovlasti zahtijevaju njezinu reviziju, kriterij je ispunjen, a članak 18. osobu koja je izvela zahvat smatra proizvođačem preinačenog stroja.

Ako je znatna: primjenjuje se zahtjev 1.2.1.

Preinačeni stroj mora ispunjavati bitne zahtjeve iz Priloga III. u svojem preinačenom stanju. Zahtjev 1.2.1. sadrži odlomak sastavljen za kontrolne sustave „s ponašanjem ili logikom koji se potpuno ili djelomično sami razvijaju, a koji su projektirani za rad s više stupnjeva autonomije”. On propisuje tri stvari:

da ti sustavi „ne uzrokuju da stroj ili srodni proizvod izvršava radnje koje nisu među njegovim definiranim zadacima i koje su izvan njegova prostora za kretanje”;
bilježenje podataka o procesu donošenja odluka povezanih sa sigurnošću softverskih sigurnosnih sustava, koji se čuvaju godinu dana nakon bilježenja, i to isključivo radi dokazivanja sukladnosti na obrazloženi zahtjev nacionalnog tijela;
da u svakom trenutku mora biti moguće ispraviti rad stroja kako bi se očuvala njegova inherentna sigurnost.

Isti zahtjev u svom općem odlomku dodaje dvije obveze koje ne ovise o bilo kakvoj autonomiji. Zapisnik o praćenju podataka o verzijama učitanog sigurnosnog softvera, dostupan pet godina nakon učitavanja. I povrh svega, rečenica koju gotovo nitko ne navodi: granice sigurnosnih funkcija utvrđuju se u procjeni rizika proizvođača te nisu dopuštene nikakve preinake postavki ili pravila koje generira stroj ili operateri, „među ostalim tijekom faze učenja”, ako to može dovesti do opasne situacije.

Agent koji može mijenjati vlastite sigurnosne granice već po konstrukciji nije sukladan. To nije pitanje namjere ni kvalitete modela: to je pitanje arhitekture i dokazuje se na razini same opreme.

Prijeloman trenutak: Prilog I.

To je posljedica koja se prekasno uoči. Ako sustav koji se sam razvija obavlja sigurnosne funkcije i upotrebljava pristupe strojnog učenja, stroj spada u Prilog I. dio A, točke 5. i 6. Članak 25. stavak 2. tada ne ostavlja izlaz: proizvođač — ili osoba iz članka 18., odnosno autor preinake — primjenjuje EU ispitivanje tipa (modul B, nakon čega slijedi modul C), potpuno osiguranje kvalitete (modul H) ili jediničnu provjeru (modul G).

Unutarnja kontrola proizvodnje, modul A, koji provodite samostalno, ne nalazi se na tom popisu. Nužno je prijavljeno tijelo, uz rokove i troškove koje to povlači.

Agent koji optimizira radni takt ne ulazi u Prilog I. Agent čiji izlaz sudjeluje u sigurnosnoj funkciji, ulazi. Između ta dva slučaja stoji arhitektonska odluka koja se donosi prije kupnje, a ne poslije.

Izvori: Uredba (EU) 2023/1230 — članak 3. točka 16. (definicija), članak 18. (obveze), članak 25. stavci 1. i 2. (postupci), Prilog I. dio A točke 5. i 6. te Prilog III. zahtjev 1.2.1. — EUR-Lex. O ubrzanju integracije između agenata i strojeva: Anthropic, „Previewing the Model Hardware Standard”, 27. kolovoza 2026. (istraživački pretpregled). Pogledajte i zahtjev 1.2.1 u Zahtjevima i normama i česta pitanja.