Kas tehisintellekti agendi ühendamine olemasoleva masinaga on oluline muutmine?

Seda hinnatakse määruse (EL) 2023/1230 artikli 3 punkti 16 kolme kriteeriumi alusel, mis hõlmab selgesõnaliselt „füüsilisi või digitaalseid“ muudatusi: tarkvarale ei kehti mingeid erandeid. Esimene kriteerium on peaaegu alati täidetud, kuna tootja ei näinud oma kasutusjuhendis sellist juhtimisviisi ette. Teine kriteerium sõltub agendi tegelikust tegevusulatusest: jälgimine ja andmete salvestamine ei tekita ühtegi ohtu; trajektoori, töökiiruse või energiaallikate juhtimine viib masina olekutesse, mida esialgne riskihindamine ei katnud. Kolmas kriteerium on otsustav: see nõuab kas kaitsepiirdeid või kaitseseadiseid, „mille integreerimiseks on vaja muuta olemasolevat ohutuse tagamise juhtsüsteemi“, või uusi kaitsemeetmeid stabiilsuse või mehaanilise tugevuse tagamiseks. Kui funktsionaalse ohutuse tagab jätkuvalt sõltumatu süsteem, mida agent ei saa mööda minna ega ümber seadistada, ei pruugi see kriteerium olla täidetud. Kui agent on integreeritud ohutusloogikasse, on kriteerium täidetud ja artikli 18 kohaselt loetakse sekkumise tegija muudetud masina tootjaks.

Mida nõuab masinamäärus tehisintellektil põhinevalt juhtsüsteemilt?

Määruse (EL) 2023/1230 III lisa oluline nõue 1.2.1 sisaldab eraldi lõiku juhtsüsteemidele, mille täielikult või osaliselt isearenev käitumine või loogika on kavandatud toimima eri autonoomiatasemetel. See nõuab, et need ei põhjustaks masina tegevusi väljaspool määratletud ülesannet ja liikumisala, et oleks tagatud tarkvarapõhiste ohutussüsteemide ohutusalaste otsuste tegemise protsessi andmete salvestamine ja säilitamine ühe aasta jooksul pärast salvestamist ning et masinat oleks igal ajal võimalik korrigeerida selle omase ohutuse säilitamiseks. Sama nõude üldine lõik lisab nõude säilitada laaditud ohutustarkvara versioonide logi viie aasta jooksul alates laadimisest ning reegli, et masina või käitajate loodud seadistuste ega reeglite muutmine ei ole lubatud (isegi õppimisetapis), kui see võib tekitada ohtliku olukorra. Määrus ei keela masina juhtimist tehisintellekti abil: see nõuab, et selle tegevusvaldkond oleks piiritletud, jälgitav ja korrigeeritav.

Kas tehisintellekti agent masinal kohustab pöörduma teada antud asutuse poole?

Kahe kumulatiivse tingimuse esinemisel. Määruse (EL) 2023/1230 I lisa A osa punktis 5 on nimetatud ohutusseadised, millel on täielikult või osaliselt isearenev käitumine ja mis kasutavad masinõppe lähenemisviise ohutusfunktsioonide täitmiseks, ning punktis 6 masinad, mis sisaldavad selliste omadustega süsteeme. Seega on vaja korraga, et süsteem täidaks ohutusfunktsiooni ja põhineks masinõppel. Kui see on nii, kohustab artikli 25 lõige 2 tootjat — või artiklis 18 osutatud isikut, st olulise muutmise tegijat — kohaldama ELi tüübihindamist koos järgneva tüübivastavusega, täielikku kvaliteedi tagamist või üksiktoote vastavustõendamist. Tootmise sisekontroll (moodul A) ei kuulu nende võimaluste hulka: enesesertifitseerimine ei ole võimalik. Agent, mis optimeerib töötsüklit ohutusfunktsioonis osalemata, ei kuulu I lisa alla.

Avaleht / Oluline muutmine

§ Artikli 3 punkt 16 · artiklid 17 ja 18

Kas see muutmine on oluline?

Kuus küsimust õigusaktis esitatud järjekorras. Lõpus on põhjendatud hinnang ja hindamisleht väljatrükkimiseks ning allakirjutamiseks. Just see loeb: tootjaks ei saada mitte masina muutmise tõttu, vaid seetõttu, et seda muudeti ilma kirjaliku vormistuseta.

Küsimus 1 / 6

§ Miks need kolm kriteeriumi

Õigusakti tekst enne tööriista.

Artikli 3 punktis 16 määratletakse oluline muutmine kolme tingimuse kaudu, mis peavad olema täidetud koos. Artikli 18 kohaselt tuleneb sellest tagajärg: isikut, kes muutmise teeb, käsitatakse muudetud masina tootjana.

1. kriteeriumEttenägematu

Tootja ei olnud seda ette näinud

Muutmine tehakse pärast turule laskmist füüsiliste või digitaalsete vahenditega ning tootja ei ole seda ette näinud ega kavandanud. Kasutusjuhendis kirjeldatud seadistus, kataloogi lisavarustus või tootja enda müüdav komplekt: see kõik oli ette nähtud ega kuulu selle kohaldamisalasse.

2. kriteeriumOhutus

Mõjutab ohutust

Tekitab uue ohu või suurendab olemasolevat riski. Muutmine, mis parandab ohutust teist riski tekitamata või mis ei mõjuta funktsiooni, töökiirust ega energiatasemeid, ei vasta sellele kriteeriumile.

3. kriteeriumKaitsemeetmed

Nõuab uusi kaitsemeetmeid

Tingib vajaduse lisada või muuta kaitsemeetmeid: kaitsepiiret, kaitseseadist või ohutusloogika ümberprojekteerimist. Kui olemasolevad meetmed katavad uue olukorra ilma neid muutmata, ei ole kriteerium täidetud.

Kolm „jah“-vastust: olete muudetud masina tootja. Üksainus „ei“: te ei ole tootja, kuid peate suutma seda tõendada.

Allikas: määrus (EL) 2023/1230, artikli 3 punkt 16 (mõiste), artikkel 17 (turule laskmine oma nime all) ja artikkel 18 (kohustused olulise muutmise korral) — EUR-Lex. Vaadake ka meie moderniseerimisjuhendit ja korduma kippuvaid küsimusi.

§ Artikli 3 punkt 16 · nõue 1.2.1

Juba saabuv olukord: tarkvaraagent, mis juhib masinat.

Olemasoleva masina juhtimise usaldamine tehisintellektisüsteemile ei ole määruse jaoks uus teema. See oli sinna juba ette sisse kirjutatud ja seda lahendatakse samade kolme kriteeriumi abil.

Artikli 3 punkti 16 määratlus hõlmab muudatusi, mis on tehtud „füüsiliste või digitaalsete vahenditega“. Seetõttu võib juba kasutusele võetud masina juhtseadistega ühendatud agent olla õigusakti teksti kohaselt olulise muutmise kandidaat. Tarkvarale erirežiimi ei ole ja selle küsimuse tekkimiseks ei olnud vaja uut õigusakti.

Muutunud on kiirus. Agendi ühendamist tootmis- või laboriseadmega mõõdeti varem integreerimisnädalates; 2026. aastal avaldatud liidesestandardid lühendavad selle aja tundideni. Selliste ühenduste arv kasvab tunduvalt kiiremini, kui tehniline dokumentatsioon suudab sammu pidada.

1. kriteerium — ette nägemata

Peaaegu alati täidetud. 2019. aastal tarnitud masina tootja ei näinud oma kasutusjuhendis ette, et tsükleid hakkab juhtima agent. Täpne küsimus, mis tuleb esitada: kas on olemas tootja dokument, milles kirjeldatakse sellist juhtimisviisi? Kui see on olemas, langeb kriteerium ära ja analüüs sellega lõpeb.

2. kriteerium — ohutus

Seda tuleb kontrollida, mitte kunagi eeldada. Agent, mis jälgib ja salvestab, ei tekita ühtegi ohtu. Agent, mis annab käsklusi (trajektoor, kiirus, järjestus, energiad), viib masina olekutesse, mida esialgne riskihindamine ei hõlmanud.

3. kriteerium — kaitseseadised

Siin otsustataksegi kõik ja tekst on täpne: vaja on kas a) kaitsepiirdeid või kaitseseadiseid „milleks tuleb muuta olemasolevat ohutusjuhtimissüsteemi“ või b) täiendavaid kaitsemeetmeid stabiilsuse või mehaanilise tugevuse tagamiseks.

Õigusliku korra määrab arhitektuur. Agent, mis juhib läbi funktsionaalse ohutuse ahela, muudab seda. Agent, mis annab käske allpool sõltumatut ja muutmata ohutussüsteemi, ei puuduta seda.

Tagajärg on konkreetne ja see otsustatakse paigaldise projekteerimisel, mitte hiljem. Kui hädaseiskamise, ohutuskauguste ja ruumipiirangute eest vastutab endiselt sõltumatu ohutuse juhtsüsteem, millest agent ei saa mööda minna ega seda ümber konfigureerida, võib kolmas kriteerium jääda täitmata. Kui agent on integreeritud ohutusloogika sisse või kui selle volitused sunnivad seda loogikat muutma, on kriteerium täidetud ja artikkel 18 käsitab sekkunud isikut muudetud masina tootjana.

Kui muutmine on oluline: kohaldatakse nõuet 1.2.1

Muudetud masin peab vastama III lisa olulistele nõuetele oma muudetud olekus. Nõue 1.2.1 sisaldab lõiku, mis on koostatud juhtsüsteemide jaoks, millel on „täielikult või osaliselt isearenevana kavandatud käitumise või loogikaga masina või sellega seotud toote korral, mis on projekteeritud eri määral autonoomselt töötama“. See paneb peale kolm nõuet:

need süsteemid „need ei põhjusta masina või sellega seotud toote tegevust, mis ületab selle jaoks kindlaksmääratud ülesande ja liikumisala piire“;
tarkvarapõhiste ohutussüsteemide ohutusalase otsustusprotsessi andmete salvestamine, mida säilitatakse ühe aasta jooksul pärast salvestamist ning üksnes riigi ametiasutuse põhjendatud taotluse alusel vastavuse tõendamiseks;
et masinat oleks igal ajal võimalik korrigeerida, säilitamaks selle olemuslikku ohutust.

Sama nõue oma üldises lõigus lisab kaks kohustust, mis ei sõltu autonoomsusest. Laaditud ohutustarkvara versioonide logi, mis on kättesaadav viis aastat alates laadimisest. Ja ennekõike lause, mida peaaegu keegi ei tsiteeri: ohutusfunktsioonide piirangud määratakse kindlaks tootja riskihindamises ning masina või käitajate tekitatud seadistuste või reeglite muutmine ei ole lubatud, „sealhulgas masina või sellega seotud toote õpietapis“, kui see võib põhjustada ohtliku olukorra.

Agent, mis suudab omaenda ohutuspiire kohandada, ei ole konstruktsioonilt nõuetele vastav. See ei ole kavatsuse ega mudeli kvaliteedi küsimus: see on arhitektuuri küsimus ning seda tuleb tõendada seadme tasandil.

Pöördepunkt: I lisa

See on tagajärg, mis avastatakse liiga hilja. Kui isearenev süsteem tagab ohutusfunktsioone ja kasutab masinõppemeetodeid, kuulub masin I lisa A osa punktide 5 ja 6 alla. Artikli 25 lõige 2 ei jäta sel juhul valikuvõimalust: tootja – või artiklis 18 osutatud isik, st muutmise teostaja – kohaldab ELi tüübihindamist (moodul B, millele järgneb moodul C), täielikku kvaliteedi tagamist (moodul H) või üksiktoote vastavustõendamist (moodul G).

Tootmise sisekontrolli, moodulit A, mida tehakse iseseisvalt, selles loetelus ei ole. Vaja on teada antud asutust koos sellest tuleneva aja- ja rahakuluga.

Agent, mis optimeerib töötsüklit, ei kuulu I lisa reguleerimisalasse. Agent, mille väljund osaleb ohutusfunktsiooni täitmises, kuulub sinna. Nende vahel on arhitektuurne otsus, ja see tehakse enne ostmist, mitte pärast.

Allikad: määrus (EL) 2023/1230 — artikli 3 punkt 16 (mõiste), artikkel 18 (kohustused), artikli 25 lõiked 1 ja 2 (menetlused), I lisa A osa punktid 5 ja 6 ning III lisa nõue 1.2.1 — EUR-Lex. Agentide ja masinate integratsiooni kiirenemise kohta: Anthropic, „Previewing the Model Hardware Standard“, 27. august 2026 (uuringu eelvaade). Vaadake ka nõuet 1.2.1 lehel Nõuded ja standardid ning korduma kippuvaid küsimusi.