BRATISLAVA. Pripravovaný plán ministerstva vnútra pokryť tri tisícky škôl kamerovým systémom s umelou inteligenciou môže naraziť na čerstvú európsku legislatívu, ktorá vstúpila do platnosti len v lete.
AI Act, legislatívny balík, ktorý má nastaviť hranice rýchlo sa rozvíjajúcemu trhu s umelou inteligenciou, nemá svojou komplexnosťou vo svete obdobu. Okrem iného zakazuje využitie určitých typov systémov založených na umelej inteligencii.
Podľa advokáta Andreja Leontieva k nim môže patriť aj plánovaný systém ministra vnútra Matúša Šutaja Eštoka.
Rezort vnútra však tvrdí, že kamerový systém bude spĺňať všetky legislatívne požiadavky. V súčasnosti pripravuje vlastnú právnu analýzu, potvrdilo ministerstvo pre denník SME.
Pilotný projekt na prvých troch slovenských školách má byť realizovaný už v najbližších mesiacoch a bude stáť takmer 138-tisíc eur. Celý projekt počíta so zapojením 2967 základných a stredných škôl s celkovými nákladmi 62,7 milióna eur.
Dočítate sa:
- ako majú kamery s umelou inteligenciou fungovať,
- prečo môže mať Únia s nasadením takéhoto systému v školách problém,
- čím sa bráni rezort vnútra a aké má plány.
Plošného sledovania sa Únia bojí
Už pri ohlásení zámeru Šutaj Eštok menovite uviedol, že kamerový systém bude v súlade s GDPR, teda európskym všeobecným nariadením o ochrane údajov. Legislatíva, ktorá je v platnosti od roku 2018, prísne reguluje možnosti spracovania citlivých osobných dát Európanov.
Minister však zároveň spomenul, že kamerový systém bude využívať umelú inteligenciu.
„V prípade projektu ‚Kamery na školách‘ bude systém zabezpečovať aktívne monitorovanie s analýzou záznamu v reálnom čase, pričom bude slúžiť na identifikáciu potenciálnych hrozieb a neobvyklých aktivít,“ spresnil rezort pre denník SME. Systém v prípade identifikácie rizika sám upozorní operačné stredisko.
Práve tu sa však navrhované riešenie dostáva do potenciálneho konfliktu s inou európskou legislatívou – AI Act, ktorá oficiálne vstúpila do platnosti 1. augusta tohto roka. Okrem iného opisuje spôsoby, akými sa umelá inteligencia nesmie využívať.
„Jedným z tých spôsobov je rozpoznávanie tváre v reálnom čase na účely dodržiavania zákona. To je akoby všeobecné pravidlo, od ktorého sa možno odchýliť len z dôvodu výnimiek uvedených v nariadení,“ vysvetľuje pre SME advokát Andrej Leontiev, partner advokátskej kancelárie Taylor Wessing.
Spomínané výnimky sú však úzko špecifikované. Podľa advokáta sa zamýšľaný kamerový systém najviac približuje k splneniu výnimky o zabránení konkrétneho, závažného a bezprostredného ohrozenia života či reálnej, alebo predvídateľnej hrozby teroristického útoku.
Systém, ktorý má plošne a priebežne monitorovať priestory škôl, by pod uvedenú výnimku podľa Leontieva nespadal.
Nelegálne nie sú kamery, ale ich účel
AI Act je európske nariadenie, nie smernica, preto je priamo záväzné a jednotlivé členské štáty ju nemusia samostatne implementovať do národnej legislatívy. Zároveň však do platnosti vstupuje postupne počas obdobia najbližších dvoch rokov.
Časť o zakázaných systémoch umelej inteligencie vstúpi do platnosti až vo februári 2025. To vytvára krátke časové okno, keď je ich využitie na európskom trhu technicky legálne. Z praktického hľadiska však zavedenie systému, ktorý bude už o pár mesiacov zakázaný, nedáva zmysel.
„Preto je podľa mňa dôležité o tom teraz diskutovať, aby sme nezačali obstarávať niečo, čo nebude po pol roku plne využiteľné na zamýšľaný účel,“ myslí si advokát.
Kamerové systémy s umelou inteligenciou pritom nie sú žiadnou novinkou, na trhu s technológiami sú bežne dostupné a ani s nástupom AI Act nebudú automaticky nelegálne. Leontiev zdôrazňuje, že nová európska legislatíva upravuje účely, na ktoré môže alebo nemôže byť takáto technológia využitá. Tieto pravidlá sa navyše líšia naprieč globálnym trhom.
„My sa rozprávame o tom, či nejaký systém je na niečo vhodný, a potom sa ešte rozprávame o tom, či je na našom území podľa zákona dovolený. Ale inde, samozrejme, rovnaký systém dovolený byť môže – napríklad v Amerike,“ vysvetľuje advokát.
Cestou prísnejšej regulácie umelej inteligencie sa v budúcnosti vydajú aj ďalšie krajiny, myslí si Leontiev. Nateraz platí, že žiadny štát na svete dnes nemá takú komplexnú legislatívu o AI, akú má Európska únia.
Štát: Myslíme aj na to
Ministerstvo vnútra tvrdí, že navrhovaný systém bude spĺňať všetky legislatívne podmienky. „Kamerový systém na školách bude tak v súlade s GDPR, ako aj AI Act. Právna analýza súladu plánovaného projektu s dotknutými právnymi normami je v procese prípravy,“ uviedlo pre denník SME.
Systém má byť automatizovaný, aby si nevyžadoval špeciálnu obsluhu a zároveň nevyťažoval policajtov základných útvarov.
„V prípade rozoznávania tváre bude možné porovnanie s prednastavenými modelmi tváre (nachádzajúcimi sa v národných, ako aj medzinárodných databázach), ktoré budú predmetom záujmu (hľadané osoby a pod.) s možnosťou nastavenia percentuálnej zhody,“ opisuje rezort jednu z hlavných výhod umelej inteligencie.
Monitorovacie bezpečnostné systémy v lokalitách s pohybom veľkého množstva ľudí môžu byť implementované rôznym spôsobom. Napríklad osadením turniketov či koridorov, cez ktoré musia návštevníci prejsť, aby ich systém zaznamenal.
Rezort vnútra zamýšľaný zámer od škôl s vytvorením takýchto koridorov nepočíta. Rozloženie kamier v rámci areálu bude zohľadňovať priestorovú dispozíciu školy, spresnilo ministerstvo pre SME.
„Ministerstvo vnútra SR aktuálne spracúva komplexnú štúdiu zameranú na zber, spracovanie a vyhodnocovanie videoobrazových záznamov. Táto štúdia bude riešiť tak technické detaily, možné využitie existujúcich technológií, ich prepojenie a vzájomné použitie, ako aj príklady dobrej praxe obdobných riešení implementovaných v zahraničí,“ avizuje svoje plány rezort, pričom za relevantné príklady označuje Veľkú Britániu či USA.
