Vyhľadávanie v online časopise
Online časopis
Právna regulácia umelej inteligencie (perspektívy a výzvy)
PINTÉROVÁ, D.: Právna regulácia umelej inteligencie (perspektívy a výzvy). Právny obzor, 107, 2024, č. 4, s. 361 – 383.
https://doi.org/10.31577/pravnyobzor.2024.4.02
Law Regulation of Artificial Intelligence (Perspectives and Challenges). Artificial Intelligence (AI) has witnessed exponential growth in recent years, transforming industries,economies, and societies at an unprecedented pace. As AI technologies continue to advance, concerns about their ethical and legal implications have become increasingly prominent. The law regulation of AI is evolving area. Regulators face a number of challenges in developing and implementing effective regulatory frameworks. One of the key challenges is developing a regulatory framework that can keep pace with the rapid pace of innovation in AI. Another challenge is ensuring that AI is used in a way that is ethical and responsible, and that protects human rights and values. However, there is a growing consensus that some form of regulation is necessary to ensure that AI is used in a safe and responsible manner.
Key words: artificial intelligence, law-making, challenges, perspectives
Úvod
Umelá inteligencia (AI) podľa štúdie spoločnosti PwC prinesie do roku 2030 zvýšenie HDP vo svete v priemere o 14 %.
1)
Pre Európu by využívanie umelej inteligencie malo priniesť viac ako 20 % HDP, čo je v prepočte takmer 2,25 bilióna eur. Najväčšie zisky z umelej inteligencie pravdepodobne dosiahne Čína, a to zvýšenie na 26 % HDP v roku 2030.
2)
Hamletovská otázka v nadväznosti na právnu úpravu umelej inteligencie (ďalej aj ako "AI") pre zákonodarcov znie:
"Regulovať alebo neregulovať?"
Názory na reguláciu
3)
AI sa u rôznych zainteresovaných strán líšia.
4)
Na jednej strane zástancovia tvrdia, že právna regulácia je nevyhnutná na ochranu ľudských práv, súkromia a bezpečnosti. Na druhej strane, zástancovia prístupu
laissez-faire
tvrdia, že nadmerná regulácia môže potláčať inovácie a brániť potenciálnym výhodám AI.
5)
Dosiahnutie správnej rovnováhy medzi reguláciou predstavujúcou ochranu záujmov spoločnosti a inováciami je podľa nášho názoru rozhodujúce na využitie potenciálu AI a zároveň zmiernenie jej rizík pre spoločnosť. Daná rovnováha je nevyhnutná pre formovanie budúcnosti AI spôsobom, ktorý maximalizuje jej výhody a zároveň zmierňuje potenciálne riziká. Právna úprava, ktorá dokáže primerane vyvážiť tieto potreby a zaviesť právnu istotu pre zainteresované strany, by mohla nielen zabezpečiť dôveru v technológiu AI, ale aj uľahčiť jej zavádzanie - a tým podporiť konkurencieschopnosť krajín.
6)
Hlavným prostriedkom na dosiahnutie rovnováhy a vytvorenie súdržného a účinného právneho rámca pre AI je medzinárodná spolupráca a neustály dialóg medzi zainteresovanými stranami. Krajiny a regióny sa však líšia vo svojich prístupoch, čo vedie k potenciálnym konfliktom a fragmentácii právnych predpisov na regionálnej, národnej, medzinárodnej a nadnárodnej úrovni. Cezhraničná harmonizácia predpisov o umelej inteligencii môže byť základným aspektom riešenia tejto globálnej výzvy, ktorý by zabezpečil, že systémy umelej inteligencie možno vyvíjať, používať, kontrolovať a efektívne riadiť. V súčasnosti rastie konsenzus, že na zabezpečenie bezpečného a zodpovedného používania AI je potrebná určitá forma právnej regulácie AI.
7)
Na základe uvedeného sa domnievame, že kľúčová otázka znie:
Či a ako by mala byť umelá inteligencia regulovaná?
Nemenej dôležitou je tiež otázka:
8)
Aké sú hlavné výzvy pre jej právnu úpravu de lege ferenda?
1. Identifikácia výziev pre zákonodarcov v rámci právnej regulácie AI
Právna úprava AI predstavuje niekoľko výziev v dôsledku rýchleho pokroku v technológii a rôznych prístupov k regulácii umelej inteligencie, ktoré sťažujú vytvorenie jasných a účinných právnych rámcov jej regulácie. Za najkľúčovejšie výzvy identifikujeme nasledujúce:
1. Definícia AI:Nedostatok všeobecne akceptovanej definície AI sťažuje vytváranie právnych úprav, ktoré by zahŕňali celé spektrum technológií a aplikácií AI.
9)
Táto nejednoznačnosť môže viesť k regulačným medzerám a nezrovnalostiam.
10)
2.
Rýchly technologický pokrok:
Tempo vývoja AI je rýchle, čo sťažuje zákonodarcom a regulačným orgánom držať krok. Legislatíva môže rýchlo zastarať, keď sa objavia nové technológie AI. Účinná regulácia by pritom mala maximalizovať verejný prospech AI pre spoločnosť a zároveň minimalizovať riziká. Technológie AI sa však stále vyvíjajú, takže je ťažké vedieť alebo predvídať, aké budúce riziká alebo výhody môžu vzniknúť. Tieto druhy neznámych premenných sťažujú reguláciu AI tradičnými zákonmi a nariadeniami.
11)
3.
Nedostatok medzinárodného konsenzu:
Rôznorodosť úpravy technológií AI potvrdzujú predovšetkým vnútroštátne zákony a národné stratégie týkajúce sa AI, ktorých obsah závisí od významu a rozvoja AI technológií v konkrétnom štáte. Vo všeobecnosti možno uviesť, že takéto predpisy upravujú hlavne čiastkové spôsoby a podmienky komerčného využívania AI technológií civilného charakteru. Systémy umelej inteligencie často fungujú cez medzinárodné hranice, čo môže spôsobiť, že ak takéto technológie po čase prekročia hranice jednotlivých štátov, na území iného štátu môžu byť konfrontované s odlišnou vnútroštátnou úpravou. Rôzne regulačné prístupy môžu vytvárať výzvy pre medzinárodné podniky a organizácie, najmä to môže viesť k situáciám, keď spoločnosti presúvajú svoje činnosti do jurisdikcií s menej prísnymi predpismi AI. Je preto potrebná medzinárodná spolupráca a harmonizácia predpisov o umelej inteligencii na vytvorenie konzistentných noriem a predpisov.4.
Interdisciplinárny charakter:
Umelá inteligencia je komplexná a interdisciplinárna oblasť zahŕňajúca prvky informatiky, etiky, práva a ďalších. Regulačné orgány potrebujú pochopenie fungovania danej technológie, aby mohli vyvinúť účinné predpisy, čo môže byť náročné vzhľadom na jej mnohostrannú povahu.
12)
5. Etické otázky: Určenie toho, čo je etické pri vývoji a používaní AI, je subjektívne a môže sa líšiť v rôznych kultúrach a spoločnostiach. Vyváženie inovácií s etickými úvahami predstavuje pre zákonodarcov značnú výzvu. Napríklad Európska komisia požaduje, aby bol etický rámec zohľadnený pri navrhovaní nových prvkov umelej inteligencie, ktorej hlavným znakom by mala byť dôveryhodnosť. Odporúčania v tomto smere vypracovala expertná skupina pre umelú inteligenciu zriadená Európskou komisiou v máji 2018 (High Level Expert Group on Artificial Intelligence).
Zameranie na etickú umelú inteligenciu preberajú do národných stratégií postupne aj jednotlivé členské krajiny EÚ.
6. Zaujatosť a spravodlivosť: Výstupy umelej inteligencie veľmi úzko súvisia s tým, ako je navrhnutá a akými údajmi je
"kŕmená".
Jej dizajn aj vstupné údaje môžu byť úmyselne alebo neúmyselne skreslené. Pri vytváraní algoritmu môžu byť vynechané dôležité súčasti, v dôsledku čoho môžu udržiavať alebo zosilňovať existujúce predsudky v spoločnosti, čo vedie k diskriminačným a zaujatým výsledkom.
13)
Napríklad, ak sa údaje určené na výcvik vyznačujú zaujatosťou (čiže nie sú dostatočne vyvážené alebo inkluzívne), systém umelej inteligencie vycvičený na základe týchto údajov nebude môcť správne zovšeobecňovať a pravdepodobne bude prijímať zaujaté rozhodnutia, ktoré môžu uprednostňovať niektoré skupiny pred inými.
14)
Regulácia by mala na tento problém reagovať podporou spravodlivosti a nediskriminácie pri vývoji, tréningu a zavádzaní AI.7.
Transparentnosť
Mnohé algoritmy AI fungujú ako
15)
a vysvetliteľnosť:"čierne skrinky",
takže je ťažké pochopiť, ako fungujú a dosahujú konkrétne rozhodnutia. V týchto prípadoch môžu byť potrebné iné opatrenia súvisiace s vysvetliteľnosťou (napr. vysledovateľnosť, kontrolovateľnosť a transparentná komunikácia o schopnostiach systému) za predpokladu, že systém ako celok rešpektuje základné práva.
16)
Regulačné orgány musia nájsť spôsoby, ako zabezpečiť transparentnosť a vyžadovať vysvetlenia pre rozhodnutia založené na AI, najmä v citlivých oblastiach, ako sú zdravotná starostlivosť a financie. Existuje pritom niekoľko dôvodov, prečo je transparentnosť AI dôležitá:- Dôvera: Transparentnosť AI môže pomôcť používateľom dôverovať systémom AI. Keď používatelia vedia, ako fungujú systémy AI, je menej pravdepodobné, že budú mať obavy z jej používania a rozhodovania.
- Zodpovednosť: Transparentnosť AI môže pomôcť zabezpečiť, aby systémy AI boli zodpovedné. Keď používatelia vedia, ako systémy AI prijímajú rozhodnutia, môžu byť lepšie pripravení na zodpovednosť.
- Porozumenie: Transparentnosť AI môže pomôcť používateľom lepšie pochopiť, ako systémy AI fungujú. To môže byť užitočné pre výrobcov, ktorí sa snažia zlepšiť systémy AI, ako aj pre používateľov, ktorí sa snažia lepšie pochopiť, ako systémy AI fungujú a rozhodujú.
8. Zodpovednosť za škodu:Otázka ako zabezpečiť, aby činnosť systémov umelej inteligencie bola transparentná, je úzko spätá s diskusiou o rozdelení zodpovednosti v kontexte AI. Určenie zodpovednosti v prípade nehôd alebo škôd súvisiacich s AI je náročné. Autonómny a nepredvídateľný charakter fungovania systémov AI vedie k otázkam o príčinnej súvislosti,
vis maior
a pod. Kto bude niesť zodpovednosť, keď AI aplikácia spôsobí fyzickú alebo morálnu ujmu? Kto bude zodpovedný, ak systém AI navrhne plán, ktorý poškodzuje výrobcu alebo tých aktérov, ktorí nakoniec implementujú algoritmy? Je možné žalovať algoritmus AI za nesprávne konanie?
17)
Otázky o tom, kto je zodpovedný - vývojári, používatelia alebo samotná AI - by sa mali riešiť v právnych predpisoch.
18)
9.
Súkromie a ochrana údajov:
Systémy umelej inteligencie sa často spoliehajú na obrovské množstvo osobných údajov, čo vyvoláva obavy o súkromie a ochranu údajov. Systémy umelej inteligencie musia zaručovať ochranu súkromia a údajov počas celého životného cyklu systému. Patria sem informácie, ktoré pôvodne poskytol používateľ, ako aj informácie, ktoré o používateľovi vznikli v priebehu jeho komunikácie so systémom (napr. výstupy, ktoré systém umelej inteligencie vytvoril v súvislosti s konkrétnymi používateľmi, alebo spôsob, akým používatelia reagovali na konkrétne odporúčania). Predpisy by mali riešiť, ako systémy AI zhromažďujú, používajú a ukladajú údaje, aby sa zabezpečilo dodržiavanie práv jednotlivcov na súkromie. Napríklad v EÚ je v tejto súvislosti najmä potrebné zabezpečiť súlad s Nariadením Európskeho parlamentu a Rady (EÚ) 2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica 95/46/ES (všeobecné nariadenie o ochrane údajov - GDPR).10. Dosahy na zamestnanosť:Vznik nových technológií - od elektrickej energie po internet - odjakživa menil povahu práce. Široké zavádzanie AI má potenciál narušiť tradičné trhy práce, čo môže viesť k nezamestnanosti v určitých sektoroch. AI má potenciál vykonávať niektoré úlohy vykonávané ľuďmi, na druhej strane aj pomôže vytvoriť nové a lepšie pracovné miesta, na ktoré však bude potrebná vyššia kvalifikácia. V konečnom dôsledku tak technológie AI pomáhajú zlepšovať schopnosti ľudí a robiť ich produktívnejšími.
19)
Právne rámce by mali riešiť sociálno-ekonomický vplyv AI na pracovnú silu.Riešenie týchto výziev si vyžaduje mnohostranný prístup zahŕňajúci spoluprácu medzi vládami, priemyslom, akademickou obcou a občianskou spoločnosťou. Podporovaním otvoreného dialógu, zdieľaním vedomostí a vývojom politík založených na dôkazoch môžeme pracovať na regulačnom rámci, ktorý podporuje zodpovedný vývoj a zavádzanie AI a zároveň zabezpečuje ochranu ľudských práv a spoločenských hodnôt.
2. Čo je umelá inteligencia?
Umelá inteligencia je už realitou a súčasťou našich životov, ktorú využívame denne, napr. na jazykové preklady, organizovanie nášho pracovného dňa, blokovanie e-mailových spamov a pod. Čo všetko však môžeme charakterizovať ako AI optikou jej vlastností a metód, ktoré používa? Kľúčové schopnosti systémov AI sú
vnímanie prostredia
(inými slovami zachytávanie a spracovanie informácií o ňom),
uvažovanie
a
rozhodovanie
(t. j. schopnosť logickej inferencie, ktorú je možné naprogramovať), ktoré sú úzko prepojené so schopnosťou
učenia
(na čo je potrebné dostatočné množstvo dát a výpočtový výkon). Všeobecne možno povedať, že metódy AI možno zoskupiť do dvoch hlavných skupín, ktoré sa zaoberajú schopnosťou uvažovania a rozhodovania na jednej strane a učenia sa na strane druhej:1. Uvažovanie a rozhodovanie: do tejto skupiny patria metódy na reprezentáciu a odvodzovanie znalostí, plánovanie, rozvrhovanie, vyhľadávanie a optimalizácia.
2. Učenie:zahŕňa metódy strojového učenia vrátane neurónových sietí, hlbokého učenia a mnohé ďalšie prístupy k strojovému učeniu.
20)
AI zahŕňa širokú škálu techník
21)
zameraných na vytváranie inteligentných systémov, napríklad
strojové učenie (machine learning, deep learning)
sa špecializuje na vývoj algoritmov, ktoré sa učia z údajov vytvárať predpovede alebo rozhodnutia,
generatívna AI
(napr.
ChatGPT
) využíva strojové učenie na generovanie originálneho a realistického obsahu. Proces používania tejto technológie a jej algoritmov sa využíva na analýzu údajov, zisťovanie vzorov alebo generovanie odporúčaní na podporu rozhodovania. Na základe uvedeného by sme pre mohli zovšeobecniť, že AI predstavuje systémy, ktoré fungujú spôsobom podobným ľudskej inteligencii, v dôsledku čoho takéto systémy prostredníctvom analýzy okolitého prostredia rozumejú ľudskej reči a sú schopné riešiť problémy a prijímať rozhodnutia, učiť sa z nadobudnutých skúseností, adaptovať sa a zlepšovať. Pritom si treba uvedomiť, že systémy založené na AI môžu mať výlučne softvérový charakter a pôsobiť vo virtuálnom svete (napr. hlasový asistent, vyhľadávače, systémy rozpoznávania reči a tváre) alebo môžu byť zabudované do hardvérových zariadení (napr. pokročilé roboty, autonómne vozidlá, drony alebo aplikácie internetu vecí). V uvedených príkladoch použitia ide často o určitú časť komplexnejšieho systému, ktorý využíva jednu alebo viac metód umelej inteligencie.22)
V rámci kategorizácie AI z pohľadu participácie človeka existujú štyri druhy umelej inteligencie:
1. Automatizovaná inteligencia: Automatizácia manuálnych/kognitívnych a rutinných/nerutinných úloh.
2. Asistovaná inteligencia: Pomáha ľuďom vykonávať úlohy rýchlejšie a lepšie.
3. Rozšírená inteligencia:Pomáha ľuďom robiť lepšie rozhodnutia prostredníctvom prediktívnej alebo preskriptívnej analytiky na odporúčanie alternatív.
4. Autonómna inteligencia: Automatizácia rozhodovacích procesov bez zásahu človeka prostredníctvom použitia preskriptívnej alebo prediktívnej analýzy na automatizáciu rozhodovacieho procesu.23)
3. Problematika právnej definície umelej inteligencie
Napriek danému popisu AI je nevyhnutné konštatovať, že umelá inteligencia je ťažko definovateľná.
24)
Dôvodom uvedeného je skutočnosť, že samotné definície AI sa rôznia a menia v závislosti od subjektov, ktoré ich prinášajú, resp. potrieb, na ktoré mali byť použité prakticky už od r. 1956, keď bol tento pojem použitý prvýkrát v rámci Darthmoutského letného výskumného projektu o umelej inteligencii, ktorého účastníci skúmali, ako pracuje ľudský mozog, a na základe takýchto údajov sa pokúsili vytvoriť vyspelejšie počítače.
25)
Keďže neexistuje právny a politický konsenzus o tom, čo je AI, v Európe a na celom svete sa objavilo množstvo definícií, ktoré sú buď príliš inkluzívne, alebo príliš špecifické pre konkrétny sektor.
26)
Za najväčšiu výzvu právnej regulácie AI tak považujeme otázku legálnej definície samotnej umelej inteligencie, pretože keď chcú zákonodarcovia regulovať AI, musia najprv definovať, čo AI je. Z právnej úpravy definície AI musia byť súdy schopné presne určiť, či konkrétnu technológiu zákon považuje za AI alebo nie. Súhlasíme s názorom prof. Klučku, že
"nedostatok definície brzdí ďalšie diskusie o možnej spolupráci v AI oblasti, pretože len ťažko možno uvažovať o právnej úprave, ktorej pojem a predmet nie je jasne definovateľný."
Odborná spisba zdôrazňuje, že ťažkosti pri definovaní umelej inteligencie nespočívajú v koncepte pojmu umelá, ale skôr v konceptuálnej nejednoznačnosti pojmu inteligencia.
27)
28)
Pojem inteligencia (v strojoch aj u ľudí) je pomerne nejasný, preto výskumníci AI používajú väčšinou pojem racionalita. Znamená to, že systém s AI je schopný zvoliť najlepší možný postup na dosiahnutie stanoveného cieľa, vzhľadom na zvolené kritériá a dostupné zdroje. Racionálnosť, samozrejme, nie je jedinou zložkou pojmu inteligencia, ale je jeho významnou súčasťou. Takéto racionálne správanie dosahuje systém s AI zásluhou vnímania prostredia, v ktorom je systém nasadený, napr. pomocou senzorov (napr. kamery, mikrofóny, klávesnice, webové stránky a iné), a teda zhromažďovaním a interpretáciou údajov, vhodným spracovaním informácií odvodených z týchto údajov a následným rozhodovaním o najlepšej možnej akcii (opatrení), ktoré realizuje prostredníctvom aktuátorov (ovládačov), prípadne úpravou prostredia.
29)
V súčasnom období neexistuje globálna právna definícia AI.
30)
Na regionálnej úrovni sa najbližšie k definícii AI priblížila Európska únia, ktorá pojem AI prijala v rámci Oznámenia Európskej komisie o umelej inteligencii charakterizovaný takto:
"Umelá inteligencia sú systémy, ktoré vykazujú inteligentné správanie tým, že analyzujú okolité prostredie a podnikajú kroky - s istou mierou samostatnosti - na dosiahnutie konkrétnych cieľov."
Pre zobrazenie článku nemáte dostatočné oprávnenia.
Odomknite si prístup k odbornému obsahu na portáli.
Prístup k obsahu portálu majú len registrovaní používatelia portálu. Pokiaľ ste už zaregistrovaný, stačí sa prihlásiť.
Ak ešte nemáte prístup k obsahu portálu, využite 10-dňovú demo licenciu zdarma (stačí sa zaregistrovať).
Vydanie Právny obzor 4/2024
