1.
Definícia AI:Nedostatok všeobecne akceptovanej definície AI sťažuje vytváranie právnych úprav, ktoré by zahŕňali celé spektrum technológií a aplikácií AI.
9)
Táto nejednoznačnosť môže viesť k regulačným medzerám a nezrovnalostiam.
10)
2.
Rýchly technologický pokrok:
Tempo vývoja AI je rýchle, čo sťažuje zákonodarcom a regulačným orgánom držať krok. Legislatíva môže rýchlo zastarať, keď sa objavia nové technológie AI. Účinná regulácia by pritom mala maximalizovať verejný prospech AI pre spoločnosť a zároveň minimalizovať riziká. Technológie AI sa však stále vyvíjajú, takže je ťažké vedieť alebo predvídať, aké budúce riziká alebo výhody môžu vzniknúť. Tieto druhy neznámych premenných sťažujú reguláciu AI tradičnými zákonmi a nariadeniami.
11)
3.
Nedostatok medzinárodného konsenzu:
Rôznorodosť úpravy technológií AI potvrdzujú predovšetkým vnútroštátne zákony a národné stratégie týkajúce sa AI, ktorých obsah závisí od významu a rozvoja AI technológií v konkrétnom štáte. Vo všeobecnosti možno uviesť, že takéto predpisy upravujú hlavne čiastkové spôsoby a podmienky komerčného využívania AI technológií civilného charakteru. Systémy umelej inteligencie často fungujú cez medzinárodné hranice, čo môže spôsobiť, že ak takéto technológie po čase prekročia hranice jednotlivých štátov, na území iného štátu môžu byť konfrontované s odlišnou vnútroštátnou úpravou. Rôzne regulačné prístupy môžu vytvárať výzvy pre medzinárodné podniky a organizácie, najmä to môže viesť k situáciám, keď spoločnosti presúvajú svoje činnosti do jurisdikcií s menej prísnymi predpismi AI. Je preto potrebná medzinárodná spolupráca a harmonizácia predpisov o umelej inteligencii na vytvorenie konzistentných noriem a predpisov.
4.
Interdisciplinárny charakter:
Umelá inteligencia je komplexná a interdisciplinárna oblasť zahŕňajúca prvky informatiky, etiky, práva a ďalších. Regulačné orgány potrebujú pochopenie fungovania danej technológie, aby mohli vyvinúť účinné predpisy, čo môže byť náročné vzhľadom na jej mnohostrannú povahu.
12)
5. Etické otázky: Určenie toho, čo je etické pri vývoji a používaní AI, je subjektívne a môže sa líšiť v rôznych kultúrach a spoločnostiach. Vyváženie inovácií s etickými úvahami predstavuje pre zákonodarcov značnú výzvu. Napríklad Európska komisia požaduje, aby bol etický rámec zohľadnený pri navrhovaní nových prvkov umelej inteligencie, ktorej hlavným znakom by mala byť dôveryhodnosť. Odporúčania v tomto smere vypracovala expertná skupina pre umelú inteligenciu zriadená Európskou komisiou v máji 2018 (High Level Expert Group on Artificial Intelligence).
Zameranie na etickú umelú inteligenciu preberajú do národných stratégií postupne aj jednotlivé členské krajiny EÚ.
6.
Zaujatosť a spravodlivosť: Výstupy umelej inteligencie veľmi úzko súvisia s tým, ako je navrhnutá a akými údajmi je
"kŕmená".
Jej dizajn aj vstupné údaje môžu byť úmyselne alebo neúmyselne skreslené. Pri vytváraní algoritmu môžu byť vynechané dôležité súčasti, v dôsledku čoho môžu udržiavať alebo zosilňovať existujúce predsudky v spoločnosti, čo vedie k diskriminačným a zaujatým výsledkom.
13)
Napríklad, ak sa údaje určené na výcvik vyznačujú zaujatosťou (čiže nie sú dostatočne vyvážené alebo inkluzívne), systém umelej inteligencie vycvičený na základe týchto údajov nebude môcť správne zovšeobecňovať a pravdepodobne bude prijímať zaujaté rozhodnutia, ktoré môžu uprednostňovať niektoré skupiny pred inými.
14)
Regulácia by mala na tento problém reagovať podporou spravodlivosti a nediskriminácie pri vývoji, tréningu a zavádzaní AI.
7.
Transparentnosť
15)
a vysvetliteľnosť:
Mnohé algoritmy AI fungujú ako
"čierne skrinky",
takže je ťažké pochopiť, ako fungujú a dosahujú konkrétne rozhodnutia. V týchto prípadoch môžu byť potrebné iné opatrenia súvisiace s vysvetliteľnosťou (napr. vysledovateľnosť, kontrolovateľnosť a transparentná komunikácia o schopnostiach systému) za predpokladu, že systém ako celok rešpektuje základné práva.
16)
Regulačné orgány musia nájsť spôsoby, ako zabezpečiť transparentnosť a vyžadovať vysvetlenia pre rozhodnutia založené na AI, najmä v citlivých oblastiach, ako sú zdravotná starostlivosť a financie. Existuje pritom niekoľko dôvodov, prečo je transparentnosť AI dôležitá:
- Dôvera: Transparentnosť AI môže pomôcť používateľom dôverovať systémom AI. Keď používatelia vedia, ako fungujú systémy AI, je menej pravdepodobné, že budú mať obavy z jej používania a rozhodovania.
- Zodpovednosť: Transparentnosť AI môže pomôcť zabezpečiť, aby systémy AI boli zodpovedné. Keď používatelia vedia, ako systémy AI prijímajú rozhodnutia, môžu byť lepšie pripravení na zodpovednosť.
- Porozumenie: Transparentnosť AI môže pomôcť používateľom lepšie pochopiť, ako systémy AI fungujú. To môže byť užitočné pre výrobcov, ktorí sa snažia zlepšiť systémy AI, ako aj pre používateľov, ktorí sa snažia lepšie pochopiť, ako systémy AI fungujú a rozhodujú.
8.
Zodpovednosť za škodu:Otázka ako zabezpečiť, aby činnosť systémov umelej inteligencie bola transparentná, je úzko spätá s diskusiou o rozdelení zodpovednosti v kontexte AI. Určenie zodpovednosti v prípade nehôd alebo škôd súvisiacich s AI je náročné. Autonómny a nepredvídateľný charakter fungovania systémov AI vedie k otázkam o príčinnej súvislosti,
vis maior
a pod. Kto bude niesť zodpovednosť, keď AI aplikácia spôsobí fyzickú alebo morálnu ujmu? Kto bude zodpovedný, ak systém AI navrhne plán, ktorý poškodzuje výrobcu alebo tých aktérov, ktorí nakoniec implementujú algoritmy? Je možné žalovať algoritmus AI za nesprávne konanie?
17)
Otázky o tom, kto je zodpovedný - vývojári, používatelia alebo samotná AI - by sa mali riešiť v právnych predpisoch.
18)
9.
Súkromie a ochrana údajov:
Systémy umelej inteligencie sa často spoliehajú na obrovské množstvo osobných údajov, čo vyvoláva obavy o súkromie a ochranu údajov. Systémy umelej inteligencie musia zaručovať ochranu súkromia a údajov počas celého životného cyklu systému. Patria sem informácie, ktoré pôvodne poskytol používateľ, ako aj informácie, ktoré o používateľovi vznikli v priebehu jeho komunikácie so systémom (napr. výstupy, ktoré systém umelej inteligencie vytvoril v súvislosti s konkrétnymi používateľmi, alebo spôsob, akým používatelia reagovali na konkrétne odporúčania). Predpisy by mali riešiť, ako systémy AI zhromažďujú, používajú a ukladajú údaje, aby sa zabezpečilo dodržiavanie práv jednotlivcov na súkromie. Napríklad v EÚ je v tejto súvislosti najmä potrebné zabezpečiť súlad s Nariadením Európskeho parlamentu a Rady (EÚ)
2016/679 z 27. apríla 2016 o ochrane fyzických osôb pri spracúvaní osobných údajov a o voľnom pohybe takýchto údajov, ktorým sa zrušuje smernica 95/46/ES (
všeobecné nariadenie o ochrane údajov - GDPR).
10.
Dosahy na zamestnanosť:Vznik nových technológií - od elektrickej energie po internet - odjakživa menil povahu práce. Široké zavádzanie AI má potenciál narušiť tradičné trhy práce, čo môže viesť k nezamestnanosti v určitých sektoroch. AI má potenciál vykonávať niektoré úlohy vykonávané ľuďmi, na druhej strane aj pomôže vytvoriť nové a lepšie pracovné miesta, na ktoré však bude potrebná vyššia kvalifikácia. V konečnom dôsledku tak technológie AI pomáhajú zlepšovať schopnosti ľudí a robiť ich produktívnejšími.
19)
Právne rámce by mali riešiť sociálno-ekonomický vplyv AI na pracovnú silu.