Právny portál určený širokej odbornej verejnosti

Online časopis

K problematike detskej pornografie vyrobenej generovaným obsahom

Autor sa v predmetnom článku zaoberá dosahmi najnovšej technológie spojenej s generovaným obsahom a generatívnou umelou inteligenciou, pomocou ktorej dochádza aj k výrobe detskej pornografie. Popisuje technologický fenomén generovania obrazových, zvukových alebo obrazovo-zvukových záznamov prostredníctvom umelej inteligencie, ktorý umožňuje vytváranie realistických, ale napriek tomu falošných záznamov a ich dosah na trestnú činnosť súvisiacu s detskou pornografiou. Článok analyzuje súčasné právne rámce týkajúce sa tejto problematiky a zároveň zdôrazňuje potrebu novelizácie legislatívy na boj proti tomuto fenoménu.

In this article, the author explores the impacts of the latest technology combined with generated content and generative artificial intelligence, which also extends to the production of child pornography. They describe the technological phenomenon of generated visual, audio and audio-visual recordings, which enable the creation of realistic yet fake videos, and their impact on criminal activity related to child pornography. The article analyses current legal frameworks concerning this issue while emphasizing the need for legislative amendments to combat this phenomenon

HALAS, N.: K problematike detskej pornografie vyrobenej generovaným obsahom; Justičná revue, 76, 2024, č. 10, s. 999 – 1007.

Kľúčové slová: generovaný obsah, detská pornografia, dieťa, osoba vyzerajúca ako dieťa.

Key words: generated content, child pornography, child, person appearing to be a child.

Právne predpisy/legislation: zákon č. 300/2005 Z. z. Trestný zákon; smernica Európskeho parlamentu a rady 2011/92/EÚ z 13. decembra 2011 o boji proti sexuálnemu zneužívaniu a sexuálnemu vykorisťovaniu detí a proti detskej pornografii, ktorou sa nahrádza rámcové rozhodnutie Rady 2004/68/SVV; Dohovor Rady Európy o ochrane detí pred sexuálnym vykorisťovaním a sexuálnym zneužívaním.

ÚVOD
Umelá inteligencia sa stáva každodennou súčasťou našich životov, pričom už dochádza aj k jej postupnému legislatívnemu regulovaniu na úrovni EÚ.
1)
Rozvoj umelej inteligencie, obzvlášť v oblasti strojového učenia a neurónových sietí, umožnil vznik sofistikovaných nástrojov na úpravu obrazu a zvuku. Tieto pokroky umožnili generovanie obrazových, zvukových alebo obrazovo-zvukových záznamov (ďalej len "záznamy") umelou inteligenciou, ktoré zdokonalene imitujú tvár, hlas a pohyby reálnych ľudí. Tieto technologické inovácie získali pozornosť nielen v oblasti zábavy a umenia, ale aj v politike, médiách a hlavne na sociálnych sieťach. Súčasne však predstavujú vážne riziko pre dôveryhodnosť informácií a integrity jednotlivcov, spoločenstiev a inštitúcií.
Vytváranie takýchto záznamov otvára cestu rôznym formám zneužitia, vrátane šírenia dezinformácií, poškodzovania reputácie, manipulácie s verejnou mienkou a dokonca ohrozenia národnej bezpečnosti. Aj keď existujú určité právne rámce, ktoré sa týkajú určitých aspektov podvodu a porušovania autorských práv, nedostatok špecifických ustanovení týkajúcich sa technológie generatívnej umelej inteligencie a generovaného obsahu znamená, že súčasný právny systém čelí výzvam pri potláčaní a sankcionovaní takýchto činov.
V neposlednom rade dochádza čoraz viac k vytváraniu generovaných záznamov s pornografickou matériou, nevylučujúc detskú pornografiu.
2)
V tomto článku sa zameriame na túto problematiku a na jej analýzu v spojení s jednotlivými ustanoveniami Trestného zákona, týkajúcimi sa detskej pornografie. Predtým si však stručne popíšeme najnovšie technológie generovania obsahu prostredníctvom generatívnej umelej inteligencie.
1 Generatívna umelá inteligencia a generovaný obsah
Skôr ako sa pozrieme na "gro problému", je potrebné aspoň v krátkosti si ozrejmiť, čo sa myslí pod generatívnou umelou inteligenciou a generovaným obsahom. Generatívna umelá inteligencia je odvetvie umelej inteligencie, ktoré sa zameriava na vytváranie nových obsahov a záznamov pomocou algoritmov strojového učenia. Na rozdiel od konvenčných modelov umelej inteligencie, ktoré sa sústredia na klasifikáciu a predikciu na základe existujúcich dát, sa generatívna umelá inteligencia snaží generovať obsah ako originálne dáta v rôznych formátoch. Takéto vytvorenie potrebuje vstup používateľa, ktorý uvedie, čo sa má vytvoriť a na základe ktorého vygeneruje umelá inteligencia zodpovedajúci výstup vo forme obrazových, zvukových alebo obrazovo-zvukových záznamov.
3)
Generatívna umelá inteligencia využíva rôzne prístupy a modely strojového učenia na tvorbu nových obsahov. Medzi najčastejšie patria nasledujúce.
4)
1.
Generative Adversarial Networks (GANs) - tieto siete sa skladajú z dvoch základných komponentov: generátor a diskriminátor. Primárnou funkciou generátora je generovať syntetické dáta, ktoré veľmi podobne pripomínajú skutočné dáta, zatiaľ čo diskriminátor je zodpovedný za rozlíšenie medzi autentickými a vyrobenými dátami. Generátor zlepšuje autenticitu svojich vyprodukovaných dát prostredníctvom adversálneho trénovania, zatiaľ čo diskriminátor efektívne určuje, či sú dáta reálne alebo syntetické.
2.
Diffusion model - tieto modely môžu vytvárať nové dáta pomocou dát, na ktorých boli trénované. Základnou myšlienkou za difúznymi modelmi je transformovať jednoduché a ľahko dostupné rozdelenie na komplexné a zmysluplné rozdelenie dát. Táto transformácia sa do siahne pomocou série reverzibilných operácií. Keďže model pochopí proces transformácie, môže generovať nové vzorky tým, že začne z bodu v jednoduchom rozdelení a postupne ho rozširuje smerom k požadovanému zložitému rozdeleniu dát.
3.
Variational Autoencoders (VAEs) - sú typom neurónových sietí, ktoré sa učia reprezentovať vstupné dáta vo forme efektívneho kódu. Tento kód je potom použitý na generovanie nových, podobných dát.
4.
Flow model - tieto modely majú za cieľ naučiť sa podkladovú štruktúru daného datasetu. Tieto modely dosahujú tento cieľ tým, že porozumejú pravdepodobnostnému rozdeleniu rôznych hodnôt alebo udalostí v rámci datasetu. Keďže model získal toto pravdepodobnostné rozdelenie, je schopný generovať nové dátové body, ktoré zachovávajú identické štatistické vlastnosti a charakteristiky ako pôvodný dataset. Kľúčovou vlastnosťou modelov založených na tokoch je to, že na vstupné dáta aplikujú jednoduchú invertibilnú transformáciu, ktorá môže byť ľahko reverzná. Začínajúc od jednoduchého počiatočného rozdelenia, ako je náhodný šum, a aplikovaním transformácie v opačnom smere môže model rýchlo generovať nové vzorky bez potreby komplexnej optimalizácie.
2 Súčasný právny stav a jeho analýza
Ako už vieme aj z minulosti, na najnovšie technológie vedia najrýchlejšie reagovať páchatelia trestnej činnosti. Ušetrená neostala ani generatívna umelá inteligencia, pomocou ktorej, okrem iného, dochádza k vytváraniu a rozširovaniu materiálu podobného detskej pornografii. Trestné činy spojené s detskou pornografiou sú v Trestnom zákone upravené v osobitnej časti v deviatej hlave (trestné činy proti iným právam a slobodám) a to v § 368 až § 370. Ide konkrétne o trestný čin výroby detskej pornografie podľa § 368 Trestného zákona
5)
, rozširovanie detskej pornografie podľa
Pre zobrazenie článku nemáte dostatočné oprávnenia.

Odomknite si prístup k odbornému obsahu na portáli.
Prístup k obsahu portálu majú len registrovaní používatelia portálu. Pokiaľ ste už zaregistrovaný, stačí sa prihlásiť.

Ak ešte nemáte prístup k obsahu portálu, využite 10-dňovú demo licenciu zdarma (stačí sa zaregistrovať).