Child pornography in the form of deep fakes : potential problems under Polish criminal law and proposals for changes

Przedmiotem opracowania jest problematyka kwalifikowania tworzenia i udostępniania dziecięcej pornografii w formie deep fakes na gruncie polskiego prawa karnego, a także propozycje nowelizacji wybranych artykułów Kodeksu karnego dotyczących tej kwestii. Generowane lub modyfikowane przez sztuczną inteligencję treści audio lub wizualne, ze względu na jakość syntezy, są współcześnie niemal nieodróżnialne od treści prawdziwych. Upowszechnienie technologii doprowadziło do istotnego zwiększenia liczby mediów syntetycznych cyrkulujących w przestrzeni informacyjnej, co obejmuje także materiały pornograficzne przedstawiające wizerunek małoletnich w formie deep fakes. Zagadnienie to nie było dotychczas przedmiotem poszerzonej analizy w polskiej doktrynie. Rzadko pojawia się w globalnym dyskursie na temat szkodliwości deep fakes. Niniejsze opracowanie ma na celu zaproponowanie zmian ustawodawczych, które umożliwią dostosowanie przepisów do gwałtownego rozwoju nowoczesnych technologii, a przez to bardziej adekwatne kwalifikowanie tworzenia i udostępniania dziecięcej pornografii w formie deep fakes. Autorzy proponują oparcie oceny szkodliwości społecznej na epistemicznej wartości syntetycznych mediów i praktycznych konsekwencjach multiplikacji deep fakes.

The subject of the paper is qualifying the creation and sharing of child pornography in the form of deep fakes under Polish criminal law, including proposals for amending selected articles of the Penal Code. Due to the quality of synthesis, audio or visual content generated or modified by artificial intelligence is now almost indistinguishable from real content. The dissemination of technology has led to a significant increase in the number of synthetic media circulating in the information space, which also includes pornographic materials depicting minors in the form of deep fakes. This issue has not yet been the subject of an extensive analysis in the Polish doctrine. The topic rarely appears in the global discourse on the harmfulness of deep fakes. The aim of this study is to propose legislative changes that will enable the regulations to be adapted to the rapid development of modern technologies, and thus to more adequately qualify the creation and sharing of child pornography in the form of deep fakes. The authors propose an assessment of social harm based on the epistemic value of synthetic media and the practical consequences of the multiplication of deep fakes.