EU artificial intelligence act versus authoritarian tendencies in using aI by public authorities

AI is one of the most dynamically developing technologies of today. It is increasingly more widely used both by public authorities and in business applications in the areas of health, education and security. This raises concerns about the possible abuses or violations of fundamental rights, especially as this technology is currently not regulated by law. The problem has been noted in the European Union and the draft of the Artificial Intelligence Act is an attempt to address it. This article poses a question how the proposed EU regulation establishes the legal framework to counteract potential authoritarian use of AI by Member State authorities. It identifies potential misuses by providing the examples of AI systems for identifying individuals and analysing predictive behaviour patterns. In addition, we describe the axiology of the regulation, its planned personal and material scope and the sanctions provided.

Sztuczna inteligencja należy do najdynamiczniej rozwijających się współcześnie technologii. Jest coraz szerzej wykorzystywana zarówno przez władze publiczne, jak i w zastosowaniach biznesowych w obszarze służby zdrowia, edukacji czy bezpieczeństwa. Budzi to obawy dotyczące możliwości występowania nadużyć lub naruszeń praw jednostki, tym bardziej że technologia ta nie podlega w obecnej chwili regulacjom. Problem zauważono w Unii Europejskiej i próbą odpowiedzi na niego jest projekt aktu o sztucznej inteligencji. W artykule odpowiadamy na pytanie, w jaki sposób projektowana regulacja unijna w zakresie sztucznej inteligencji kształtuje ramy prawne dla przeciwdziałania potencjalnemu autorytarnemu wykorzystywaniu AI przez władze państwowe krajów członkowskich. Wskazujemy możliwości potencjalnych naruszeń na przykładzie systemów służących ustalaniu tożsamości jednostek i analizie predykcyjnej ich zachowań. Ponadto opisujemy aksjologię regulacji, jej planowany zakres podmiotowy i przedmiotowy oraz przewidywane sankcje.