AI Act ma na celu zwiększenie świadomości użytkowników końcowych poprzez transparentność, edukację i informowanie o ryzykach. Zwiększa także bezpieczeństwo poprzez rygorystyczne oceny ryzyka, ochronę danych i wprowadzenie mechanizmów monitorowania oraz nadzoru. Wszystko to razem przyczynia się do bardziej świadomego i bezpiecznego korzystania z technologii sztucznej inteligencji przez użytkowników.

Użytkownik będzie informowany o potencjalnych zagrożeniach i korzyściach, między innymi przez kampanie edukacyjne prowadzone przez krajowe instytucje odpowiedzialne za nadzór nad wprowadzaniem rozporządzenia.

Warto przy tym wspomnieć, że już teraz Ministerstwo Cyfryzacji jest wspierane przez zespół doradczy PL/AI Sztuczna inteligencja dla Polski, który będzie opracowywał rekomendacje wykorzystania AI dla usprawnienia konkretnych obszarów działania państwa.

Kolejnym krokiem ma być powołanie komisji nadzoru nad sztuczną inteligencją. W jej składzie mają znaleźć się między innymi przedstawiciele Urzędu Komunikacji Elektronicznej, Urzędu Ochrony Konkurencji i Konsumentów, Urzędu Ochrony Danych Osobowych oraz Rzecznik Praw Obywatelskich. Komisja ma koordynować prace pomiędzy odpowiednimi organami i instytucjami, które zajmują się obszarami wymienionymi w załączniku III dotyczącym systemów sztucznej inteligencji o wysokim ryzyku.

Ministerstwo rozważa również powołanie funduszu sztucznej inteligencji, którego zadaniem byłoby wsparcie naukowców, jednostek samorządu terytorialnego oraz przedsiębiorców we wdrożeniu rozporządzenia oraz rozwoju innowacyjnych rozwiązań przy zachowaniu wymogu transparentności.

Użytkownik chroniony zatem będzie zarówno w trakcie powstawania, wdrożenia produktu, jak również podczas jego wykorzystywania. Począwszy od zgody na przetwarzanie danych, przez systemy sztucznej inteligencji (zgoda nie może być dorozumiana, użytkownik w sposób aktywny ma ja wyrazić), a skończywszy na dostępie do mechanizmów skarg i odwołań, jeśli poczują, że systemy AI naruszają ich prawa lub bezpieczeństwo.

Rozporządzenie nakłada szereg obowiązków na administrację publiczną oraz podmiotu gospodarcze, które mają zapewnić bezpieczeństwo oraz podniesienie świadomości użytkownika.

Autor: Marta Adranowska, adwokat, Senior Associate w Lawspective Litwiński Valirakis Radcowie Prawni Sp.k.

E-mail: marta.adranowska@lawspective.pl