Pytanie, czy sztuczna inteligencja powinna być poddana procesom zarządczym, czy tylko ją nadzorować, dotyka kluczowych aspektów rozwoju AI, a także implementacji i wykorzystania. Co ważne, te dwa podejścia nie wykluczają się i mogą być stosowane równolegle, aby zapewnić odpowiedzialne i efektywne wykorzystanie AI, oraz wzmocnić jej zrównoważony rozwój.
Zarządzanie
Zarządzanie sztuczną inteligencją skupione jest przede wszystkim na jej rozwoju, wdrażaniu oraz na tworzeniu narzędzi wykorzystujących AI. Ważne jest zatem, aby jeszcze przed przystąpieniem do działań zdefiniować cele i zastosowania AI. Określenie, czy celem jest korzyść gospodarcza, społeczna czy indywidualna, wskaże ramy do zastosowania procesów zarządczych przy dalszych pracach nad technologią. Wskazując zakres zastosowania AI, można rozpocząć projektowanie algorytmu, selekcję danych treningowych oraz optymalizację przygotowanych modeli. Kolejnym krokiem jest implementacja, gdzie proces zarządczy obejmuje wdrożenie AI z zapewnieniem prawidłowej integracji z istniejącymi już procesami i systemami.
Nadzór
Nadzór nad AI ma na celu zapewnienie, że jej działanie jest zgodne z regulacjami, standardami oraz etyką. Aby to osiągnąć, już na etapie opracowania projektu konieczna jest weryfikacja istniejących oraz planowanych regulacji dotyczących transparentności działania algorytmów AI, ochrony danych osobowych, odpowiedzialności za decyzje podjęte przy wykorzystaniu AI. Systemy oparte o AI powinny być poddawane ewaluacji i monitoringowi, w celu zapewnienia bezpieczeństwa i zgodności z obowiązującymi ramami prawnymi i etycznymi. Nadzór ma zapewnić także korektę działań niepożądanych.
Synergia obu strategii
Zarówno zarządzanie, jak i nadzór nad AI są kluczowe dla zrównoważonego rozwoju technologii. Wykorzystanie potencjału AI nie jest możliwe bez odpowiedniego zarządzania. Optymalne podejście powinno łączyć obie strategie, wykorzystując nadzór do monitorowania, a zarządzanie do odpowiedzialnego rozwoju technologii.
Bieżący rok z pewnością warto poświęcić na przygotowanie firmowych systemów i procedur tak, aby jak najszybciej uzyskać w przyszłości pożądaną zgodność z AI Act.