Przy podejmowaniu decyzji dotyczącej metody rozwiązywania zadań w przedsiębiorstwie przy zastosowaniu sztucznej inteligencji, konieczne jest przeanalizowanie zarówno celu, który ma być osiągnięty, jak i rodzaju i zakresu danych, które mogą służyć za wzorzec dla tworzonego narzędzia. Niektóre z technik eksploracji danych mogą okazać się niewłaściwie, z powodu braku dostatecznej wyjaśnialności dla wielowymiarowych problemów, co powoduje niezgodność z wprowadzanymi regulacjami.
Techniki optymalizacyjne
Chodzi tu o techniki stosowane do znajdowania najlepszego rozwiązania (lub rozwiązań) danego problemu. Przykłady obejmują algorytmy genetyczne, optymalizację rojem cząstek (PSO) i optymalizację gradientową. Tu warto zauważyć, że o ile decyzje dotyczące ruchu cząstki są podejmowane na podstawie jasno zdefiniowanych reguł matematycznych, co sprawia, że proces aktualizacji pozycji cząstki jest przewidywalny i może być dokładnie śledzony, to w przypadku wielowymiarowego środowiska z dynamicznym rozwojem, transparentność może być utrudniona.
Uczenie ze wzmocnieniem
To metoda uczenia maszynowego, która uczy model podejmowania decyzji poprzez nagradzanie pożądanych zachowań i karanie tych niepożądanych. Uczenie ze wzmocnieniem jest szeroko stosowane w robotyce, grach i do optymalizacji procesów decyzyjnych. Pomimo swojej skuteczności, wyjaśnialność w uczeniu ze wzmocnieniem stanowi wyzwanie, szczególnie w kontekście AI ACT.
Eksploracja danych (Data Mining)
Jest to proces odkrywania wzorców i innych ciekawych informacji w dużych zbiorach danych. Używa zaawansowanych technik statystycznych, uczenia maszynowego i systemów baz danych do ekstrakcji informacji, które mogą być użyteczne w różnych aplikacjach. Zastosowanie narzędzi i metod XAI do modeli stosowanych w eksploracji danych może pomóc w generowaniu bardziej zrozumiałych wyjaśnień dla ludzi, co do działania modelu i podjętych przez niego decyzji.
Deep Learning i sieci neuronowe
Mowa tu o zaawansowanych modelach uczenia maszynowego, które naśladują działanie ludzkiego mózgu, aby rozpoznawać wzorce, klasyfikować dane i przewidywać wyniki. Techniki te są stosowane w rozpoznawaniu mowy, przetwarzaniu języka naturalnego i analizie obrazu. Przy wykorzystaniu odpowiednich metod lokalnego wyjaśniania, pozwalają na wymaganą regulacyjnie wyjaśnialność.
Techniki eksploracji danych w praktyce
Techniki te są fundamentem współczesnych systemów AI i znajdują zastosowanie w wielu dziedzinach, od automatyzacji i robotyki, przez analizę danych, po interaktywne aplikacje, takie jak gry czy asystenci głosowi. Wyzwania związane z wyjaśnialnością mogą nasilać się w przypadku bardziej złożonych lub dynamicznie zmieniających się problemów. W kontekście AI ACT ważne jest, aby sztuczna inteligencja była zastosowana w sposób, który uwzględnia potrzebę wyjaśnialności, odpowiedzialności i transparentności w decyzjach podejmowanych przez systemy AI.
Autor: Marta Adranowska, adwokat, Senior Associate w Lawspective Litwiński Valirakis Radcowie Prawni Sp.k.
E-mail: marta.adranowska@lawspective.pl