Komisja Europejska opublikowała wytyczne dotyczące transparentności niektórych systemów sztucznej inteligencji. Opublikowane wytyczne stanowią doprecyzowanie przepisów AI Act w zakresie obowiązków dostawców i użytkowników AI, przede wszystkim w kontekście informowania o jej wykorzystaniu i sposobie działania. Dokument koncentruje się przede wszystkim na kwestiach oznaczania treści wygenerowanych i informowania o interakcjach ze sztuczną inteligencją. Wytyczne mają zwiększyć świadomość użytkowników, ograniczyć ryzyko manipulacji i wzmocnić zaufanie do technologii.
Problem transparentności AI
Problem transparentności systemów AI to jeden z najpoważniejszych problemów związanych z rozwojem sztucznej inteligencji. Zagadnienie to rozumiane może być dwojako.
Po pierwsze, jako „transparentność” AI rozumieć można transparentność jej działania, tj. możliwość ustalenia na podstawie jakich danych i mechanizmów rozumowania AI dochodzi do określonych wniosków. Brak transparentności w tym obszarze tworzy ryzyko powstania, tzw. black box algorytmów, to jest modeli, których sposób podejmowania decyzji pozostaje niemożliwy do zbadania, zrozumienia i zweryfikowania. W przypadku algorytmów typu black box sprawowanie kontroli nad maszynowo podejmowanymi decyzjami jest de facto niemożliwe, co stanowi oczywisty problem.
Po drugie, jako „transparentność” AI rozumieć można informowanie osoby o tym, że wchodzi w interakcję z systemem sztucznej inteligencji (a nie z człowiekiem) lub z materiałami stworzonymi przez sztuczną inteligencję. Ten aspekt transparentności jest równie ważny – AI jest potężnym narzędziem mogącym zostać wykorzystanymi w celach dezinformacji lub manipulacji. W takiej sytuacji, oznaczanie treści wygenerowanych staje się niezwykle ważne.
Regulacje AI Actu (rozporządzenia dotyczącego AI) koncentrują się przede wszystkim na transparentności w drugim rozumieniu – transparentności informacyjnej. Regulacje w takim zakresie znaleźć można przede wszystkim w art. 50 AI Actu, który określa zasady przejrzystości w kontekście systemów AI przeznaczonych do wchodzenia w bezpośrednią interakcję z osobami fizycznymi. Wyjaśnienie regulacji tego artykułu, ma być jednym z głównych celów wytycznych Komisji Europejskiej.
Co zawierają wytyczne KE?
Wytyczne zaczynają się od poruszenia kwestii ogólnych, m.in. relacji między artykułem 50 AI Act, a innymi przepisami tego rozporządzenia. Na przykład przepisami dotyczącymi systemów wysokiego ryzyka. W dalszej części wytycznych, KE wyjaśnia zagadnienia dotyczące poszczególnych ustępów artykułu 50 AI Act, tj:.
- 50 ust. 1 ustanawia obowiązki informacyjne wobec osób wchodzących w bezpośrednią interakcję z systemami AI. Wytyczne nie tylko doprecyzowują naturę samego obowiązku informowania, ale również dotykają problematyki wyjątków od tego obowiązku, np. wyjątku dotyczącego „oczywistości” interakcji z AI.
- 50 ust. 2 odnosi się do materiałów wygenerowanych przez AI. Materiały takie mają być oznaczone i możliwe do wykrycia. Wytyczne dostarczają wskazówki m.in. w zakresie identyfikowania kategorii treści będących materiałami objętymi regulacją.
- 50 ust. 3 reguluje kwestie informowania o wykorzystaniu modeli AI służących rozpoznawaniu emocji i przetwarzania danych biometrycznych.
- 50 ust. 4 odnosi się do generowania tzw. deepfake’ów i obowiązku informowania o ich zastosowaniu, również w przypadkach, w których regulacje stosowane są w sposób szczególny, np. podczas wykorzystania deepfake do celów artystycznych.
KE wskazała w wytycznych także ogólne wymogi w zakresie realizacji obowiązków informacyjnych na gruncie art. 50 ust. 5 AI Act. Przepis ten nakazuje przekazać osobom fizycznym informacje w jasny, przejrzysty sposób, w momencie pierwszej interakcji lub pierwszego zastosowania. Wytyczne zawierają również wskazówki dotyczące stosowania i egzekucji przepisów rozporządzenia, np. w zakresie kar.
Wnioski
Wytyczne Komisji Europejskiej stanowią istotne uzupełnienie regulacji w obszarze realizacji obowiązków informacyjnych. Jak pokazuje praktyka stosowania RODO, realizacja obowiązków informacyjnych bywa w praktyce problematyczna. Warto zatem skorzystać odpowiednio z doświadczeń związanych z ponad 8 lat stosowania RODO, aby uniknąć podobnych problemów w przypadku realizacji wskazany obowiązków informacyjnych, wynikających z AI Act.
W szczególności warto pamiętać, że nadmiar i zbytnia obszerność klauzul informacyjnych, prowadzi do ignorowania ich i, paradoksalnie, zamiast zwiększać świadomość użytkownika, zmniejsza ją. Problemy praktyczne sprawiało również rozumienie i stosowanie wymogów dotyczących treści i formy obowiązków informacyjnych, np. jasności.