21 lipca Hiszpański organ nadzorczy (AEPD) opublikował wytyczne pt. „Accuracy, suitability and quality of data in processing personal data with Artificial Intelligence”. Wytyczne te poświęcone są problemowi jakości danych wykorzystywanych przez modele sztucznej inteligencji. Regulator rozwija znaczenie pojęcia jakości danych i wskazuje na związki między nim, a regulacjami i pojęciami zawartymi w RODO.
Jakość danych
Jakość danych to pojęcie niewystępujące w RODO i nieprzynależące do siatki pojęciowej prawa ochrony danych osobowych. Jest to termin techniczny definiowany w rozmaitych normach i standardach. Cechą wspólną tych definicji jest to, że „jakość” ściśle powiązana jest z użytecznością danych do realizacji określonych celów w określonych kontekstach. Określenie jakości danych wykracza zatem poza odpowiedź na pytanie: czy dane są prawdziwe? Nawet zbiór złożony z samych danych prawdziwych może, poprzez swoją niekompletność lub niereprezentatywność, prowadzić do uzyskania fałszywych wniosków. Pamiętać trzeba też, że jakość danych oceniać należy zależnie od kontekstu – dane odpowiednie do jednej operacji mogą okazać się całkowicie nieodpowiednie do innej operacji. Przykładowymi kryteriami weryfikacji jakości zbioru danych wykorzystywanych przez AI są, np.
- Weryfikacja występowania uprzedzeń algorytmicznych (algorithmic bias);
- Weryfikacja reprezentatywności zbioru dla kontekstu określonego celu;
- Weryfikacja czy dane są relewantne dla modelu AI (tj. czy dostarczają użytecznych informacji na potrzeby uczenia modelu).
Jakość, a prawidłowość i minimalizacja
Jako punkt styczności pojęcia jakości danych z regulacjami RODO zidentyfikowane zostały zasady prawidłowości i minimalizacji danych ujęte w art. 5 ust. 1 lit. c i d Rozporządzenia. Jak wskazuje AEPD, łączne uwzględnienie tych zasad pozwala na autonomiczne ustanowienie kryteriów jakości danych, opierając się o wymagania RODO. Prosty przykład opartej o zasady RODO „matrycy jakości danych” wygląda następująco:
| Cel, do którego wymagane są dane | ||||
| Ustalenie numeru kierunkowego telefonu | Określenie właściwego Urzędu Skarbowego | Dostarczenie przesyłki pocztowej | ||
| Odpowiedź na pytanie: gdzie mieszkasz? | Polska | Prawidłowe | Nieprawidłowe | Nieprawidłowe |
| Polska, Warszawa, Wola | Nadmierne | Prawidłowe | Nieprawidłowe | |
| Polska, Warszawa, al. Jana Pawła II, 1 m. 1 | Nadmierne | Nadmierne | Prawidłowe | |
Jak widać, określenie prawidłowości danych wynika z określenia tego jakie dane są konieczne do realizacji celu, a następnie ustalenie, że posiadane dane są wystarczające (zgodnie z zasadą prawidłowości), a zarazem nie przekraczają tego zakresu (zgodnie z zasadą minimalizacji).
Znaczenie jakości danych w przetwarzaniu danych osobowych przez AI
W przypadku modeli AI często występować będzie sytuacja, w której w ramach jednego procesu przetwarzane są dane osobowe i dane nie-osobowe. Druga kategoria danych, choć nie objęta bezpośrednio RODO, może mieć istotny wpływ na rezultat przetwarzania danych osobowych. Dane te mogą być częścią samego procesu przetwarzania lub designu modelu, tym samym w istotny sposób wpływając na prawidłowość procesu.
AEPD wskazuje na konieczność zagwarantowania jakości tych danych, gdyż od ich prawidłowości, ostatecznie, zależeć może wpływ na prawa i wolności osób objętych procesem przetwarzania danych osobowych.
Przykładem mogą być procesy oparte o porównanie danych osobowych z ogólnymi wskaźnikami. Hiszpański regulator jako przykład podaje analizę ocen w szkołach. Jeśli uczeń otrzyma ocenę 4 ze sprawdzianu (dane osobowe), podczas gdy średnia ocena wynosiła 4.2 (dane nie-osobowe), wyniki ucznia zostaną zakwalifikowane jako przeciętne. Z kolei, jeśli średnia ocena (dane nie-osobowe) wyniosła 3.2, wynik ucznia zostanie uznany za ponadprzeciętny. W zaprezentowanym procesie, jakość danych nieosobowych ma równy wpływ na ocenę osiągnięć edukacyjnych ucznia, co jakość danych osobowych.
Sztuczna inteligencja zwiększa możliwości i zasięg działań cyberprzestępców
Wnioski na temat jakości danych
Podsumowując swoje wytyczne, AEPD wskazuje, że jakość danych i prawidłowość danych są pojęciami bliskoznacznymi, ale nie równoważnymi. Przetwarzanie zbioru danych wysokich jakości nie gwarantuje spełnienia wymogów wynikających z RODO – wynika to przede wszystkim z faktu, że kryteria jakości danych nie uwzględniają minimalizacji danych.
Wykorzystanie niskiej jakości danych może poskutkować uzyskaniem wyników niewiarygodnych, a nawet całkowitą bezużytecznością przeprowadzonego procesu. To jest oczywiste. Mniej oczywiste są zagrożenia wynikające z ustanowienia zbyt wysokich standardów jakości danych. Ustanowienie zbyt wysokich kryteriów jakości danych poskutkować może naruszeniem zasady minimalizacji. Jeśli system będzie przetwarzać dane wyższej jakości niż jest to rzeczywiście konieczne, oznacza to przetwarzanie danych o precyzji lub wolumenie wykraczającym poza to co jest niezbędne do osiągnięcia celów przetwarzania.
Wytyczne AEPD: https://www.aepd.es/en/guides/quality-data-artificial-intelligence.pdf
