W treści Aktu o sztucznej inteligencji (AI Act) znalazła się wrzutka, która pozwala na użycie technologii rozpoznawania twarzy organom ścigania bez nakazu sądowego – pod warunkiem, że użycie dotyczy zarejestrowanych materiałów wideo. To bardzo zła wiadomość dla praw obywatelskich i praw człowieka.
Do treści Aktu o sztucznej inteligencji (AI Act), czyli pakietowej regulacji mającej stwarzać ramy prawne dla wykorzystania systemów AI w krajach Unii Europejskiej, na ostatnią chwilę trafiła niepokojąca wrzutka.
Serwis Politico, powołując się na niemiecką eurodeputowaną Svenję Hahn, podaje iż wrzutka zakłada zezwolenie na użycie systemów rozpoznawania twarzy przez organy ścigania bez nakazu sądowego, w odniesieniu do zarejestrowanego materiału wideo.
Redakcja zdobyła dostęp do pełnej treści AI Actu i istotnie – wrzutka tam jest.
Zagrożenie dla praw obywatelskich
Zdaniem Hahn, treść wrzutki to zagrożenie dla praw obywatelskich. Niczego nie zmienia fakt, że technologia rozpoznawania twarzy miałaby być używana tylko względem już zarejestrowanych materiałów wideo. To wciąż dużo szersze dozwolone użycie, niż zakładała wcześniejsza wersja tekstu regulacji, choć budzi mniejsze kontrowersje, niż skanowanie przestrzeni publicznej „na żywo” z użyciem systemów kamer wyposażonych w technologię rozpoznawania twarzy.
Hahn twierdzi, że wrzutka, której „sponsorem” jest prezydencja hiszpańska w Radzie Unii Europejskiej, została wmontowana w tekst AI Actu 22 grudnia. Wcześniej, bo 8 grudnia, Rada i Parlament Europejski osiągnęły porozumienie co do kształtu regulacji – i nic nie powinno naruszać tych ustaleń w taki sposób.
W ramach umowy z 8 grudnia, technologia rozpoznawania twarzy miała być stosowana w odniesieniu do zarejestrowanych materiałów wideo tylko i wyłącznie w przypadku dochodzeń obejmujących bardzo poważne przestępstwa. Miała też być wykorzystywana pod ścisłym nadzorem – i poprzedzona przez wyraźną zgodę sądu.
Użycie bez nadzoru
Niemiecka eurodeputowana ocenia, że AI Act w wersji uzupełnionej o wrzutkę pozwoli organom ścigania na właściwie dowolne wykorzystanie systemów rozpoznawania twarzy bez nadzoru, nawet w odniesieniu do błahych przestępstw, co z kolei stwarza liczne pola do nadużyć.
Jej obawy podziela przedstawiciel niemieckiej Partii Piratów Patrick Breyer, europarlamentarzysta, który w przeszłości wielokrotnie angażował się w kwestiach regulacji cyfrowych po stronie prywatności. W jego opinii, „wydawać się może, że UE chce konkurować z Chinami nie tylko technologicznie, ale także jeśli chodzi o represje z wykorzystaniem nowych technologii„.
Źródła Politico w kręgach dyplomatycznych wskazują, że wrzutka to rezultat bardzo trudnych negocjacji, które trwały do 8 grudnia, a raczej różnic interpretacyjnych w zakresie rozumienia tekstu regulacji, który wyświetlany był na ekranie w pomieszczeniu, gdzie odbywały się rozmowy.
Co dalej z AI Actem?
Politico przypomina, że tekst regulacji ma trafić do rządów państw członkowskich 24 stycznia. 2 lutego nowe prawo ma dostać ostateczne „zielone światło” do głosowania na sesji plenarnej Parlamentu Europejskiego. Będzie miejsce na poprawki – pytanie tylko, czy to wystarczająca szansa na usunięcie z treści AI Actu wrzutki.
O opinię na temat kontrowersyjnych zapisów poprosiliśmy ekspertów. Tekst będzie aktualizowany.
