W Niemczech trwa walka o prawo do prywatności i anonimowości – już nie tylko w internecie. Chodzi o tzw. „pakiet bezpieczeństwa”, przez jego przeciwników nazywany też „pakietem inwigilacji”.
W Niemczech trwa walka o prawo do prywatności i anonimowości – już nie tylko w internecie.
Chodzi o tzw. „pakiet bezpieczeństwa”, przez jego przeciwników nazywany też „pakietem inwigilacji”. Kontrowersyjne prawo zostało zaproponowane przez członków rządzącej koalicji (SPD, Zieloni i FDP) jako odpowiedź na wydarzenia, które miały miejsce podczas festynu w Solingen. Pod koniec sierpnia doszło tam do ataku nożownika – 3 osoby zginęły, 8 zostało rannych. Agresorem okazał się syryjski religijny ekstremista.
To nie pierwsze tego typu wydarzenie – przypadki napaści z użyciem noża odnotowuje się w całych Niemczech. W czerwcu media rozpisywały się na temat ataku w Wolmirstedt, którego ofiarami padli kibice oglądający mecz, jeszcze wcześniej, w maju – od noża zginął policjant w Manheim.
Doniesienia medialne nie pozostały bez wpływu na społeczne nastroje, a te przekładają się na wyniki wyborów – o czym może świadczyć rosnąca siła skrajnie prawicowej AfD. Obserwujący sytuację politycy koalicji rządzącej postanowili zareagować i zaproponować rozwiązania prawne jakich, ich zdaniem, oczekują wyborcy. Procedowano je, jak na Niemcy, zadziwiająco szybko – finalnie już w piątek pakiet został przegłosowany w Bundestagu. Z racji jednak, że część proponowanych rozwiązań wymagała zgody państw związkowych – projekt trafił do Bundesratu, gdzie nie otrzymał wymaganej większości i został częściowo odrzucony.
Czym jest „pakiet bezpieczeństwa?
Wspomniany „pakiet bezpieczeństwa” składa się z dwóch projektów ustaw: Entwurf eines Gesetzes zur Verbesserung der inneren Sicherheit
und des Asylsystems (dot. bezpieczeństwa wewnętrznego
i systemu azylowego) oraz Entwurf eines Gesetzes zur Verbesserung der Terrorismusbekämpfung (dot. zwalczania terroryzmu).
Zakładają one zmianę wielu innych dokumentów prawnych – dotyczących m. in. ochrony konstytucji, Federalnego Urzędu Policji czy prawa azylowego.
Pakiet ma ograniczyć prawa uchodźców i świadczenia socjalne dla azylantów oraz zaostrzyć prawo dostępu do broni – w tym ograniczyć możliwość noszenia noży.
Z punktu widzenia ochrony prywatności i praw cyfrowych najistotniejsze zmiany dotyczą jednak nowych możliwości, jakie otrzymaliby urzędnicy (Bundesamt für Migration und Flüchtlinge – Federalny Urząd do Spraw Migracji i Uchodźców) oraz policja.
Służby zyskałyby nowe uprawnienia – i to nie tylko względem przestępców, ale też względem osób jedynie podejrzanych o zamiar popełnienia przestępstwa, świadków i ofiar czynów zabronionych czy w celu ustalenia tożsamości osób ubiegających się o azyl.
Digitalcourage – niemiecka organizacja broniąca praw cyfrowych określa proponowane zmiany jako „gorsze od retencji danych i kontroli czatu razem wziętych„.
Jedna baza, by wszystkich znaleźć
„Pakiet bezpieczeństwa” pozwala służbom nie tylko na wyrywkowe kontrole tożsamości czy „przeszukanie mieszkania w celu znalezienia broni lub dokumentów”, ale także na inwigilację biometryczną. Konkretniej: na stosowanie nadzoru opartego o biometrię i porównywanie próbek głosu, zdjęć czy wideo z innymi materiałami dostępnymi zarówno w policyjnych bazach danych, jak i w „publicznym” internecie. Zezwala też na „zautomatyzowaną analizę danych” – oraz na ich wykorzystanie do celów „testowania, trenowania i modyfikowania” produktów sztucznej inteligencji.
Chris Köver i Markus Reuter w swoim artykule Eine biometrische Datenbank, um alle zu finden (Jedna biometryczna baza, by wszystkich znaleźć) zwracają uwagę, iż proponowane prawo wymagałoby de facto utworzenie jednej wielkiej biometrycznej bazy danych. Opisują też, jak w praktyce działa opisywana technologia.
Grafikę z wizerunkiem poszukiwanej osoby wrzuca się do specjalnej wyszukiwarki, która wyświetla wyniki podobne do zdjęcia źródłowego, wraz z odnośnikami. Mogą to być zarówno współczesne fotografie, jak i stare zdjęcia, które w innych sytuacjach trudno byłoby znaleźć.
Możliwe są wskazania zarówno tej samej osoby – jak i kogoś, kogo algorytm uzna za wystarczająco podobnego.
Były już sytuacje, w których służby zainteresowały się niewinną osobą, wskazaną im przez algorytmy. Jeden z bardziej znanych przypadków pochodzi z USA – kobieta będąca w ósmym miesiącu ciąży została aresztowana, ponieważ oprogramowanie do rozpoznawania twarzy błędnie zidentyfikowało ją jako przestępczynię.
Żeby zaoferować usługi, jakich domagają się dla siebie niemieckie służby, firmy skanują miliony stron w internecie, łącznie z profilami na YouTube, Facebooku czy Instagramie. Algorytmy skanują znalezione tam zdjęcia, uwzględniając indywidualne cechy twarzy – badając m.in. rozstaw oczu, ust itp.
W przypadku przeszukiwania bazy pod kątem znalezienia wizerunku konkretnej osoby technologia analizuje jej cechy biometryczne, a następnie wyniki porównuje z innymi materiałami zgromadzonymi w bazie. Świadczące tego typu usługi firmy, takie jak np. Clearview AI czy PimEyes wprost przyznają, że posiadają dane o „miliardach twarzy” – zdobyte na stronach publicznie dostępnych w internecie, bez zgody samych zainteresowanych.
To właśnie dzięki tej technologii dziennikarzom udało się namierzyć Danielę Klette, terrorystkę z RAFu – a w społeczeństwie niemieckim pojawiły się głosy: dlaczego dziennikarze mogli ją namierzyć, a policja nie?
Protesty przeciwko masowej inwigilacji
Pomysł rządzącej koalicji spotkał się z licznymi protestami organizacji zajmujących się prawami człowieka i prawami cyfrowymi (m. in. Amnesty International, AlgorithmWatch, CCC), społeczeństwa obywatelskiego, prawników, a nawet części polityków.
Koalicjanci przedstawili bowiem propozycję, która nie tylko budzi wątpliwości odnośnie zgodności z europejskim prawem czy niemiecką konstytucją, ale jest sprzeczna nawet z ich własną umową koalicyjną.
Społeczne emocje, podsycane przez medialne doniesienia, dały rządzącym pretekst, by forsować rozwiązania, które w państwie demokratycznym nigdy nie powinny się pojawić.
Takie naruszenie prawa do prywatności i anonimowości kojarzy się raczej z autorytarnymi reżimami.
Wprawdzie zautomatyzowana analiza danych i ich przetwarzanie przez sztuczną inteligencję mogłyby w pewnym stopniu wesprzeć pracę organów ścigania – ale kosztem transparentności, która stanowi jeden z filarów demokracji.
Technologia rozpoznawania twarzy jest jedną z najbardziej inwazyjnych – użytkownikom nie oferują jej nawet Meta i Google, które trudno podejrzewać o ochronę prywatności. W dobie cyfryzacji życie obywateli znajduje się pod stałym technologicznym nadzorem – dzięki smartfonom, mediom społecznościowym czy kamerom monitoringu ulicznego. Codzienność wymusza na ludziach różne formy obecności online.
Dodatkowo nawet, jeśli ktoś świadomie zrezygnuje z komputera i telefonu – jego twarz wciąż może trafić do internetu. W ten sposób policja czy urzędnicy mogą otrzymać dostęp do nagrań z ulicy, sklepu, dworca czy demonstracji, nawet tych sprzed wielu lat. Zwłaszcza, że policja dysponuje już własnymi bazami.
Podczas protestów w Hamburgu w 2017 roku przez kilka dni zarejestrowano ok. 100 tys. ludzi, którzy poruszali się po okolicy, a ich profile biometryczne trafiły do policyjnej bazy danych – by umożliwić ich śledzenie w przyszłości.
Połączenie policyjnych baz z innymi materiałami z internetu umożliwi służbom stworzenie jeszcze większej siatki powiązań – a to już gigantyczne naruszenie prywatności – i pole do wielu nadużyć oraz jeszcze większe zagrożenie w przypadku wycieku danych lub cyberataku.
Nie bez powodu przedsiębiorstwa oferujące biometryczne porównywanie obrazów działają poza terenem UE – nie spełniają bowiem unijnych wymogów prawnych. Ich usługi są sprzeczne z RODO i AI Act. Za utworzenie swojej bazy danych Clerview AI dostała karę 30,5 mln euro od niderlandzkiego organu ochrony danych.
W projekcie niemieckiej koalicji rządzącej można znaleźć dużo ogólników i życzeniowego myślenia o technologii.
Twórcy projektu teoretyzują na temat zgodności z unijnym prawem – w tym z RODO i Aktem o sztucznej inteligencji – nie precyzują jednak, w jaki sposób chcieliby z nim pogodzić swoją propozycję.
Także przedstawiciele niemieckiej policji, rozwodząc się nad korzyściami, jakie przyniosłoby im stosowanie inwigilacji biometrycznej, nie są w stanie odpowiedzieć na konkretne wątpliwości prawne.
Przyznają jednak, że sami raczej nie mają możliwości, bo stworzyć odpowiednią do swoich oczekiwań bazę danych – i musieliby w tym celu wykorzystać oprogramowanie oferowane przez podmioty trzecie.
Jest pewna ironia w podejściu niemieckiego rządu do Big Techów.
Z jednej strony politycy dostrzegają odpowiedzialność korporacji w szerzeniu niebezpiecznych treści, deklarują chęć działania na rzecz silniejszego przestrzegania DSA i domagają się doprecyzowania katalogu przestępstw, który zmusiłby firmy do interwencji prawnej.
Z drugiej strony zaś otwierają kolejne drzwi dla takich przedsiębiorstw, jak Palantir, Clearview AI czy PimEye, których praktyki budzą nieraz większe wątpliwości, niż działania Mety. Jeśli proponowana propozycja finalnie wejdzie w życie powstaje pytanie, kto jeszcze, poza niemieckimi służbami, będzie miał dostęp do danych Europejczyków i co z nimi zrobi.
Źródła
Gesetzentwurf der Fraktionen SPD, BÜNDNIS 90/DIE GRÜNEN und FDP
Entwurf eines Gesetzes zur Verbesserung der inneren Sicherheit
und des Asylsystems – Deutscher Bundestag, Drucksache 20/12805, 9.09.2024
Beschlussempfehlung und Bericht des Ausschusses für Inneres und Heimat (4. Ausschuss) – Deutscher Bundestag, Drucksache 20/13413, 16.10.2024
Gesetzentwurf der Fraktionen SPD, BÜNDNIS 90/DIE GRÜNEN und FDP
Entwurf eines Gesetzes zur Verbesserung der Terrorismusbekämpfung – Deutscher Bundestag , Drucksache 20/12806, 09.09.2024
Video z obrad Ausschuss für Inneres und Heimat (Komisji Spraw Wewnętrznych i Polityki Regionalnej) – mediateka Bundestagu, 23 września 2024
Daniel Leisegang, Tomas Rudl, „Überwachung, wie sie Bürger erwarten” – netzpolitik.org, 29 sierpnia 2024
Markus Reuter, „Die Koalition der Überwachung“ – netzpolitik.org, 18 października 2024
Constanze, „Sicherheitspaket als „Büchse der Pandora“” – netzpolitik.org, 16 października 2024
Chris Köver, Markus Reuter, „Eine biometrische Datenbank, um alle zu finden” – netzpolitik.org, 15 października 2024
Chris Köver, Markus Reuter, „Kosmetische Korrekturen an Überwachungsplänen” – netzpolitik.org, 15 października 2024
Chris Köver, Markus Reuter, „Ampel beschließt umstrittenes Sicherheitspaket” – netzpolitik.org, 18 października 2024
Leena Simon, Schlimmer als VDS und Chatkontrolle zusammen – digitalcourage.de, 17 października 2024 (aktualizacja 18 października 2024)
Svea Windwehr, Germany Rushes to Expand Biometric Surveillance – EFF, 7 października 2024
„Deutschland: geplantes „Sicherheitspaket” untergräbt Menschenrechte” – Amnesty International, 23 września 2024
„”Sicherheitspaket” scheitert in Teilen am Bundesrat”, Tagesschau, 18 października 2024
„Bundestag verabschiedet „Sicherheitspaket””, Tagesschau, 18 października 2024
