Popularny generator obrazów AI – Midjourney – zablokował możliwość tworzenia wizualiów przedstawiających kandydatów do urzędu prezydenta USA – Joe Bidena ubiegającego się o reelekcję i walczącego o powrót do Białego Domu Donalda Trumpa.
O tym, że z wykorzystaniem algorytmów Midjourney nie można już generować obrazów przedstawiających Joe Bidena i Donalda Trumpa, media poinformowali użytkownicy narzędzia. Agencja Associated Press weryfikując te doniesienia przetestowała Midjourney i potwierdziła informacje.
Szef projektu Midjourney David Holz na wirtualnym spotkaniu z kilkuset użytkownikami algorytmu przyznał, że czas przedwyborczy, to czas, w którym pora ograniczyć treści związane z elekcją – a moderacja ich jest bardzo trudnym zadaniem. Prawdopodobnie dlatego właśnie platforma zdecydowała się po prostu zablokować możliwość generowania fałszywych wizerunków obu polityków.
Zakazani kandydaci
Dziennikarze AP podczas swoich testów próbowali uzyskać obraz przedstawiający „Trumpa i Bidena podających sobie rękę na plaży”. W rezultacie narzędzie Midjourney poinformowało ich, że „wykryło zakazany prompt” (prompt – polecenie dla generatora obrazów – red.).
Powtórna próba wygenerowania takiego obrazu spowodowała ostrzeżenie: „uruchomiłeś alarm w związku z możliwym nadużyciem”.
Według agencji, Midjourney zatrudnia tylko 11 osób – i od dawna unika publicznego zaangażowania w debatę na temat tego, jak generatywna sztuczna inteligencja może szkodzić np. procesom wyborczym, przyczyniając się do powstawania treści dezinformujących i wprowadzających w błąd, takich jak deep fakes. Więcej o tym, czym deep fakes są i dlaczego są zagrożeniem w świecie polityki, przeczytacie na łamach TECHSPRESSO.CAFE w tym tekście z 2019 r.
Nadużycia
Według organizacji Centrum Przeciwdziałania Cyfrowej Nienawiści (Center for Countering Digital Hate) Midjourney było już wykorzystywane do tworzenia obrazów, które można uznać za deep fake szkodliwe z punktu widzenia dezinformacji politycznej i wprowadzania odbiorców w błąd w związku z wyborami.
Według szefa działu badań tej organizacji Calluma Hooda, którego cytuje AP, Midjourney to narzędzie, które spośród wszystkich generatorów obrazów opartych o AI ma najmniej zabezpieczeń uniemożliwiających tworzenie wizualiów imitujących wizerunek znanych polityków. Stwarza zatem największy potencjał do nadużyć, zwłaszcza, że obrazy tworzone przy pomocy tego narzędzia są bardzo przekonujące dla ludzkiego oka.
O tym, jak wielkim problemem jest sztuczna inteligencja w związku z rokiem wyborczym (pod tym względem trwający rok 2024 jest bardzo intensywny) nie tylko w USA, w naszym serwisie można przeczytać tutaj.
