Firma OpenAI – twórcy narzędzia ChatGPT – poinformowała o rozbiciu ponad 20 zagranicznych operacji wpływu, w których próbowano wykorzystywać produkty spółki m.in. do dezinformowania i cyberataków. Dane obejmują ubiegły rok.
Na przestrzeni ostatniego roku firma OpenAI rozbiła ponad 20 operacji wpływu, które wykorzystywały generatywne technologie AI do manipulacji politycznej na całym świecie, w tym w Stanach Zjednoczonych.
Według spółki, aktorzy za nie odpowiedzialni próbowali używać narzędzi takich jak ChatGPT do analizowania powierzchni ataku, debugowania złośliwego oprogramowania, tworzenia treści spearphishingowych oraz wpływania na nastroje społeczne poprzez generowanie fałszywych artykułów i komentarzy na portalach społecznościowych.
Kto manipuluje z użyciem AI?
OpenAI wskazuje, że za działaniami takimi stoją przede wszystkim Chiny, Rosja i Iran, ale także Rwanda czy Wietnam.
Co istotne, nie wszystkie operacje były bezpośrednio powiązane z rządami tych państw i ich bezpośrednimi celami politycznymi. Niektóre przypadki dotyczyły prób wykorzystania technologii OpenAI do tworzenia komentarzy na tematy kontrowersyjne, takie jak konflikt w Gazie, stosunki Izraela z Zachodem, polityka Wenezueli czy dążenia do niepodległości Szkocji.
Wzrost liczby ataków, ale bez znaczących przełomów
Operatorzy złośliwych kampanii nieustannie eksperymentują tak z tematami, jak i z konkretnymi sposobami użycia modeli sztucznej inteligencji w swoich działaniach.
Póki co, jak twierdzi firma Samuela Altmana, mimo wzrostu częstotliwości ataków z wykorzystaniem sztucznej inteligencji, nie zaobserwowano znaczącego przełomu w postaci np. znacząco ulepszonego złośliwego oprogramowania, albo skutecznych, wiralowych kampanii dezinformacyjnych na szeroką skalę.
Co ciekawe, firma zauważyła, że część ataków ukierunkowana była przeciwko niej. Jeden z aktorów powiązany z Chinami próbował wykorzystywać ChatGPT do tworzenia złośliwych e-maili rozsyłanych w ramach kampanii spearphishingowej, których adresatami byli pracownicy OpenAI. E-maile zawierały złośliwe oprogramowanie pozwalające na uzyskanie zdalnego dostępu i kontroli nad zainfekowanym urządzeniem.
Jak manipulują państwa?
Rosja i Iran wykorzystują narzędzia generatywnej sztucznej inteligencji przede wszystkim do manipulowania opinią publiczną w Stanach Zjednoczonych – twierdzi OpenAI, a jak podkreśla serwis CyberScoop, obserwacje firmy są zbieżne z wnioskami amerykańskiej społeczności wywiadowczej, także analizującej zagrożenia wynikające z operacji wpływu.
Aktorzy ci generują treści w języku angielskim i hiszpańskim, które mają na celu pogłębianie podziałów politycznych w Stanach. Iran stara się wpływać na wyniki wyborów prezydenckich w USA, próbując zaszkodzić Donaldowi Trumpowi, który startuje w wyborach jako kandydat Republikanów.
Rosja natomiast koncentruje się na dezinformacji związanej z Demokratami i wiceprezydentką Kamalą Harris. Rosyjskie operacje często bazują na algorytmicznie generowanych treściach, które wspierają szersze cele Moskwy dotyczące osłabiania pozycji politycznych przeciwników na arenie międzynarodowej.
Jak OpenAI stara się walczyć z zagrożeniami?
OpenAI znacznie rozbudowało swoje możliwości wykrywania zagrożeń. Firma opracowała nowe narzędzia oparte na sztucznej inteligencji, które znacznie przyspieszają analizę zagrożeń, redukując czas potrzebny na wykonanie niektórych zadań z – jak deklaruje spółka – „dni do minut”.
Narzędzia te pomagają w identyfikacji niebezpiecznych działań w fazie pośredniej, zanim treści złośliwe zostaną opublikowane na szeroką skalę. Eksperci firmy podkreślają, że sztuczna inteligencja jest coraz częściej kluczowym elementem wielu operacji wpływu, dzięki czemu ta spółka, jak i inne podmioty pracujące w branży, mają szczególny wgląd w trwające operacje i mogą dzięki temu rozumieć, jak rozwijają się działania odpowiedzialnych za nie aktorów, a także próbować mapować ich dalsze plany.
