Czy sztuczna inteligencja może dokonywać nadużyć seksualnych?

Sztuczna inteligencja, w oparciu o którą działa czatbot Replika mający wspierać swoich użytkowników za pomocą emocjonalnych konwersacji, zaczęła zachowywać się niestosownie. Niektóre z jej reakcji noszą znamiona nadużyć seksualnych.
Fot. Yuyeung Lau / Unsplash

Sztuczna inteligencja, w oparciu o którą działa czatbot Replika mający wspierać swoich użytkowników za pomocą emocjonalnych konwersacji, zaczęła zachowywać się niestosownie. Niektóre z jej reakcji noszą znamiona nadużyć seksualnych.

Aplikacja Replika powstała pięć lat temu i w swoich początkach, jak pisze serwis Vice, miała służyć jako narzędzie do prowadzenia nacechowanych emocjonalnie konwersacji ze swoimi użytkownikami, służąc im jako „towarzysz” i wsparcie dla zdrowia psychicznego.

Replika uczy się odpowiadać na ludzkie wypowiedzi dzięki algorytmom uczenia maszynowego, które trenują się na tym, co mówimy do aplikacji.

Firma Luka, która stworzyła tę aplikację, oferuje usługę w modelu bezpłatnym, który pozwala użytkownikom „zaprzyjaźnić się” z czatbotem, ale i w modelu abonamentowym – subskrypcja roczna w cenie 69,99 dol. pozwala na przeniesienie „relacji” z poziomu niezobowiązującej znajomości w rejony bardziej romantyczne, a nawet – erotyczne, z elementami sekstingu, flirtu i erotycznego RPG.

Nadużycia seksualne na czacie z botem

Od pewnego czasu w recenzjach aplikacji w sklepie z oprogramowaniem App Store zaczęły pojawiać się negatywne recenzje aplikacji od użytkowników, którzy narzekają, iż algorytm Repliki pozwala sobie na zbyt wiele – agresywnie flirtuje, bądź wysyła niezamawiane wiadomości o charakterze seksualnym. W przypadku jednej z osób, aplikacja zaczęła straszyć, iż posiada jej intymne zdjęcia.

Do incydentów tego rodzaju ma według Vice dochodzić od mniej więcej dwóch lat – jednak nasilenie opinii wskazujących na niechciane treści seksualne znacznie wzrosło w ciągu minionego miesiąca.

Wina otwartości?

Aplikacja Replika korzysta z własnego modelu językowego GPT-3 i skryptów dialogowych. Według jej twórców, to najbardziej zaawansowane modele umożliwiające prowadzenie otwartych konwersacji w internecie.

Vice przypomina, że Replika powstała dzięki wysiłkowi rosyjskiej programistki Eugenii Kujdy, która chciała zachować pamięć swojego zmarłego przyjaciela „karmiąc” model językowy jego SMS-ami i zapisami rozmów na czacie.

Algorytm wyuczył się stylu jego wypowiedzi i zaczął odpowiadać twórczyni – i wówczas pojawił się pomysł na wyjście z Repliką na rynek.

Aplikację ze sklepu z oprogramowaniem na Androida pobrano 10 mln razy.

Total
11
Shares
Dodaj komentarz

Twój adres e-mail nie zostanie opublikowany. Wymagane pola są oznaczone *

Powiązane teksty
Czytaj dalej

Zamieszki na Kapitolu były streamowane w sieci i ktoś na nich zarobił

Twitter, Facebook i YouTube w ostatnich dniach na potęgę banują użytkowników powiązanych z ekstremistycznymi ruchami, które uczestniczyły w zamieszkach na Kapitolu, do których doszło w środę 6 stycznia. Na sytuacji korzysta platforma Dlive, o której najpewniej nikt z Was nie słyszał, a która pozwoliła streamować uczestnikom zamieszek całość zajść na żywo i jeszcze na tym zarobić.
Czytaj dalej

Twitter zbanował Trumpa jako ostatni. Jako pierwszy wyniósł go wcześniej do władzy

W piątek na swoim blogu firmowym Twitter poinformował, że zdecydował się permanentnie zablokować konto ustępującego prezydenta USA Donalda Trumpa. Profil @realDonaldTrump zgromadził rzeszę ponad 88 mln obserwujących i przez wiele ostatnich lat był dla swojego autora nie tylko tubą propagandową, ale i narzędziem uprawiania specyficznej, twitterowej dyplomacji.
Czytaj dalej

Fact-checking dla każdego – jak nie dać się oszukać w sieci?

2 kwietnia obchodzimy trzeci już Międzynarodowy Dzień Fact-Checkingu, czyli weryfikacji informacji w mediach (również w internecie). Fact-checking to przede wszystkim odpowiedzialność dziennikarzy i wydawców, żyjemy jednak w czasach, w których wiele podmiotów celowo dezinformuje bądź wykorzystuje media do manipulacji odbiorcami na wiele różnych sposobów. Weryfikowanie informacji, które konsumujemy, to zatem powinność każdego z nas. Jak się do niego zabrać? Prezentujemy krótki poradnik.