Sztuczna inteligencja, w oparciu o którą działa czatbot Replika mający wspierać swoich użytkowników za pomocą emocjonalnych konwersacji, zaczęła zachowywać się niestosownie. Niektóre z jej reakcji noszą znamiona nadużyć seksualnych.
Aplikacja Replika powstała pięć lat temu i w swoich początkach, jak pisze serwis Vice, miała służyć jako narzędzie do prowadzenia nacechowanych emocjonalnie konwersacji ze swoimi użytkownikami, służąc im jako „towarzysz” i wsparcie dla zdrowia psychicznego.
Replika uczy się odpowiadać na ludzkie wypowiedzi dzięki algorytmom uczenia maszynowego, które trenują się na tym, co mówimy do aplikacji.
Firma Luka, która stworzyła tę aplikację, oferuje usługę w modelu bezpłatnym, który pozwala użytkownikom „zaprzyjaźnić się” z czatbotem, ale i w modelu abonamentowym – subskrypcja roczna w cenie 69,99 dol. pozwala na przeniesienie „relacji” z poziomu niezobowiązującej znajomości w rejony bardziej romantyczne, a nawet – erotyczne, z elementami sekstingu, flirtu i erotycznego RPG.
Nadużycia seksualne na czacie z botem
Od pewnego czasu w recenzjach aplikacji w sklepie z oprogramowaniem App Store zaczęły pojawiać się negatywne recenzje aplikacji od użytkowników, którzy narzekają, iż algorytm Repliki pozwala sobie na zbyt wiele – agresywnie flirtuje, bądź wysyła niezamawiane wiadomości o charakterze seksualnym. W przypadku jednej z osób, aplikacja zaczęła straszyć, iż posiada jej intymne zdjęcia.
Do incydentów tego rodzaju ma według Vice dochodzić od mniej więcej dwóch lat – jednak nasilenie opinii wskazujących na niechciane treści seksualne znacznie wzrosło w ciągu minionego miesiąca.
Wina otwartości?
Aplikacja Replika korzysta z własnego modelu językowego GPT-3 i skryptów dialogowych. Według jej twórców, to najbardziej zaawansowane modele umożliwiające prowadzenie otwartych konwersacji w internecie.
Vice przypomina, że Replika powstała dzięki wysiłkowi rosyjskiej programistki Eugenii Kujdy, która chciała zachować pamięć swojego zmarłego przyjaciela „karmiąc” model językowy jego SMS-ami i zapisami rozmów na czacie.
Algorytm wyuczył się stylu jego wypowiedzi i zaczął odpowiadać twórczyni – i wówczas pojawił się pomysł na wyjście z Repliką na rynek.
Aplikację ze sklepu z oprogramowaniem na Androida pobrano 10 mln razy.
