W dobie rosnącej popularności sztucznej inteligencji, uwagę mediów przyciąga sprawa firmy ElevenLabs, której narzędzia do klonowania głosu zostały wykorzystane do stworzenia deepfake’a głosu prezydenta Joe Bidena. Przekaz ten wykorzystano w próbie manipulacji wyborczej w New Hampshire.
Technologia AI jako narzędzie dezinformacji wyborczej
Deepfake głosu prezydenta Joe Bidena wywołał oburzenie i konieczność podjęcia działań przez polski startup ElevenLabs. Posłużył on do przeprowadzenia robocalli, czyli automatycznego systemu wywołującego masowe połączenia telefoniczne, mającego zniechęcić wyborców w New Hampshire do udziału w wyborach. Choć początkowo źródło technologii pozostawało nieznane, to dogłębna analiza przeprowadzona przez firmę Pindrop ujawniła, że to właśnie narzędzia ElevenLabs posłużyły do tej manipulacji.
Firma Pindrop zastosowała zaawansowane techniki analizy audio, usuwanie szumów oraz porównanie z próbkami ponad 120 technologii syntezy głosu wykorzystywanych do tworzenia deepfakeów. CEO Pindrop, Vijay Balasubramaniyan, potwierdził, że istnieje “więcej niż 99-procentowa” pewność, iż był to produkt ElevenLabs.
Po otrzymaniu raportu od Pindrop, ElevenLabs natychmiast zareagowała, identyfikując i zawieszając konto odpowiedzialne za stworzenie fałszywego nagrania. Firma nie wypowiedziała się bezpośrednio na temat incydentu, podkreślając jednak swoje zaangażowanie w zapobieganie nadużyciom narzędzi AI i traktowanie każdego przypadku nadużyć bardzo poważnie.
Zdarzenie z deepfakiem głosu Bidena pokazuje potencjał technologii AI do wpływania na wybory w Stanach Zjednoczonych, ale nie tylko, bo ElevenLabs również działa w języku polskim! Profesor Kathleen Carley z Carnegie Mellon University zwróciła uwagę na możliwość wykorzystania takich technologii do tłumienia głosów wyborców lub ataków na pracowników wyborczych w przyszłości.
