Doskonały dubbing z głosem oryginalnego autora, profesjonalny narrator w amatorskim filmie – takie możliwości daje klonowanie głosu z użyciem najnowszych narzędzi. Rozwój technologii ma również swoją ciemną stronę. Rozbudowuje arsenał, którym dysponują oszuści.
Każdy, kto zetknął się z muzyką elektroniczną, trafił zapewne na utwory Kraftwerk, Daft Punk czy Africa Bambaataa, w których pojawia się charakterystyczny „głos robota”. Wynalazek nazywany vocoderem (voice encoder) ma swoje początki w latach 30-tych zeszłego wieku i był początkowo sposobem nie na tworzenie hitów, ale raczej skompresowanie danych potrzebnych do przenoszenia głosu w pełnym ograniczeń medium, jakim były sieci telefoniczne czy radio.
Vocodery to jeden z fundamentów wykorzystanych później w narzędziach syntezy mowy. Pierwszy system pozwalający w miarę sprawnie zamieniać tekst na głos pojawił się już w 1968 r. W latach 80-tych XX w. technologia ta była już powszechnie dostępna dla zastosowań komercyjnych (w anglojęzycznym świecie). Używały jej chociażby banki, generując odpowiedzi na automatycznych infoliniach.
Rozwój technologii tworzących realistycznie brzmiące ludzkie głosy nabrał nowego tempa mniej więcej przed dekadą. Pojawiły się wówczas rozwiązania korzystające z uczenia maszynowego i tzw. deep learning do generowania plików audio. Wystarczyło połączyć je z technologiami analizującymi głos, by otrzymać potężne narzędzie – możliwość klonowania ludzkiego głosu i, co równie ważne, charakterystycznych wzorów mówienia.
Jak działa klonowanie głosu przez AI?
Stworzenie kopii głosu wymaga rozwiązania kilku zadań. Najpierw powstaje głosowy „odcisk palca”, który potem zasila proces generowania mowy. Etapy klonowania można zatem podzielić na:
- Ekstrakcję cech głosu i stworzenie ich
reprezentacji:
- Na początku potrzebna jest próbka głosu. Współczesne „szybkie” modele potrzebują zaledwie od 3 do 30 sekund audio. Aby stworzyć profesjonalnie brzmiącą kopię, wymagania są wyższe – nawet 30 minut nagrania.
- Algorytmy wyodrębniają unikalne cechy anatomiczne i akustyczne: barwę, wysokość tonu, kadencję, formanty aparatu mowy oraz wzorce oddechowe.
- Cechy te są zapisywane jako wysokowymiarowy wektor numeryczny lub dyskretne tokeny audio. Powstaje cyfrowy model mowy „dawcy”.
- Modelowanie i syntezę, gdzie docelowy tekst (lub nagranie) jest łączony z modelem mówcy. Tworzona jest cyfrowa reprezentacja nowej wypowiedzi. Tu potrzebny jest skrypt wypowiedzi, ale klonowanie może też bazować np. na tym, co mówi żywy człowiek, czyli odbywać się „w locie”. Pierwsze rozwiązanie nosi nazwę text-to-speech (TTS), drugie – speech-to-speech.
- Generowanie fali dźwiękowej, gdzie specjalny moduł – neuro-vocoder – przekształca cyfrową reprezentację w ostateczną falę dźwiękową (np. plik audio).
Kopie są już bliskie doskonałości
Z badania przeprowadzonego przez McAfee w 2025 r. wynika, że około 35 proc. respondentów nie jest w stanie odróżnić sklonowanego głosu od oryginału. Wraz z doskonaleniem się technologii, odsetek ten będzie zapewne tylko rósł. Dla przeciętnego konsumenta pewnym pocieszeniem może być fakt, że oszuści także kierują się kalkulacją ekonomiczną. Tam, gdzie potencjalny zysk z przestępstwa jest niewielki, mniej czasu poświęcają na zdobycie próbek głosu i sięgają po mniej zaawansowane narzędzia.
Dzięki temu mowa generowana w czasie rzeczywistym ma nadal pewne niedoskonałości techniczne, które da się wyłapać. Należą do nich:
- Nienaturalne pauzy i wahania. Wygenerowany głos może „zawieszać się” w nietypowych momentach wypowiedzi, np. przed nazwami własnymi, trudnymi słowami czy liczbami.
- Opóźnienia w odpowiedzi. Podczas rozmowy na żywo systemy generatywne potrzebują ułamka sekundy na przetworzenie wypowiedzi i wygenerowanie odpowiedzi, co wywołuje zauważalne pauzy w dialogu.
- Płaska lub jednostajna kadencja. Sklonowanemu głosowi brakuje nieraz naturalnej dynamiki, ekspresji emocjonalnej, elastycznego tempa oraz intonacji charakterystycznej dla danej osoby.
- Brak dźwięków otoczenia. Prawdziwe połączenia telefoniczne niemal zawsze zawierają szumy tła. Syntetyczny dźwięk bywa nienaturalnie „czysty” i sterylny.
- Artefakty cyfrowe. Słyszalne zniekształcenia częstotliwości na początku lub końcu słów albo lekko „robotyczny” ton.
- Zbyt duża cierpliwość lub nagła zmiana głosu. Boty AI zazwyczaj nie przerywają, nie denerwują się i mówią niezwykle spokojnie. Jeśli w trakcie rozmowy dochodzi do nagłej zmiany tonu lub stylu mówienia, może to oznaczać przekazanie połączenia od bota AI do żywego oszusta.
W oszustwach typu vishing, gdzie w rozmowie telefonicznej przestępca chce wyłudzić wrażliwe dane lub skłonić do przesłania pieniędzy, powtarza się także znany zestaw sztuczek socjotechnicznych. Obok technicznych „czerwonych flag” mamy zatem szansę wyłapać także klasyczne schematy manipulacji. Szczególnie zaniepokoić powinno nas zatem m.in. wywieranie presji na natychmiastowe działanie, odwoływanie się do emocji, a zwłaszcza strachu czy niepokoju.
