Wyobraźmy sobie, że w noc przedwyborczą do sieci wypływa kolejne nagranie dźwiękowe z restauracji Sowa & Przyjaciele – tym razem spreparowane za pomocą sztucznej inteligencji. Albo film z udziałem polityka, na którym pijany, wściekły okazuje się homofobem i antysemitą. Bełkocze, że po wygranej zlikwiduje 500 plus.
DEEPFAKE – cyfrowo sfałszowanym nagraniu, zawierające jakiś przekaz. To, nielegalne narzędzie, rozpowszechnia się w internecie, poprzez sieci social media, w zastraszającym tempie.
W ostatnim czasie pojawiły się nagrania, głównie amerykańskich celebrytów i polityków, zrealizowane jako deepfake.
- Były prezydent Obama nazwał aktualnego prezydenta USA dupkiem.
- Prezydent Trump opowiadał o swojej wielkości i popularności, którą zawdzięcza wielkości swojego mózgu.
- Szefowa parlamentu amerykańskiego udzielała wywiadu po pijaku.
- Mark Zuckerberg mówi na nagraniu: „Wyobraź to sobie przez moment. Jeden człowiek mający całkowitą kontrolę nad skradzionymi danymi miliardów ludzi. Ich wszystkimi tajemnicami, ich życiem, ich przyszłością.”
- Pojawiły się fałszywe filmy pornograficzne z udziałem gwiazd kina
Jak się robi deepfake?
Co może deepfake?
Można uderzyć w czyjąś reputację, można doprowadzić do złamania kariery, a nawet… sterować wynikami wyborów.
Wyobraźmy sobie, że w noc przedwyborczą do sieci wypływa kolejne nagranie dźwiękowe z restauracji Sowa & Przyjaciele – tym razem spreparowane za pomocą sztucznej inteligencji. Albo film z udziałem polityka, na którym pijany, wściekły okazuje się homofobem i antysemitą. Bełkocze, że po wygranej zlikwiduje 500 plus. Okno czasowe zostaje tak obliczone, żeby nagranie mogło się jak najszerzej rozprzestrzenić, ale eksperci nie mieli czasu go zdemaskować. A nawet jeśli to zrobią – część spolaryzowanego elektoratu tkwiąca we własnych bańkach społecznościowych i tak nigdy do tego nie dotrze.
Scenariusze deepfake’ów można mnożyć w nieskończoność: polityk opozycji demokratycznej przyjmujący łapówkę lub instrukcje od służb. Muzułmanin deklarujący wierność Państwu Islamskiemu. Amerykański żołnierz mordujący cywili na Bliskim Wschodzie. Prezes firmy mającej zaraz podpisać kontrakt rządowy, który kupuje narkotyki czy kradnie w sklepie.
Jak się bronić przed deepfake?
Póki co, nawet amerykańskie prawo nie jest przygotowane do walki z tym zjawiskiem. Na razie mamy jedynie propozycje poprawek do ustaw na poziomie federalnym i poprawkę do prawa stanowego w Virginii, gdzie wprowadzono grzywny finansowe za tworzenie i publ8ikowanie deepfake’ów.
Polskie prawo nie przewiduje karania za deepfake. Można naciągać prawo związane z ochroną wizerunku albo zniesławienia ale te przepisy nie działają prewencyjnie.
Zatem na ochronę prawną, póki co, liczyć nie można. Barierą może być fakt, iż produkcja deepfake’ów jest bardzo kosztowna, wymaga zaawansowanych technologii i umiejętności programistycznych, wielkich mocy obliczeniowych, zatem nie jest to jeszcze narzędzie powszechne. I w tym nadzieja.
W Ameryce i Wielkiej Brytanii powstają już startupy, które zajmują się tworzeniem technologii do wykrywania i neutralizacji deepake’ów.
To tylko początek ery maszyn, w którą wchodzimy. Coraz bardziej istotne będzie weryfikowanie źródeł, z których czerpiemy informację, i świadomość, że tekst w internecie wraz ze zdjęciami może być całkowicie stworzony przez komputer – Przemysław Chojecki
wykorzystano artykuł – Deepfake, kłamstwo na sterydach
Wraz z moim zaprzyjaźnionym Bractwem ZEMUN rozpoczynamy prace nad przygotowaniem wniosku do Polickiego Budżetu Obywatelskiego w sprawie urządzenia Wybiegów dla Psów w Policach.
