Deep fake czyli fake news na sterydach
Dezinformacja to już nie tylko fałszywe informacje lub prosty fotomontaż na zdjęciu. Deepfake pozwala na zdecydowanie więcej i otwiera zupełnie nowe możliwości zarówno po jasnej jak i po ciemnej stronie mocy.
Wykorzystanie zaawansowanych audiowizualnych form może mieć na celu manipulację i zmianę postaw odbiorców – mogliśmy się o tym przekonać niedawno, przy okazji skandalu z rozmowami Witalija Kliczki z prezydentami europejskich miast min. Warszawy czy Berlina. Jak się okazało postać mera Kijowa został wygenerowana komputerowo przy użyciu sztucznej inteligencji. Nie wiadomo kto stał za inscenizacją ani jaki były jego intencje. Na szczęście istnieją również inne, w tym czysto marketingowe zastosowania tej technologii.
Dla porządku – fałszywe informacje obecne są w przestrzeni publicznej od zawsze, pojawienie się środków masowego przekazu umożliwiło kształtowanie postaw społecznych na ogromną skalę za pomocą odpowiednio dobranej narracji. Z kolei media społecznościowe zdemokratyzowały dostęp do serc i umysłów odbiorców – pozwoliły oddziaływać anonimowo oraz znacząco obniżyły koszt prowadzenia dezinformacji. Teraz dzięki technologii robimy krok dalej i wkraczamy w czas deepfake.
Sama technika deepfake polega na obróbce wideo i pozwala na łączenie i podmianę obrazów np. twarzy ludzkich przy użyciu technik sztucznej inteligencji – a mówiąc wprost – w usta znanych osób, polityków czy celebrytów, możemy wkładać słowa, które nigdy nie były przez nich powiedziane.
Problem dezinformacji dotyczy wszystkich
Gwałtowna cyfryzacja, z którą mamy obecnie do czynienia to również dzika cyfryzacja. Przyzwyczailiśmy się do tego, że to z czym stykamy się w mediach jest prawdą, a weryfikacja informacji wymaga wysiłku. W efekcie – pomimo szeregu portali fact checkingowych i organizacji które zajmują się walką z dezinformacją – mało kto o nich słyszał, a jeszcze mniej osób na bieżąco weryfikuje informacje, z którymi stykamy się w mediach społecznościowych. Pod tym kątem jesteśmy niestety jako Polacy na szarym końcu Europy.
I niestety dezinformacja przybiera coraz bardziej zaawansowane formy. Pół biedy jeśli robimy to za zgodą np. celebryty i ma to na celu pokazanie potęgi tzw. deep fake’ów – patrz słynne video z Tomem Cruisem czy Królową Elżbietą II. Gorzej jeśli ktoś świadomie wykorzystuje technologię, aby wpłynąć na postawy innych. Zrobił tak na przykład Manoj Tiwari polityk z Indii, który wykorzystał technologię by „przemawiać” w wielu lokalnych dialektach do swoich potencjalnych wyborców. Próbował ich w ten sposób nakłonić do konkretnych decyzji wyborczych i został na tym przyłapany.
Computer Vision tarczą przed deepfake
W demaskowniau deepfake pomaga technologia rozpoznawania obrazu (także: widzenie komputerowe, od ang. computer vision), która ma w przypadku tego zjawiska podwójne zastosowanie. Z jednej strony powstają narzędzia, które dzięki zaawansowanej analizie poszczególnych klatek video próbują wyłapać wszelkie niezgodności czy zakłócenia, by na tej podstawie ropoznać deep fake’i. Jak widać poniżej (czerwone ramki wokół zdjęć)– nie udało nam się oszukać narzędzia Deepware, że autorzy tego tekstu to Jean Claud Van Damm i Rambo. Deepfake stworzone przez nas są jednak banalnie proste, wykonane przy wykorzystaniu jednej z wielu dostępnych na rynku darmowych aplikacji do podstawiania swojej twarzy w różnych klipach.
Gorzej, jeśli mamy do czynienia z profesjonalnym deepfake. Parę tygodni temu znany amerykański raper Kendrick Lamar wypuścił klip promujący jeden z utworów z nadchodzącej, nowej płyty. W teledysku do The Heart Part 5 Kendrick Lamar wciela się wielu znanych bohaterów popkultury korzystając właśnie z deep fake’ów. W efekcie – o ile na naszych prostych filmikach z poprzedniego slajdu technologia wychwyciła deepfake z bardzo wysokim prawdopodobieństwem, tutaj przez długie fragmenty klipu tych manipulacji w ogóle nie zauważa.
Deepfake to także szansa
Drugie zupełnie odmienne zastosowanie deepfake to marketing. Dzięki zastosowaniu technologii możliwe staje się wykorzystanie wizerunku znanej osoby do celów reklamowych bez jej fizycznej obecności. Odpadają kwestie związane brakiem dostępności w danym czasie czy miejscu, aranżowaniem planu zdjęciowego, podróży, zakwaterowania itp. Wystarczy opłacić licencję za wykorzystanie wizerunku i dzięki computer vision wybrana osoba może „wystąpić” w reklamie. Tak zrobił np. jeden z telekomów, który w swojej reklamie posłużył się wizerunkiem Bruce’a Willisa.
Credits: Tomasz Szulkowski, Michal Szczur, slajdy: IAB / Forum IAB.
