Deepfake: Różnice pomiędzy wersjami

Z Wikipedii, wolnej encyklopedii
Przeglądaj historię interaktywnie
[wersja przejrzana][wersja przejrzana]
← poprzednia edycjanastępna edycja →
Usunięta treść Dodana treść
WizualnieWikikod
→‎Przykłady: królowa Elżbieta II (grudzień 2020)
Znaczniki: Z urządzenia mobilnego Z wersji mobilnej (przeglądarkowej) Zaawansowana edycja mobilna
badania i przeciwdziałanie, źródła/przypisy, ilustracja
Linia 4: Linia 4:


Pojęcie ''deepfake'' pojawiło się po raz pierwszy w końcu 2017, a nazwę zaczerpnięto od pseudonimu użytkownika, który opublikował kilka filmów porno zrealizowanych przy użyciu algorytmu uczenia maszynowego z wykorzystaniem wizerunków m.in. [[Gal Gadot]], [[Maisie Williams]] i [[Taylor Swift]]<ref>{{Cytuj |autor = Jason Koebler, Samantha Cole |tytuł = We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now |data = 2018-01-24 |data dostępu = 2019-08-14 |opublikowany = Vice |url = https://www.vice.com/en_us/article/bjye8a/reddit-fake-porn-app-daisy-ridley |język = en}}</ref>.
Pojęcie ''deepfake'' pojawiło się po raz pierwszy w końcu 2017, a nazwę zaczerpnięto od pseudonimu użytkownika, który opublikował kilka filmów porno zrealizowanych przy użyciu algorytmu uczenia maszynowego z wykorzystaniem wizerunków m.in. [[Gal Gadot]], [[Maisie Williams]] i [[Taylor Swift]]<ref>{{Cytuj |autor = Jason Koebler, Samantha Cole |tytuł = We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now |data = 2018-01-24 |data dostępu = 2019-08-14 |opublikowany = Vice |url = https://www.vice.com/en_us/article/bjye8a/reddit-fake-porn-app-daisy-ridley |język = en}}</ref>.

Według raportu Deeptrace technologia rozwija się bardzo szybko. Na początku 2019 roku w internecie zaprezentowano 7964 filmów deepfake, dziesięć miesięcy później ich liczba wynosiła 14678<ref>{{Cytuj |autor = Rob Toews |tytuł = Deepfakes Are Going To Wreak Havoc On Society. We Are Not Prepared. |data dostępu = 2021-03-17 |opublikowany = Forbes |url = https://www.forbes.com/sites/robtoews/2020/05/25/deepfakes-are-going-to-wreak-havoc-on-society-we-are-not-prepared/ |język = en}}</ref>. Wiele kwestii prawnych związanych z technologią nie zostało jeszcze uregulowanych<ref>{{Cytuj |autor = Grace Shao |tytuł = What 'deepfakes' are and how they may be dangerous |data = 2019-10-14 |data dostępu = 2021-03-17 |opublikowany = CNBC |url = https://www.cnbc.com/2019/10/14/what-is-deepfake-and-how-it-might-be-dangerous.html |język = en}}</ref>.


== Przykłady ==
== Przykłady ==
[[File:Dictators - Kim Jong-Un by RepresentUs.webm|thumb|[[Kim Dzong Un]] o [[Demokracja|demokracji]]. Przemówienie wykonane technologią deepfake. ]]
⚫
* film z twarzą [[Kit Harington|Kita Haringtona]], w którym grany przez niego Jon Snow przeprasza za zakończenie serialu „[[Gra o tron (serial telewizyjny)|Gra o tron]]”<ref name=LE>{{Cytuj |autor = Lisa Eadicicco, 08:42 14 Lip, 133 458 |tytuł = Niebezpieczny internetowy trend może przyczynić się do zniszczenia twojej reputacji. Nikt nie wie, co z nim zrobić |data = 2019-07-14 |data dostępu = 2019-08-16 |opublikowany = Business Insider |url = https://businessinsider.com.pl/technologie/nowe-technologie/deepfakes-historia-falszywych-filmow-i-pomysly-na-walke-z-nimi/s17z2p0 |język = pl}}</ref>

⚫
*film z twarzą [[Kit Harington|Kita Haringtona]], w którym grany przez niego Jon Snow przeprasza za zakończenie serialu „[[Gra o tron (serial telewizyjny)|Gra o tron]]”<ref name="LE">{{Cytuj |autor = Lisa Eadicicco, 08:42 14 Lip, 133 458 |tytuł = Niebezpieczny internetowy trend może przyczynić się do zniszczenia twojej reputacji. Nikt nie wie, co z nim zrobić |data = 2019-07-14 |data dostępu = 2019-08-16 |opublikowany = Business Insider |url = https://businessinsider.com.pl/technologie/nowe-technologie/deepfakes-historia-falszywych-filmow-i-pomysly-na-walke-z-nimi/s17z2p0 |język = pl}}</ref>
* wideoklipy, w których twarz [[Nicolas Cage|Nicholasa Cage’a]] została nałożona na słynne sceny z filmów (początek 2018)<ref name=LE />
* wideoklipy, w których twarz [[Nicolas Cage|Nicholasa Cage’a]] została nałożona na słynne sceny z filmów (początek 2018)<ref name=LE />
* nagranie przedstawiające [[Barack Obama|Baracka Obamę]], wypowiadającego ostrzeżenia (których w rzeczywistości nigdy nie powiedział) przed zagrożeniami, jakie niesie nieetyczne zastosowanie technologii cyfrowych (kwiecień 2018)<ref name=LE />
* nagranie przedstawiające [[Barack Obama|Baracka Obamę]], wypowiadającego ostrzeżenia (których w rzeczywistości nigdy nie powiedział) przed zagrożeniami, jakie niesie nieetyczne zastosowanie technologii cyfrowych (kwiecień 2018)<ref name=LE />
* nagranie z twarzą [[Mark Zuckerberg|Marka Zuckerberga]], ostrzegającego przed zagrożeniami, jakie niosą cyfrowe technologie (czerwiec 2019)<ref name=LE />
* nagranie z twarzą [[Mark Zuckerberg|Marka Zuckerberga]], ostrzegającego przed zagrożeniami, jakie niosą cyfrowe technologie (czerwiec 2019)<ref name=LE />
* udostępnienie kontrowersyjnej aplikacji internetowej DeepNude pozwalającej na tworzenie naturalistycznych obrazów nagich kobiet za pomocą przesłanych do aplikacji zdjęć prawdziwych osób (czerwiec 2019)<ref name=LE />
* udostępnienie kontrowersyjnej aplikacji internetowej DeepNude pozwalającej na tworzenie naturalistycznych obrazów nagich kobiet za pomocą przesłanych do aplikacji zdjęć prawdziwych osób (czerwiec 2019)<ref name=LE />
* zainscenizowane przemówienie królowej brytyjskiej [[Elżbieta II|Elżbiety II]], nadane przez stację telewizyjną [[Channel&nbsp;4]] (grudzień 2020)<ref>{{Cytuj stronę | url = https://www.bbc.com/news/amp/technology-55424730 | tytuł = Deepfake queen to deliver Channel 4 Christmas message | autor = | opublikowany = BBC News (online) | data = 23 grudnia 2020 | język = en | data dostępu = 2021-01-23}}</ref><ref>{{Cytuj stronę | url = https://deadline.com/2020/12/queen-elizabeth-deepfake-message-jabs-harry-meghan-prince-andrew-1234661642/amp/ | tytuł = Queen Elizabeth ‘Deepfake’ Message Jabs Prince Harry & Meghan, Prince Andrew | autor = Bruce Haring | opublikowany = Deadline (online) | data = 26 grudnia 2020 | język = en | data dostępu = 2021-01-23}}</ref><ref>{{Cytuj stronę | url = https://www.broadcastnow.co.uk/tech/framestore-reveals-behind-the-scenes-footage-of-deep-fake-queens-speech/5156324.article | tytuł = Framestore reveals behind-the-scenes footage of deep fake Queen’s Speech | autor = Max Miller | opublikowany = Broadcast (online) | data = 19 stycznia 2021 | język = en | data dostępu = 2021-01-23}}</ref>.
* film z przemówieniem [[Kim Dzong Un|Kim Dzong Una]] na temat demokracji z 2020 roku<ref>{{Cytuj |tytuł = Too real? Deepfake Putin, Kim Jong Un ads pulled from U.S. debate |data dostępu = 2021-03-17 |opublikowany = Global News |url = https://globalnews.ca/news/7368533/deepfake-vladimir-putin-kim-jong-un-ads/ |język = en-US}}</ref>,
*zainscenizowane przemówienie królowej brytyjskiej [[Elżbieta II|Elżbiety II]], nadane przez stację telewizyjną [[Channel 4]] (grudzień 2020)<ref>{{Cytuj stronę | url = https://www.bbc.com/news/amp/technology-55424730 | tytuł = Deepfake queen to deliver Channel 4 Christmas message | autor = | opublikowany = BBC News (online) | data = 23 grudnia 2020 | język = en | data dostępu = 2021-01-23}}</ref><ref>{{Cytuj stronę | url = https://deadline.com/2020/12/queen-elizabeth-deepfake-message-jabs-harry-meghan-prince-andrew-1234661642/amp/ | tytuł = Queen Elizabeth ‘Deepfake’ Message Jabs Prince Harry & Meghan, Prince Andrew | autor = Bruce Haring | opublikowany = Deadline (online) | data = 26 grudnia 2020 | język = en | data dostępu = 2021-01-23}}</ref><ref>{{Cytuj stronę | url = https://www.broadcastnow.co.uk/tech/framestore-reveals-behind-the-scenes-footage-of-deep-fake-queens-speech/5156324.article | tytuł = Framestore reveals behind-the-scenes footage of deep fake Queen’s Speech | autor = Max Miller | opublikowany = Broadcast (online) | data = 19 stycznia 2021 | język = en | data dostępu = 2021-01-23}}</ref>.
*film z 2021 roku z aktorem [[Tom Cruise|Tomem Cruisem]]<ref>{{Cytuj |tytuł = Ponad 11 mln użytkowników zobaczyło deepfake z Tomem Cruisem. 'Ta technologia rozwija się w szalonym tempie' |data dostępu = 2021-03-17 |opublikowany = www.wirtualnemedia.pl |url = https://www.wirtualnemedia.pl/artykul/deepfake-tom-cruise-tik-tok-zasieg-opinie-ekspertow-hit-internetu |język = pl}}</ref><ref>{{Cytuj |tytuł = Przerażająco realistyczny deepfake Toma Cruise'a hitem internetu. Miliony wyświetleń w sieci |data = 2021-03-03 |data dostępu = 2021-03-17 |opublikowany = www.komputerswiat.pl |url = https://www.komputerswiat.pl/aktualnosci/nauka-i-technika/przerazajaco-realistyczny-deepfake-toma-cruisea-hitem-internetu-miliony-wyswietlen-w/mz0lrhf |język = pl}}</ref>.

== Badania i przeciwdziałanie   ==

=== Grupa DFDC ===
W odpowiedzi na zagrożenia związane z rozwojem technologii zawiązano grupę DFDC ([[Język angielski|ang.]] Deepfake Detection Challenge), w której pracowali specjaliści z firm [[Facebook]] i [[Microsoft]] oraz naukowcy z [[Massachusetts Institute of Technology]], [[Uniwersytet Oksfordzki|Uniwersytetu Oksfordzkiego]] oraz Uniwersytetów z Berkeley i Maryland<ref name=":0">{{Cytuj |tytuł = Facebook i Microsoft chcą skutecznie walczyć z deepfake’ami. 10 mln dolarów na nowe narzędzia |data dostępu = 2021-03-17 |opublikowany = www.wirtualnemedia.pl |url = https://www.wirtualnemedia.pl/artykul/deepfake-co-to-jest-nowa-projekt-facebook-i-microsoft-10-mln-dolarow-na-nowe-narzedzia-dlaczego-jak-wykryc-deepfake |język = pl}}</ref><ref>{{Cytuj |tytuł = Przyszłość deepfake'ów - naucz się żyć w świecie fałszu - PTSP.pl |data = 2020-10-12 |data dostępu = 2021-03-17 |opublikowany = Polskie Towarzystwo Studiów nad Przyszłością |url = https://ptsp.pl/glebia-falszu-jaka-jest-przyszlosc-deepfakeow/ |język = pl-PL}}</ref>. Inicjatywa została powołana w sierpniu 2019 roku<ref>{{Cytuj |tytuł = Creating a dataset and a challenge for deepfakes |data dostępu = 2021-03-17 |opublikowany = ai.facebook.com |url = https://ai.facebook.com/blog/deepfake-detection-challenge/ |język = pl}}</ref>.

Badania koncentrowały się nad stworzeniem narzędzia umożliwiającego wykrycie filmów deepfake, walkę ze zmanipulowanymi treściami oraz działania edukacyjne. Na wsparcie grupy DFDC Facebook przeznaczył 10 mln dolarów<ref name=":0" /><ref>{{Cytuj |autor = GOGOmedia, http://gogomedia pl office@gogomedia.pl |tytuł = Nie daj się oszukać! Facebook i Microsoft ogłaszają walkę z DeepFake'ami |data dostępu = 2021-03-17 |opublikowany = www.centrumxp.pl |url = https://www.centrumxp.pl/Publikacja/Nie-daj-sie-oszukac-Facebook-i-Microsoft-oglaszaja-walke-z-DeepFakeami |język = pl-PL}}</ref>.  W 2019 roku do grupy DFDC dołączył [[Amazon.com|Amazon]]. Firma zdecydowała się wesprzeć badania naukowe kwotą miliona dolarów<ref>{{Cytuj |autor = GOGOmedia, http://gogomedia pl office@gogomedia.pl |tytuł = Amazon dołącza do Facebooka i Microsoftu w walce z DeepFake'ami |data dostępu = 2021-03-17 |opublikowany = www.centrumxp.pl |url = https://www.centrumxp.pl/Publikacja/Amazon-dolacza-do-Facebooka-i-Microsoftu-w-walce-z-DeepFakeami |język = pl-PL}}</ref><ref>{{Cytuj |tytuł = AWS supports the Deepfake Detection Challenge with competition data and AWS credits |data = 2019-10-21 |data dostępu = 2021-03-17 |opublikowany = Amazon Web Services |url = https://aws.amazon.com/blogs/machine-learning/aws-supports-the-deepfake-detection-challenge-with-competition-data-and-aws-credits/ |język = en-US}}</ref>.

Analizy przeprowadzone w ramach grupy DFDC potwierdziły trudności z wykrywaniem materiałów deepfake przy pomocy [[Sztuczna inteligencja|sztucznej inteligencji]] i wytyczyły obszary, w których niezbędne są kolejne prace. W 2020 roku stworzone w ramach projektu algorytmy uzyskiwały skuteczność na poziomie 65%, a w pozostałych przypadkach system nie rozpoznawał materiału deepfake lub fałszywie diagnozował jego wystąpienia w materiałach prawdziwych<ref>{{Cytuj |autor = Ashish Jaiman |tytuł = Deepfake detection is super hard! |data = 2020-07-07 |data dostępu = 2021-03-17 |opublikowany = Medium |url = https://towardsdatascience.com/deepfake-detection-is-super-hard-38f98241ee49 |język = en}}</ref>.

=== DARPA ===
Amerykańska Agencja [[Defense Advanced Research Projects Agency|DARPA]] ([[Język angielski|ang.]] Defense Advanced Research Projects Agency) działająca w strukturach [[Departament Obrony Stanów Zjednoczonych|Departamentu Obrony]] [[Stany Zjednoczone|Stanów Zjednoczonych]] bada technologię deepfake i angażuje się w działania mające na celu ograniczyć jej negatywne skutki, w tym: [[Dezinformacja|dezinformację]], chaos informacyjny, manipulowanie opinią publiczną, wykorzystanie technologii do popełniania [[Przestępstwo|przestępstw]] lub naruszania zasad demokracji. W ramach projektu Semantic Forensics (SemaFor) pracuje nad metodami wykrywania zmanipulowanych treści, w ramach projektu Media Forensics (MediFor) planuje działania prewencyjne<ref>{{Cytuj |tytuł = DARPA Is Taking On the Deepfake Problem |data dostępu = 2021-03-17 |opublikowany = Nextgov.com |url = https://www.nextgov.com/emerging-tech/2019/08/darpa-taking-deepfake-problem/158980/ |język = en}}</ref><ref>{{Cytuj |tytuł = DARPA Is Taking On the Deepfake Problem |data dostępu = 2021-03-17 |opublikowany = Defense One |url = https://www.defenseone.com/technology/2019/08/darpa-taking-deepfake-problem/158988/ |język = en}}</ref><ref>{{Cytuj |tytuł = DARPA chce stworzyć narzędzia do rozpoznawania tzw. deep fake'ów - CyberDefence24 |data dostępu = 2021-03-17 |opublikowany = www.cyberdefence24.pl |url = https://www.cyberdefence24.pl/darpa-chce-stworzyc-narzedzia-do-rozpoznawania-tzw-deep-fakeow}}</ref>.

Na prace związane z wykrywaniem technologii deepfake DARPA przeznaczyła 68 milionów dolarów<ref>{{Cytuj |tytuł = DARPA spent $68 million on technology to spot deepfakes |data dostępu = 2021-03-17 |opublikowany = Futurism |url = https://futurism.com/darpa-68-million-technology-deepfakes}}</ref>.

=== Agencja Reuters ===
[[Reuters|Agencja Reuters]] prowadzi projekty mające na celu ograniczyć negatywne skutki dezinformacyjne, które może nieść rozwój technologii deepfake. W 2019 roku we współpracy z Facebookiem udostępniła w internecie nieodpłatne materiały edukacyjne dla [[Dziennikarz|dziennikarzy]], pozwalające na zapoznanie się z technologią i ułatwienie identyfikacji dostarczanych im materiałów<ref>{{Cytuj |tytuł = Facebook pomógł stworzyć kurs wykrywania deepfake |data = 2019-12-18 |data dostępu = 2021-03-17 |opublikowany = ANDROID.COM.PL - społeczność entuzjastów technologii |url = https://android.com.pl/news/286743-kurs-wykrywania-deepfake/ |język = pl-PL}}</ref><ref>{{Cytuj |tytuł = Deepfake |data dostępu = 2021-03-17 |opublikowany = www.reuters.com |url = https://www.reuters.com/manipulatedmedia?fbclid=IwAR13OdcgZDnEYolT2nIIcq9y4im2-mCrLCFkTPpVQfZa3adJDPhE73QYgOw |język = en}}</ref><ref>{{Cytuj |tytuł = Facebook i Reuters w kursie online uczą rozpoznawania deepfake’ów |data dostępu = 2021-03-17 |opublikowany = www.wirtualnemedia.pl |url = https://www.wirtualnemedia.pl/artykul/facebook-i-reuters-kurs-online-jak-rozpoznac-deepfake-co-to-jest-jak-walczyc |język = pl}}</ref>. Projekt ma zapobiegać manipulowaniem dziennikarzami i tym samym tworzeniu treści w oparciu o fikcyjne źródła, które wprowadzą odbiorców błąd oraz osłabią zaufanie opinii publicznej do mediów.

=== Serwisy społecznościowe ===
W 2020 roku firma Facebook poinformowała, że będzie usuwała ze swojego serwisu materiały stworzone za pomocą technologii deepfake, które mogą wprowadzić użytkowników w błąd, z wyjątkiem materiałów mających wyłącznie satyryczny lub żartobliwy charakter<ref>{{Cytuj |tytuł = Facebook będzie usuwał z serwisu materiały typu deepfake. „Dobre posunięcie, ale konieczna edukacja” |data dostępu = 2021-03-17 |opublikowany = www.wirtualnemedia.pl |url = https://www.wirtualnemedia.pl/artykul/facebook-bedzie-usuwal-materialy-typu-deepfake-dobre-posuniecie-ale-konieczna-edukacja-dlaczego-w-jaki-sposob-jak-rozpoznac-deepfake |język = pl}}</ref><ref>{{Cytuj |autor = Associated Press |tytuł = YouTube to remove ‘deepfakes’ and ‘birther’ videos ahead of 2020 election |data dostępu = 2021-03-17 |opublikowany = MarketWatch |url = https://www.marketwatch.com/story/youtube-to-remove-deepfakes-and-birther-videos-ahead-of-2020-election-2020-02-04 |język = en-US}}</ref>.

W lutym 2020 roku [[Twitter]] zapowiedział, że będzie usuwać zmanipulowane treści, powstałe za pomocą technologii deepfake i dezinformujące użytkowników<ref>{{Cytuj |tytuł = Help us shape our approach to synthetic and manipulated media |data dostępu = 2021-03-17 |opublikowany = blog.twitter.com |url = https://blog.twitter.com/en_us/topics/company/2019/synthetic_manipulated_media_policy_feedback.html |język = en-us}}</ref><ref>{{Cytuj |tytuł = Twitter Just Released Its Plan To Deal With Deepfakes |data dostępu = 2021-03-17 |opublikowany = BuzzFeed News |url = https://www.buzzfeednews.com/article/alexkantrowitz/twitter-just-released-its-plan-to-deal-with-deep-fakes |język = en}}</ref>.


== Obrona przed deepfake ==
== Obrona przed deepfake ==

Wersja z 19:00, 17 mar 2021

Deepfake (zbitka wyrazowa od ang. deep learning „głębokie uczenie” oraz fake „fałszywy”[1]) – technika obróbki obrazu, polegająca na łączeniu obrazów twarzy ludzkich przy użyciu technik sztucznej inteligencji[1][2].

Technika stosowana jest do łączenia i nakładania obrazów nieruchomych i ruchomych na obrazy lub filmy źródłowe przy użyciu komputerowych systemów uczących się. Uzyskane w ten sposób łudząco realistyczne ruchome obrazy stosowane są w nagraniach filmowych, stwarzając możliwości manipulacji poprzez np. niemożliwą do odróżnienia przez widza zamianę twarzy aktorów występujących w filmie. Może to prowadzić do skompromitowania osoby poprzez fałszywe „obsadzenie jej” np. w roli w filmie pornograficznym[1][2]. Jednym z zagrożeń fałszywymi informacjami jest możliwość wpłynięcia na wyniki wyborów[3].

Pojęcie deepfake pojawiło się po raz pierwszy w końcu 2017, a nazwę zaczerpnięto od pseudonimu użytkownika, który opublikował kilka filmów porno zrealizowanych przy użyciu algorytmu uczenia maszynowego z wykorzystaniem wizerunków m.in. Gal Gadot, Maisie Williams i Taylor Swift[4].

Według raportu Deeptrace technologia rozwija się bardzo szybko. Na początku 2019 roku w internecie zaprezentowano 7964 filmów deepfake, dziesięć miesięcy później ich liczba wynosiła 14678[5]. Wiele kwestii prawnych związanych z technologią nie zostało jeszcze uregulowanych[6].

Przykłady

Kim Dzong Un o demokracji. Przemówienie wykonane technologią deepfake.
  • film z twarzą Kita Haringtona, w którym grany przez niego Jon Snow przeprasza za zakończenie serialu „Gra o tron”[7]
  • wideoklipy, w których twarz Nicholasa Cage’a została nałożona na słynne sceny z filmów (początek 2018)[7]
  • nagranie przedstawiające Baracka Obamę, wypowiadającego ostrzeżenia (których w rzeczywistości nigdy nie powiedział) przed zagrożeniami, jakie niesie nieetyczne zastosowanie technologii cyfrowych (kwiecień 2018)[7]
  • nagranie z twarzą Marka Zuckerberga, ostrzegającego przed zagrożeniami, jakie niosą cyfrowe technologie (czerwiec 2019)[7]
  • udostępnienie kontrowersyjnej aplikacji internetowej DeepNude pozwalającej na tworzenie naturalistycznych obrazów nagich kobiet za pomocą przesłanych do aplikacji zdjęć prawdziwych osób (czerwiec 2019)[7]
  • film z przemówieniem Kim Dzong Una na temat demokracji z 2020 roku[8],
  • zainscenizowane przemówienie królowej brytyjskiej Elżbiety II, nadane przez stację telewizyjną Channel 4 (grudzień 2020)[9][10][11].
  • film z 2021 roku z aktorem Tomem Cruisem[12][13].

Badania i przeciwdziałanie  

Grupa DFDC

W odpowiedzi na zagrożenia związane z rozwojem technologii zawiązano grupę DFDC (ang. Deepfake Detection Challenge), w której pracowali specjaliści z firm Facebook i Microsoft oraz naukowcy z Massachusetts Institute of Technology, Uniwersytetu Oksfordzkiego oraz Uniwersytetów z Berkeley i Maryland[14][15]. Inicjatywa została powołana w sierpniu 2019 roku[16].

Badania koncentrowały się nad stworzeniem narzędzia umożliwiającego wykrycie filmów deepfake, walkę ze zmanipulowanymi treściami oraz działania edukacyjne. Na wsparcie grupy DFDC Facebook przeznaczył 10 mln dolarów[14][17].  W 2019 roku do grupy DFDC dołączył Amazon. Firma zdecydowała się wesprzeć badania naukowe kwotą miliona dolarów[18][19].

Analizy przeprowadzone w ramach grupy DFDC potwierdziły trudności z wykrywaniem materiałów deepfake przy pomocy sztucznej inteligencji i wytyczyły obszary, w których niezbędne są kolejne prace. W 2020 roku stworzone w ramach projektu algorytmy uzyskiwały skuteczność na poziomie 65%, a w pozostałych przypadkach system nie rozpoznawał materiału deepfake lub fałszywie diagnozował jego wystąpienia w materiałach prawdziwych[20].

DARPA

Amerykańska Agencja DARPA (ang. Defense Advanced Research Projects Agency) działająca w strukturach Departamentu Obrony Stanów Zjednoczonych bada technologię deepfake i angażuje się w działania mające na celu ograniczyć jej negatywne skutki, w tym: dezinformację, chaos informacyjny, manipulowanie opinią publiczną, wykorzystanie technologii do popełniania przestępstw lub naruszania zasad demokracji. W ramach projektu Semantic Forensics (SemaFor) pracuje nad metodami wykrywania zmanipulowanych treści, w ramach projektu Media Forensics (MediFor) planuje działania prewencyjne[21][22][23].

Na prace związane z wykrywaniem technologii deepfake DARPA przeznaczyła 68 milionów dolarów[24].

Agencja Reuters

Agencja Reuters prowadzi projekty mające na celu ograniczyć negatywne skutki dezinformacyjne, które może nieść rozwój technologii deepfake. W 2019 roku we współpracy z Facebookiem udostępniła w internecie nieodpłatne materiały edukacyjne dla dziennikarzy, pozwalające na zapoznanie się z technologią i ułatwienie identyfikacji dostarczanych im materiałów[25][26][27]. Projekt ma zapobiegać manipulowaniem dziennikarzami i tym samym tworzeniu treści w oparciu o fikcyjne źródła, które wprowadzą odbiorców błąd oraz osłabią zaufanie opinii publicznej do mediów.

Serwisy społecznościowe

W 2020 roku firma Facebook poinformowała, że będzie usuwała ze swojego serwisu materiały stworzone za pomocą technologii deepfake, które mogą wprowadzić użytkowników w błąd, z wyjątkiem materiałów mających wyłącznie satyryczny lub żartobliwy charakter[28][29].

W lutym 2020 roku Twitter zapowiedział, że będzie usuwać zmanipulowane treści, powstałe za pomocą technologii deepfake i dezinformujące użytkowników[30][31].

Obrona przed deepfake

  • Uciekanie od sposobów działania podobnych do znanych metod między innymi wyłudzania pieniędzy „na wnuczka” czy „na policjanta”. Zmiana schematów komunikacyjnych z opierających się na poleceniach głosowych, rozmowach telefonicznych czy rozmowach wideo na na przykład wiadomości SMS lub wiadomości e-mail[32].
  • Szkolenie kadry pod kątem zabezpieczeń i cyberprzestępczości. Uświadamianie o tym, czym jest deepfake oraz jak jemu przeciwdziałać
  • Wspomaganie i rozwój systemów bezpieczeństwa w środowiskach teleinformatycznych.

Zobacz też

Przypisy

  1. ↑ a b c John Brandon, Terrifying high-tech porn: Creepy ‘deepfake’ videos are on the rise [online], Fox News, 16 lutego 2018 [dostęp 2019-08-14] (ang.).
  2. ↑ a b Oscar Schwartz, You thought fake news was bad? Deep fakes are where truth goes to die, „The Guardian”, 12 listopada 2018, ISSN 0261-3077 [dostęp 2019-08-14] (ang.).
  3. ↑ Rafał Tomański, Facebook walczy z fake newsami przed wyborami w Azji [online], Business Insider, 23 stycznia 2019 [dostęp 2019-08-16] (pol.).
  4. ↑ Jason Koebler, Samantha Cole, We Are Truly Fucked: Everyone Is Making AI-Generated Fake Porn Now [online], Vice, 24 stycznia 2018 [dostęp 2019-08-14] (ang.).
  5. ↑ Rob Toews, Deepfakes Are Going To Wreak Havoc On Society. We Are Not Prepared. [online], Forbes [dostęp 2021-03-17] (ang.).
  6. ↑ Grace Shao, What 'deepfakes' are and how they may be dangerous [online], CNBC, 14 października 2019 [dostęp 2021-03-17] (ang.).
  7. ↑ a b c d e Lisa Eadicicco, 08:42 14 Lip, 133 458, Niebezpieczny internetowy trend może przyczynić się do zniszczenia twojej reputacji. Nikt nie wie, co z nim zrobić [online], Business Insider, 14 lipca 2019 [dostęp 2019-08-16] (pol.).
  8. ↑ Too real? Deepfake Putin, Kim Jong Un ads pulled from U.S. debate [online], Global News [dostęp 2021-03-17] (ang.).
  9. ↑ Deepfake queen to deliver Channel 4 Christmas message. BBC News (online), 23 grudnia 2020. [dostęp 2021-01-23]. (ang.).
  10. ↑ Bruce Haring: Queen Elizabeth ‘Deepfake’ Message Jabs Prince Harry & Meghan, Prince Andrew. Deadline (online), 26 grudnia 2020. [dostęp 2021-01-23]. (ang.).
  11. ↑ Max Miller: Framestore reveals behind-the-scenes footage of deep fake Queen’s Speech. Broadcast (online), 19 stycznia 2021. [dostęp 2021-01-23]. (ang.).
  12. ↑ Ponad 11 mln użytkowników zobaczyło deepfake z Tomem Cruisem. 'Ta technologia rozwija się w szalonym tempie' [online], www.wirtualnemedia.pl [dostęp 2021-03-17] (pol.).
  13. ↑ Przerażająco realistyczny deepfake Toma Cruise'a hitem internetu. Miliony wyświetleń w sieci [online], www.komputerswiat.pl, 3 marca 2021 [dostęp 2021-03-17] (pol.).
  14. ↑ a b Facebook i Microsoft chcą skutecznie walczyć z deepfake’ami. 10 mln dolarów na nowe narzędzia [online], www.wirtualnemedia.pl [dostęp 2021-03-17] (pol.).
  15. ↑ Przyszłość deepfake'ów - naucz się żyć w świecie fałszu - PTSP.pl [online], Polskie Towarzystwo Studiów nad Przyszłością, 12 października 2020 [dostęp 2021-03-17] (pol.).
  16. ↑ Creating a dataset and a challenge for deepfakes [online], ai.facebook.com [dostęp 2021-03-17] (pol.).
  17. ↑ http://gogomedia pl office@gogomedia.pl GOGOmedia, Nie daj się oszukać! Facebook i Microsoft ogłaszają walkę z DeepFake'ami [online], www.centrumxp.pl [dostęp 2021-03-17] (pol.).
  18. ↑ http://gogomedia pl office@gogomedia.pl GOGOmedia, Amazon dołącza do Facebooka i Microsoftu w walce z DeepFake'ami [online], www.centrumxp.pl [dostęp 2021-03-17] (pol.).
  19. ↑ AWS supports the Deepfake Detection Challenge with competition data and AWS credits [online], Amazon Web Services, 21 października 2019 [dostęp 2021-03-17] (ang.).
  20. ↑ Ashish Jaiman, Deepfake detection is super hard! [online], Medium, 7 lipca 2020 [dostęp 2021-03-17] (ang.).
  21. ↑ DARPA Is Taking On the Deepfake Problem [online], Nextgov.com [dostęp 2021-03-17] (ang.).
  22. ↑ DARPA Is Taking On the Deepfake Problem [online], Defense One [dostęp 2021-03-17] (ang.).
  23. ↑ DARPA chce stworzyć narzędzia do rozpoznawania tzw. deep fake'ów - CyberDefence24 [online], www.cyberdefence24.pl [dostęp 2021-03-17].
  24. ↑ DARPA spent $68 million on technology to spot deepfakes [online], Futurism [dostęp 2021-03-17].
  25. ↑ Facebook pomógł stworzyć kurs wykrywania deepfake [online], ANDROID.COM.PL - społeczność entuzjastów technologii, 18 grudnia 2019 [dostęp 2021-03-17] (pol.).
  26. ↑ Deepfake [online], www.reuters.com [dostęp 2021-03-17] (ang.).
  27. ↑ Facebook i Reuters w kursie online uczą rozpoznawania deepfake’ów [online], www.wirtualnemedia.pl [dostęp 2021-03-17] (pol.).
  28. ↑ Facebook będzie usuwał z serwisu materiały typu deepfake. „Dobre posunięcie, ale konieczna edukacja” [online], www.wirtualnemedia.pl [dostęp 2021-03-17] (pol.).
  29. ↑ Associated Press, YouTube to remove ‘deepfakes’ and ‘birther’ videos ahead of 2020 election [online], MarketWatch [dostęp 2021-03-17] (ang.).
  30. ↑ Help us shape our approach to synthetic and manipulated media [online], blog.twitter.com [dostęp 2021-03-17] (ang.).
  31. ↑ Twitter Just Released Its Plan To Deal With Deepfakes [online], BuzzFeed News [dostęp 2021-03-17] (ang.).
  32. ↑ Biznes w czasach deepfake [online], MIT Sloan Management Review Polska, 13 września 2019 [dostęp 2019-09-25] (pol.).
Źródło: „https://pl.wikipedia.org/w/index.php?title=Deepfake&oldid=62657842”