V dnešní digitální době se objevují nové hrozby spojené s rozvojem technologií, mezi které patří i sexuální deepfaky. Tento termín označuje falešné sexuálně explicitní fotografie, které jsou generovány pomocí umělé inteligence a mohou být vytvořeny z běžných portrétů dostupných na internetu. To znamená, že pachatelé již nemusí mít k dispozici skutečné intimní snímky obětí, stačí jim jakýkoliv veřejně dostupný obrázek. Tímto způsobem se riziko zneužití rozšiřuje na mnohem širší spektrum lidí, kteří se mohou stát terčem bez ohledu na to, zda někdy sdíleli vlastní intimní obsah. Pro oběti to může mít devastující následky, včetně psychologických problémů, ztráty důvěry a poškození reputace.
Podle odborníků z organizace Konsent, která se zaměřuje na prevenci sexuálního násilí, je důležité si uvědomit, že ačkoli je obsah falešný, způsobená újma je naprosto reálná. Eliška Poledníčková, zástupkyně této organizace, upozorňuje na to, že šíření takového obsahu může mít vážné dopady na psychiku oběti, její vztahy a celkovou pověst. Oběti se často ocitají ve velmi těžké situaci, kdy se falešné fotografie dostanou k jejich spolužákům, kolegům nebo rodině, což může vést k ostrakizaci a dalším formám psychického nátlaku. Tímto způsobem může být deepfake zneužit jako nástroj pomsty po rozchodu, šikany či dokonce jako prostředek k vydírání.
Rizika spojená s rozšířením deepfake technologií
Riziko zneužití deepfake technologií je umocněno rychlostí, s jakou se informace a obrázky šíří na sociálních sítích. Jakmile je falešný snímek zveřejněn, může se během krátké doby dostat do širokého povědomí, a to i bez vědomí oběti. To znamená, že i když je příspěvek odstraněn z jedné platformy, kopie mohou zůstat v soukromých zprávách, uzavřených skupinách nebo na jiných profilech. Tím je oběti znemožněno se od takového obsahu distancovat. Tento jev poukazuje na potřebu legislativních změn a zlepšení ochrany osobních údajů na internetu, aby se zabránilo šíření nepravdivých a potenciálně škodlivých informací.
Je také zajímavé, že oběti sexuálních deepfaků se často potýkají s pocitem bezmoci, jelikož nemají dostatečné právní nástroje k tomu, aby se bránily. Existují případy, kdy oběti nemohly najít právní oporu a ochránit se před dalším šířením těchto materiálů. Vzhledem k tomu, že technologie se vyvíjejí rychlým tempem, je nutné, aby se i právní rámec přizpůsobil této nové realitě. Mnozí odborníci proto vyzývají k větší osvětě a vzdělávání v oblasti digitální bezpečnosti, aby lidé věděli, jak se chránit a jak reagovat v případě, že se stanou oběťmi takového zneužití.
Vyšší povědomí a preventivní opatření
Zajištění bezpečnosti na internetu se stává úkolem pro celé společnosti. Vzdělávání o rizicích a prevenci sexuálního násilí by mělo být součástí školních osnov a programů zaměřených na ochranu osobních údajů. Organizace jako Konsent se snaží upozornit na důležitost změny přístupu k sexu a vztahům a podporují oběti v jejich snaze o spravedlnost. Je také důležité, aby lidé rozuměli tomu, jak fungují technologie a jak je možné se proti nim bránit. To zahrnuje nejen znalost možných hrozeb, ale také dovednost rozpoznat, když je někdo zneužíván, a jak mu poskytnout adekvátní pomoc. S ohledem na to, že generativní umělá inteligence stále postupuje vpřed, je zapotřebí i proaktivního přístupu k ochraně jednotlivců v digitálním prostoru.
