Manipulation, désinformation, diffamation ou humiliation, les personnalités discréditées (très majoritairement des stars féminines) sont au premier plan. Le revenge porn privé, maintenant que la technologie est devenue beaucoup plus accessible, est également une des utilisations les plus fréquentes de cette technologie.
Dans une étude effectuée en septembre 2019, la société d’intelligence artificielle Deeptrace a en effet trouvé 15 000 vidéos deepfake (deux fois plus que neuf mois auparavant). Plus de 96 % de ce contenu était pornographique et 99 % d’entre eux mettaient en correspondance des visages de célébrités féminines avec des stars du porno. La modération, insuffisante sur de nombreux réseaux sociaux, et plus particulièrement sur Twitter / X a été de nombreuses fois relevée. La politique est également particulièrement visée: de fausses images compromettant les personnalités en vue sont générées, et de faux coups de fil de Joe Biden ont récemment été passés, en vue de décourager les électeurs à participer au vote de la future élection présidentielle. De fausses informations sur les conflits armés en cours sont également créées par ce biais. Des campagnes entières de désinformation peuvent ainsi être crées en quelques clics, par quasiment n’importe qui, même avec des compétences techniques limitées et à moindre coût.
Mais cette technique crée désormais également des problèmes de sécurité importants dans les entreprises: récemment, plusieurs employés de grandes entreprises ont été piégés, par le biais coups de téléphones reproduisant les voix de dirigeants, et même d’une fausse visioconférence sur Zoom, et ont effectué des virements de plusieurs dizaines de millions de dollars sur l’ordre fictif de supérieurs hiérarchiques autorisés à demander de telles opérations. Un rapport de VMWare a révélé une augmentation de 13 % des attaques de type « deepfake » l’année dernière, 66 % des professionnels de la cybersécurité déclarant en avoir été témoins au cours de l’année écoulée. Bon nombre de ces attaques sont menées par courrier électronique (78 %), ce qui est lié à l’augmentation des attaques de type « Business Email Compromise » (BEC). Il s’agit d’une méthode utilisée par les attaquants pour accéder au courrier électronique de l’entreprise et se faire passer pour le propriétaire du compte afin d’infiltrer l’entreprise, l’utilisateur ou les partenaires. Selon le FBI, les attaques BEC ont coûté 43,3 milliards de dollars aux entreprises en seulement cinq ans, de 2016 à 2021. Les plateformes telles que les réunions de tiers (31%) et les logiciels de coopération commerciale (27%) sont de plus en plus utilisées pour le BEC, l’industrie informatique étant la principale cible des attaques deepfake (47%), suivie par la finance (22%) et les télécommunications (13%). Il est donc essentiel que les entreprises restent vigilantes et mettent en place une technologie de détection des deepfakes et des mesures de sécurité robustes pour se protéger et protéger leur organisation contre ce type d’attaques.
Le vol d’identité par deepfake est donc devenu un problème inquiétant pour la sécurité des entreprises. Par ailleurs, la technologie évoluant rapidement, ces fausses images, voix et vidéos deviennent de plus en plus difficiles à identifier. Le problème a donc désormais largement dépassé le cadre privé, et ne peut plus être ignoré, ni par les gouvernements ni par les entreprises.
