La manipulación de la evidencia de políticas públicas con la Inteligencia Artificial Generativa: los riesgosde los deepfakes

Abstract

El artículo analiza los riesgos del uso de la Inteligencia Artificial Generativa (IAG) y los deepfakes en la formulación de políticas públicas. La justificación radica en la creciente presencia de medios digitales que permiten a los ciudadanos generar evidencia de problemas públicos, y el riesgo de manipulación de esta evidencia mediante tecnologías como la IAG, lo que podría distorsionar la toma de decisiones gubernamentales. El objetivo es señalar cómo los deepfakes pueden alterar la percepción pública de problemas sociales, distorsionando la agenda política y la respuesta gubernamental. La investigación es de tipo cualitativo, con enfoque exploratorio y descriptivo, utilizando revisión documental sobre políticas públicas, IAG y deepfakes. Se subraya que, en países como México, la falta de legislación específica sobre la IAG amplifica estos riesgos, y se sugiere que tanto gobiernos como sociedad civil trabajen en la regulación y en la promoción de una mayor transparencia en la información digital, para asegurar que las políticas públicas se basen en evidencia real. Las conclusiones destacan que los deepfakes generan una distorsión significativa en la evidencia de los problemas públicos, lo que puede llevar a decisiones erróneas. Se recomienda la creación de marcos regulatorios y el uso de tecnologías de verificación de contenido para mitigar estos riesgos. Se señala la relación entre políticas públicas e IAG como un campo de estudio novedoso para la generación de nuevo conocimiento.//The article analyzes the risks of using Generative Artificial Intelligence (GAI) and deepfakes in the formulation of public policies. The justification lies in the growing presence of digital media that allows citizens to generate evidence of public issues, and the risk of manipulating this evidence through technologies like GAI, which could distort governmental decision-making. The objective is to highlight how Deepfakes can alter the public perception of social issues, distorting the political agenda and the government’s response. The research is qualitative, with an exploratory and descriptive approach, utilizing documentary review on public policies, GAI, and deepfakes. It is emphasized that in countries like Mexico, the lack of specific legislation on GAI amplifies these risks, and it is suggested that both governments and civil society work on regulation and promoting greater transparency in digital information, to ensure that public policies are based on real evidence. The conclusions highlight that deepfakes create significant distortion in the evidence of public issues, which can lead to erroneous decisions. The creation of regulatory frameworks and the use of content verification technologies are recommended to mitigate these risks. The relationship between public policies and GAI is noted as a novel field of study for generating new knowledge.