California ha promulgado algunas de las medidas más estrictas del país para combatir la propagación de deepfakes en las elecciones previas a las elecciones de 2024.
El gobernador Gavin Newsom firmó una serie de proyectos de ley en una conferencia de AI en San Francisco.
Las nuevas políticas incluyen una ley contra los anuncios y materiales políticos falsos generados por IA que engañan a los votantes.
La ley, que entró en vigor de inmediato, permite a las personas demandar por daños y perjuicios si han sido perjudicadas por contenido deepfake.
Faculta a los tribunales para ordenar la eliminación de material generado por IA que tergiverse a los candidatos, los procesos electorales o a los trabajadores electorales.
Firmé un proyecto de ley que lo haría ilegal en el estado de California.
Ya no podrá distribuir intencionalmente publicidad u otras comunicaciones electorales que contengan contenido materialmente engañoso, incluidos los deepfakes. https://t.co/VU4b8RBf6N
– Gavin Newsom (@GavinNewsom) 17 de septiembre de 2024
El gobernador Newsom dijo que estas medidas son esenciales para mantener la confianza del público en las elecciones en un momento en que las tecnologías de inteligencia artificial avanzan rápidamente.
Pone al Estado a la vanguardia para abordar el impacto potencial de la inteligencia artificial en la integridad electoral.
«Se trata de proteger la democracia, asegurar que los californianos obtengan la verdad, no ficción fabricada para manipular cómo vota la gente», dijo.
Sin embargo, la nueva legislación ya enfrenta oposición legal.
Un activista político que creó videos de parodia con clips de audio alterados de la vicepresidenta Kamala Harris presentó una demanda en Sacramento.
El hombre, cuyo trabajo comparte Elon Musk, afirma que las nuevas leyes violan los derechos de la Primera Enmienda.
Su denuncia argumenta que las leyes son demasiado amplias y podrían usarse para censurar la libertad de expresión con el pretexto de regular el contenido generado por IA.
«El gobernador de California ha prohibido este vídeo de parodia en violación de la Constitución de los Estados Unidos», escribió Musk en X, antes conocido como Twitter, refiriéndose a uno de los vídeos de parodia compartidos en su plataforma.
Musk ha sido uno de los críticos más vocales de Newsom, en particular burlándose de las políticas de inteligencia artificial del gobernador en un tweet en referencia a la figura satírica «Profesor Suggan Dieznutz».
Chip Somodevilla/Getty Images
Los funcionarios estatales argumentan que la legislación no está dirigida a la sátira o la sátira, sino más bien a materiales engañosos que podrían engañar a los votantes sin una etiqueta clara que contenga IA.
«Esta nueva ley de divulgación de información errónea sobre elecciones no es más onerosa que las leyes ya promulgadas en otros estados», dijo la portavoz de Newsom, Izzy Gordon, en respuesta a la demanda.
Los expertos de ambos lados del debate están observando de cerca a California, ya que el enfoque del estado podría sentar un precedente nacional.
Theodore Frank, abogado que representa a los demandantes, advirtió que la ley podría abrir la puerta a que las empresas de redes sociales «censuren y acosen a las personas» basándose en interpretaciones subjetivas del contenido generado por IA.
Mark Piasecki/Getty Images
Public Citizen, una organización de defensa del consumidor, rastrea las leyes estatales sobre falsificaciones electorales.
Si bien la nueva ley de California tiene potencial como elemento disuasivo, su eficacia en el mundo real depende de la rapidez con la que los tribunales puedan actuar para detener la difusión de contenido engañoso, dijo su representante Ilana Beller.
«En un mundo ideal, podríamos eliminar el contenido en el momento en que suba», dijo.
«Porque cuanto antes elimines algo, menos gente lo verá, menos gente lo amplificará mediante reenvíos y demás, y más rápido podrás publicarlo».
Este artículo incluye informes de The Associated Press.
