El gobernador Gavin Newsom promulgó tres proyectos de ley el martes que exigen que las empresas de redes sociales hagan más para controlar los videos profundamente falsos, especialmente ahora que nos acercamos al ciclo electoral de este año.
Todo es en un esfuerzo por detener la difusión de información errónea, y una empresa de San Francisco está desarrollando un nuevo software para detectar imágenes alteradas.
Algunos videos deepfake son fáciles de detectar, como la parodia del anuncio de la campaña presidencial de Tom Cruise de 2020 o la aparición del exgobernador Arnold Schwarzenegger en «El mago de Oz».
Desafortunadamente, otros videos deepfake no son tan obvios como el nuevo anuncio simulado de la campaña presidencial falsa de Kamala Harris.
Ahí viene la colmena.
«Normalmente, si ves un vídeo que parece real, crees lo que dice, pero ahora no es real, ¿verdad?» dijo el director ejecutivo de la empresa, Kevin Guo.
La empresa con sede en San Francisco comenzó ayudando con la moderación de contenido, pero se ha centrado en el reconocimiento de imágenes y vídeos generados por IA. La empresa utiliza algoritmos avanzados e inteligencia artificial para detectar falsificaciones.
«La forma en que funcionan nuestros modelos no interpreta realmente las cosas como lo hace un humano. En realidad, se trata de mirarlas a nivel de píxel de una manera que es casi invisible para los humanos, pero esa firma está ahí. Esa marca de agua es donde nuestros modelos aparecer», dijo Guo a CBS News Bay Area.
Elon Musk retuiteó un vídeo que parodiaba un anuncio de la campaña de Harris, lo que provocó una disputa en Twitter con Newsom.
«El gobierno federal, humildemente lo admito, no ha logrado regular por una variedad de razones. En ausencia de ese marco regulatorio, California se afirma. Sentimos especialmente una responsabilidad como lugar de nacimiento de estas tecnologías y de estas innovaciones», dijo Newsom. en la conferencia Salesforce Dreamforce en San Francisco el martes.
Mientras estaba en el escenario con el director ejecutivo Marc Benioff, el gobernador promulgó tres proyectos de ley que requerirían que las empresas de redes sociales etiqueten los videos profundamente falsos como sátira o los eliminen por completo.
Los proyectos de ley limitarían que las personas y las empresas compartan falsificaciones que difundan información política errónea dentro de los 120 días posteriores a una elección.
«La capacidad de los malos actores ahora para influir en las elecciones con campañas masivas de desinformación no tiene precedentes. Puedes aprobar un proyecto de ley que prohíba los deepfakes políticos, pero aún así podrás detectar estos deepfakes y eliminarlos. De alguna manera, «, dice Guo.
El representante Adam Schiff de California, candidato al Senado, presentó el martes una legislación bipartidista a nivel federal para aumentar la regulación en torno a los deepfakes. Ese proyecto de ley otorga a la Comisión Federal Electoral el poder de regular el uso de IA en anuncios de campaña.
Daniel Nielsen
(etiquetas para traducir) Gavin Newsom
