En un caso que parece ser el primero de su tipo, dos adolescentes de Miami, Florida, fueron arrestados en diciembre por supuestamente crear y compartir imágenes desnudas generadas por IA de compañeros de clase masculinos y femeninos sin su consentimiento. Los informes de arresto indican que los chicos, de 13 y 14 años, crearon las imágenes de estudiantes que tenían «entre 12 y 13 años».
DUPAO EN WHATSAPP
Este caso en Florida parece ser el primero en resultar en arrestos y cargos criminales como resultado de la supuesta difusión de imágenes desnudas generadas por IA. Los chicos fueron acusados de delitos graves de tercer grado, al mismo nivel que el robo de autos o el encarcelamiento falso, bajo una ley estatal aprobada en 2022 que convierte en delito grave compartir «cualquier representación sexual alterada» de una persona sin su consentimiento.
A medida que las herramientas de creación de imágenes con IA se han vuelto más accesibles, ha habido varios incidentes de alto perfil en los que menores supuestamente crearon imágenes desnudas generadas por IA de compañeros de clase y las compartieron sin consentimiento. Sin embargo, no se han revelado arrestos en los casos informados públicamente.
Los primeros informes de los medios sobre el caso de Florida aparecieron en diciembre, diciendo que los dos chicos fueron suspendidos de Pinecrest Cove Academy en Miami durante 10 días después de que los administradores de la escuela se enteraron de las acusaciones de que crearon y compartieron imágenes falsas desnudas sin consentimiento. Después de que los padres de las víctimas se enteraron del incidente, varios comenzaron a instar públicamente a la escuela a expulsar a los chicos.
Los registros de arresto obtenidos recientemente indican que el incidente fue reportado a la policía el 6 de diciembre de 2023, y que los dos chicos fueron arrestados el 22 de diciembre. Los registros acusan a la pareja de usar «una aplicación de inteligencia artificial» para hacer las falsas imágenes explícitas. El nombre de la aplicación no fue especificado, y los informes afirman que los chicos compartieron las imágenes entre ellos.
Después de su arresto, los dos chicos acusados de hacer las imágenes fueron trasladados al Departamento de Servicios Juveniles «sin incidentes». Un puñado de estados tienen leyes que apuntan a imágenes falsas y no consensuadas. No hay una ley federal que apunte a esta práctica, pero un grupo de senadores de EE. UU. recientemente presentó un proyecto de ley para combatir el problema después de que se crearon y distribuyeron ampliamente imágenes falsas desnudas de Taylor Swift.
Los chicos fueron acusados bajo una ley de Florida aprobada en 2022 que los legisladores estatales diseñaron para frenar el acoso que involucra imágenes falsas creadas con herramientas impulsadas por IA. Sin embargo, este caso plantea preguntas sobre la efectividad de las leyes actuales y las sanciones aplicadas, especialmente cuando los infractores son menores.
Este caso subraya la necesidad de una mayor educación y conciencia sobre el uso ético de la tecnología de IA, así como la importancia de leyes más sólidas y efectivas para proteger a las personas de su abuso. La inteligencia artificial tiene un gran potencial para mejorar nuestras vidas, pero también puede ser mal utilizada, como lo demuestra este caso. Es esencial que continuemos trabajando para garantizar que la tecnología se utilice de manera responsable y segura.
Con información de: WIRED
--
¿Qué es DUPAO? Somos un magazine de Series y Películas, Ciencia y Tecnología, Marketing y Negocios, Productividad, Estilo de Vida y Tendencias.
Autor:
Daniel Gangi
Soy estratega digital, podcaster y director creativo en Gangi Studio. Especialista en marketing y branding. Socio fundador de Culturizando. Soy analítico, meticuloso, innovador, fanático de la tecnología, las nuevas tendencias, las artes gráficas y el buen café. Pizza Lover since 1980. Más en danielgangi.com • TWITTER | INSTAGRAM | LINKED IN
