Una influencer apareció en una microserie deepfake: qué pasó y qué se puede hacer

Una influencer china apareció en una microserie generada por IA protagonizando actos que jamás cometió; el episodio se viralizó y, según La Nación, la plataforma Hongguo terminó eliminando cerca de 670 microseries tras el escándalo, mientras que China anunció requisitos de licencia para producciones IA (La Nación; Media Partners Asia). Este es un caso concreto de cómo la generación masiva de rostros y voces puede transformar la identidad en un activo vulnerable.

¿Qué pasó y por qué importa?

Lo central es simple: alguien tomó fotos públicas, alimentó modelos generativos y publicó una microserie en la que Christine Li aparece golpeando mujeres y maltratando animales. Fueron sus propios seguidores quienes alertaron sobre las 'deepfakes', que alcanzaron millones de visualizaciones antes de la intervención de la plataforma (La Nación). El mercado empuja el riesgo: Media Partners Asia estima que las ficciones ultracortas ya superan los US$8.000 millones a nivel mundial, lo que explica por qué hay tantos creadores, intermediarios y actores económicos dispuestos a experimentar con IA (Media Partners Asia). Ojo que cuando la escala y la velocidad suben, el daño se multiplica: la remoción reactiva de contenido llega tarde para la reputación y las oportunidades laborales de la persona afectada.

¿Me puede pasar en Argentina y qué me protege?

Sí, puede pasarnos. En Argentina existen vías para reclamar: el Código Civil y Comercial protege la imagen, el honor y la intimidad, y la Ley 25.326 de Protección de Datos Personales (sancionada en 2000) regula el uso de información que identifica a una persona, incluidas fotos y videos (Infoleg). Pero esos marcos no fueron pensados para la escala de la IA generativa. Por eso recomendamos pasos concretos si detectás un deepfake: 1) documentar la URL y hacer capturas con fecha; 2) pedir la remoción inmediata a la plataforma usando sus canales formales; 3) enviar una notificación fehaciente con oferta de medidas urgentes (cese y procedimiento de reparación) amparada en el Código Civil y la Ley 25.326; 4) si hace falta, iniciar medidas cautelares para frenar la distribución y reclamar daños. No sos vos el problema: el sistema está mal diseñado para actuar rápido, por eso la acción ciudadana debe combinar pruebas y procedimientos legales ágiles.

¿Qué deberían cambiar las plataformas y la ley?

La respuesta no es solo judicial: hay medidas técnicas y regulatorias que reducen la exposición. Entre las prioridades que recomendamos están: 1) exigir consentimiento explícito para el uso de rostros y voces reales; 2) etiquetado visible y obligatorio de todo contenido generado o alterado con IA; 3) trazabilidad de la cadena de generación (metadatos que permitan identificar modelos, prompts y cuentas que publicaron); 4) canales de remoción prioritarios con plazos máximos; y 5) sanciones proporcionales para quienes lucran con la suplantación. El caso de Scott Jacqmein —un actor de 52 años cuya voz y rostro fueron usados en avatares tras ceder derechos en 2023— muestra que incluso acuerdos firmados pueden volverse problemáticos cuando la base de datos es reutilizada a escala y sin control (La Nación). Las plataformas deben mover la prevención hacia adelante: no alcanza con reaccionar cuando ya hay daño.

Qué podemos hacer como sociedad

No hay soluciones mágicas: la combinación efectiva pasa por tres frentes. Primero, regulación que obligue al etiquetado, trazabilidad y remoción rápida. Segundo, responsabilidad técnica: modelos y plataformas con guardrails incorporados y auditorías. Tercero, educación digital: que los usuarios sepan identificar deepfakes y documentarlos. Recomendamos prudencia: actuar rápido para bloquear, denunciar y priorizar la seguridad personal, y combinar eso con prevención tecnológica para reducir riesgos futuros. Las herramientas legales existentes sirven, pero deben adaptarse a la velocidad de la IA; si no, el derecho llegará tarde y la reparación será parcial.