El uso de IA para crear contenido íntimo falso genera gran inquietud en las escuelas. Un abogado especialista explica cómo deben actuar ante estos casos.
El uso de IA para crear contenido íntimo falso genera gran inquietud en las escuelas.
La creación y difusión de imágenes sexuales falsas de estudiantes mediante la inteligencia artificial (IA) encendió las alarmas en el ámbito educativo , las denuncias por este tipo de prácticas aumentaron y pusieron en primer plano una pregunta: ¿cómo deben actuar los colegios?
En diálogo con La Unión, Eugenio Martí, abogado egresado de la Universidad Argentina de la Empresa (UADE) y socio del estudio Carrocera Navascués Martí, de Banfield, explicó cuáles son las obligaciones de las instituciones educativas frente a estas situaciones.
Cuando una institución educativa toma conocimiento de que alumnos crearon o difundieron imágenes sexuales falsas de sus compañeras, "la obligación es actuar de inmediato", remarcó Martí, y recordó la Ley 26.061 de Protección Integral de los Derechos de Niñas, Niños y Adolescentes que establece obligaciones de comunicación ante situaciones que vulneran sus derechos.
Además señaló los pasos a seguir: "Primero, informar a las familias de las víctimas de inmediato, no días después. Segundo, poner en marcha las reglas de convivencia que cada escuela tiene que tener por escrito. Esas reglas establecen cómo se escucha a todas las partes, sin vulnerar las identidades para proteger sus derechos. También deben establecerse medidas, que deben ser proporcionales y educativas y no pueden implicar dejar a ningún chico sin escolaridad, y siempre acompañando a quienes resultaron dañados".
Y advirtió que los establecimientos no deben pedirles a los menores que guarden silencio ni que borren información vinculada con lo ocurrido, "eso agrava el daño y compromete seriamente la responsabilidad de la institución", subrayó.
La responsabilidad de las instituciones educativas no se limita a lo que sucede dentro de sus instalaciones. Según explicó Martí, el Código Civil y Comercial contempla la responsabilidad de los titulares de establecimientos educativos por los daños causados o sufridos por alumnos menores mientras se encuentran, o deben encontrarse, bajo el control de la autoridad escolar.
"Un colegio que conoce la situación y no actúa puede responder por el daño que su demora produjo", afirmó. En esos casos, podrían plantearse reclamos por las consecuencias de la difusión del material y por los daños psicológicos y morales sufridos por las víctimas. La eventual responsabilidad debe analizarse de acuerdo con las circunstancias de cada situación y la relación entre la conducta de la institución y los perjuicios ocasionados.
"Desde ese momento, la escuela tiene obligaciones propias: proteger a las víctimas dentro de la institución y evitar que el material circule en sus grupos y en sus aulas. Si no lo hace, responde por su propia omisión. En la práctica, además, estos casos rara vez quedan "afuera": el material circula entre compañeros, en los recreos y en los grupos del curso", detalló.
La creación de imágenes íntimas falsas mediante IA plantea nuevos desafíos para el derecho penal. Aunque no representen un desnudo real, su producción y difusión pueden dar lugar a una investigación judicial.
Martí explicó que el Código Penal argentino no cuenta con una figura específica para los llamados deepfakes sexuales. Sin embargo, señaló que puede analizarse la aplicación del artículo 128, que contempla delitos vinculados con representaciones sexuales de menores de edad.
Una de las principales advertencias apunta a quienes reciben el material y deciden compartirlo. Las consecuencias legales no necesariamente alcanzan solo a quien crea las imágenes, sino que también pueden involucrar a quienes las distribuyen o comercializan. "Reenviar no es inocente", advirtió Martí.
"La discusión es si una imagen generada por IA es una 'representación' en el sentido de la ley. Ya existe un precedente de 2025 de la Cámara de Apelación y Garantías de Zárate-Campana que respondió que sí", sentenció.
La situación de los menores involucrados requiere, además, considerar el régimen penal juvenil aplicable según su edad y la fecha de los hechos. Las posibles consecuencias deben determinarse en el marco de una investigación, con respeto por las garantías de todos los involucrados.
Existen protocolos y para Martí es fundamental que los colegios los tengan "escritos y ensayados antes de que pase algo. Cuando el problema estalla, no hay tiempo de improvisar".
Entre las primeras medidas, recomendó escuchar a las víctimas y comunicarse con sus familias sin demoras; dar intervención a las autoridades judiciales, de protección de derechos y educativas correspondientes; y dejar constancia de las actuaciones realizadas. También destacó la importancia de activar los equipos de orientación escolar y garantizar acompañamiento psicológico para los estudiantes afectados y sus familias. Otro punto central es el tratamiento de las imágenes: "No descargar, reenviar ni 'juntar' el material, ni siquiera como prueba. Eso hay que dejárselo a la Justicia".
La regulación del uso de teléfonos móviles en las escuelas puede ayudar a prevenir estas situaciones. "La prohibición sola no alcanza, porque muchas fotos se toman de las redes sociales y el material se fabrica fuera de la escuela", enfatizó el abogado.
Además, recordó que el Código Civil y Comercial contempla la protección de la imagen personal y establece, como principio, la necesidad del consentimiento para captar o reproducir la imagen de una persona, con las excepciones previstas legalmente. Por eso, consideró necesario completar las reglas sobre el uso de dispositivos con una formación específica sobre IA, redes sociales, consentimiento y violencia digital.
"La Educación Sexual Integral es obligatoria en todas las escuelas, públicas y privadas, y ya contempla la prevención del grooming. Pero no fue pensada para lo que estamos viendo hoy: chicos que usan la inteligencia artificial contra sus propias compañeras", enfatizó. En ese sentido, propuso actualizar los contenidos educativos para incorporar de manera sistemática el uso responsable de la IA y las consecuencias de producir, guardar o difundir imágenes sexuales falsas.
Desde su experiencia en el asesoramiento a instituciones educativas, Martí destacó cuatro ejes para trabajar en la prevención: establecer reglas claras sobre el uso de celulares, realizar charlas con estudiantes, involucrar a las familias y contar con protocolos de actuación conocidos por toda la comunidad escolar.
Las instancias de formación deben ayudar a que los estudiantes comprendan que detrás de una imagen manipulada hay una persona real que puede sufrir consecuencias concretas y que la creación y circulación de ese contenido puede tener implicancias legales.
La participación de las familias también resulta importante para reconocer las aplicaciones que utilizan los menores y comprender cómo una fotografía aparentemente cotidiana puede convertirse en material para una manipulación sexual. "La prevención es menos dolorosa, tanto para los niños y sus familias como para los colegios, que cualquier juicio", concluyó.
