Deepfakes de IA en el entorno escolar: tres riesgos que los sostenedores no pueden ignorar

La generación de imágenes sexuales falsas mediante inteligencia artificial, es una conducta que ya está ocurriendo en establecimientos educacionales chilenos y que la regulación vigente no anticipó de manera explícita. Los sostenedores que enfrentan estos episodios deben tomar decisiones inmediatas sobre cómo clasificarlos, qué obligaciones activa esa clasificación y qué valor jurídico tienen los actos administrativos que emite la Superintendencia de Educación durante el proceso. Cada una de esas decisiones entraña un riesgo distinto.

Este artículo identifica los tres riesgos más relevantes desde una perspectiva de gestión, con el propósito de que los sostenedores puedan reconocerlos antes de que se materialicen en sanciones.

Primer riesgo: aplicar el protocolo equivocado

Cuando un establecimiento toma conocimiento de que alumnos han generado o difundido imágenes sexuales falsas de alumnas mediante herramientas de inteligencia artificial, la primera decisión que debe tomar es de clasificación: ¿qué tipo de incidente es este y qué protocolo corresponde activar?

La respuesta no es evidente. La conducta involucra medios tecnológicos, ocurre frecuentemente fuera del establecimiento y durante períodos no lectivos, y puede parecer asimilable a un episodio de maltrato o acoso escolar por vía digital. Sin embargo, la normativa educacional vigente establece una distinción, la Circular N°482 del Ministerio de Educación, de 2018, define las agresiones sexuales como aquellas acciones de carácter sexual proferidas a un miembro de la comunidad educativa sin su consentimiento, que se materialicen por cualquier medio, incluyendo los digitales, como internet, celulares y redes sociales, dentro o fuera del establecimiento educacional, y que provoquen un daño o aflicción que haga necesaria la intervención del establecimiento.

Las imágenes sexuales generadas mediante IA que identifican a alumnos o alumnas reales encuadran en esa definición. La vulneración que producen no es la del buen trato entre compañeros: es la de la indemnidad sexual y la intimidad de los estudiantes afectadas. Activar el protocolo de maltrato o acoso escolar en lugar del protocolo de agresiones sexuales o hechos de connotación sexual no es una cuestión terminológica; implica diferencias en las medidas de resguardo que deben adoptarse, en las obligaciones de comunicación y en las acciones preventivas posteriores que el sostenedor debe acreditar.

El riesgo concreto es que muchos reglamentos internos no contemplan esta categoría de manera explícita. Frente a un incidente de deepfakes sexuales, el sostenedor que aplica el protocolo equivocado está generando el primer antecedente que puede fundar un cargo en su contra.

Segundo riesgo: omitir la denuncia penal

El segundo riesgo surge inmediatamente después de la clasificación, decidir si corresponde formular denuncia ante el Ministerio Público o la policía. En episodios que involucran contenido sexual generado con IA, concurren dos factores que empujan al sostenedor a no denunciar.

El primero es la ausencia de un tipo penal específico. La legislación chilena no tipifica como delito la manipulación de fotografías mediante inteligencia artificial para generar contenido sexual, lo que puede hacer que el sostenedor concluya que no existe base legal para formular denuncia. El segundo factor es la voluntad de las familias, frecuentemente, los apoderados de los o las alumnas afectadas solicitan al establecimiento que no denuncie, ya sea para proteger a sus hijos o hijas de la victimización secundaria asociada a una investigación penal o para evitar que los alumnos responsables sean sometidos a un proceso a temprana edad.

Ninguno de estos factores neutraliza la obligación de denuncia si el reglamento interno del establecimiento la contempla. El artículo 175 del Código Procesal Penal establece que los directores, inspectores y profesores de establecimientos educacionales están obligados a denunciar los delitos que afecten a los alumnos o que hubieren tenido lugar en el establecimiento. Y con independencia de esa norma, si el propio reglamento interno del sostenedor consagra el deber de denunciar ante el Ministerio Público frente a hechos de connotación sexual, esa obligación es exigible aunque los apoderados no la soliciten o la descarten activamente.

El riesgo es que el sostenedor considere que la decisión de denunciar o no está dentro de su ámbito de discrecionalidad. No lo está, o al menos no completamente: si el reglamento interno la establece, la omisión es un incumplimiento normativo que puede fundar un cargo independiente.

Tercer riesgo: confiar en el cierre satisfactorio de una fiscalización

El tercer riesgo se produce en una etapa posterior: cuando la Superintendencia de Educación ha fiscalizado el episodio y el acta resultante no evidencia incumplimientos a la normativa educacional. En ese escenario, el sostenedor tiende a interpretar el acta como un cierre definitivo del asunto y como una señal de que no habrá sanción.

Esa interpretación es jurídicamente incorrecta. El acta de fiscalización es un acto preparatorio de constancia o conocimiento, en el que se plasman hechos que eventualmente pueden configurar una infracción o bien que no advierten transgresión. No es, en ningún caso, el instrumento en que se materializa la potestad sancionadora de la Superintendencia. A través del acta de fiscalización solo se ejerce la potestad inspectora: los hechos que en ella se consignan gozan de presunción legal de veracidad para efectos probatorios, pero el acta no determina responsabilidades ni exime de ellas. No reviste la calidad de acto creador de derechos para el sostenedor.

La consecuencia práctica es que la Superintendencia puede revocar un acta con resultado satisfactorio y emitir una nueva si estima que la materia revisada en la primera fiscalización no era pertinente al real alcance de los hechos denunciados. El sostenedor que ha cerrado internamente el episodio sobre la base de un acta favorable puede verse enfrentado, meses después, a la formulación de cargos por los mismos hechos. La confianza legítima en el resultado de un acto preparatorio no es oponible a la potestad fiscalizadora de la Superintendencia.

Implicancias prácticas

Los tres riesgos identificados tienen un origen común: los reglamentos internos y protocolos de actuación de los establecimientos educacionales no fueron diseñados para gestionar episodios en que la inteligencia artificial es utilizada para generar o modificar imágenes con contenido sexual de alumnas. La categoría existe en la normativa vigente, la Circular N°482 de 2018 es suficientemente amplia para abarcarla, pero su operacionalización interna suele ser deficiente o inexistente.

Actualizar los reglamentos internos para contemplar explícitamente esta categoría, revisar los protocolos de actuación, definir con precisión las obligaciones de denuncia y comprender el valor jurídico real de los actos administrativos que emite la Superintendencia durante una fiscalización son acciones que pueden adoptarse de manera preventiva. La asesoría jurídica en la etapa inicial, cuando el sostenedor toma conocimiento del episodio y debe decidir cómo actuar, es determinante para evitar que errores clasificatorios o procedimentales generen consecuencias que se consolidan en etapas posteriores.

¿Le ha ocurrido algo así?

En C&L Abogados acompañamos a sostenedores tanto en procedimientos ante la Superintendencia de Educación como en la revisión y actualización de reglamentos internos y protocolos de actuación. Si su establecimiento ha enfrentado un episodio de este tipo o quiere anticiparse a él, estamos disponibles para conversar.

Si tiene dudas sobre cómo clasificar un incidente o revisar los protocolos vigentes de su establecimiento, también podemos orientarle.