|
El arribo de la pornografía sintética: Protegiendo
a menores y definiendo límites.
El Estado de Chile, junto con la sociedad civil
y el sector privado, tiene la responsabilidad ineludible de
establecer marcos regulatorios robustos, invertir en la aplicación
de la ley y, fundamentalmente, priorizar la educación como
la herramienta más poderosa. Solo de este modo se logrará
que la IA pueda mantener un balance entre el impulso innovador
y los límites éticos, entre la autonomía y la rendición de
cuentas y así cimentar un mañana digital que sea íntegro,
justo e inclusivo para toda persona.
La reciente habilitación de contenido erótico
en plataformas de IA como ChatGPT, el modelo Wan de Alibaba
y Grok, sumado a los casos de uso de IA para crear imágenes
sexuales falsas en colegios de Chile, subraya una tesis central
ineludible: es imperativo reforzar la gobernanza que regula
el uso de la IA, con un énfasis particular en el control de
sus algoritmos, y es urgente introducir programas de educación
sexual y ética de la IA en los currículos educativos. Este
nuevo escenario nos obliga a plantearnos preguntas cruciales:
¿Cómo equilibramos el avance tecnológico con la protección
de los menores? ¿Dónde está la línea entre la libertad y la
responsabilidad? ¿Cuál debe ser la reacción del Estado de
Chile y qué desafíos éticos nos demanda esta nueva realidad?
El anuncio de OpenAI de permitir contenido erótico
en ChatGPT para adultos verificados a partir de diciembre
de 2025, y la incursión de xAI la empresa de Elon Musk con
“modos picantes” en su IA Grok, marcan un punto de inflexión.
Estas decisiones, justificadas bajo la premisa de “tratar
a los adultos como adultos”, abren la puerta a un uso más
amplio de la IA en el ámbito íntimo.
Sin embargo, la sofisticación de estas tecnologías,
capaces de generar videos y fotos sintéticas ultrarealistas
(deepfakes), como lo demuestran modelos como “Wan” de Alibaba,
plantea un riesgo inminente de abuso. La facilidad con la
que se puede crear contenido sexual explícito no consensuado,
utilizando la imagen de cualquier persona sin su conocimiento
o aprobación, es una de las mayores preocupaciones.
Alexandre es Especialista en temas de IA aplicada
a Educación.
Recordemos el caso que se materializó de forma
alarmante en el Colegio Saint George’s o el del estudiante
de 8° Básico en San Pedro de la Paz, donde se usó IA para
crear y difundir imágenes de sus compañeras desnudas. El primer
caso, que derivó en una investigación de la Fiscalía por trato
degradante a menores y distribución de pornografía infantil,
fue una cruda advertencia de la facilidad con que estas herramientas
pueden ser instrumentalizadas para causar un daño devastador,
exponiendo la urgencia de una respuesta contundente por parte
de las autoridades y de la sociedad en su conjunto.
El problema se agrava al considerar el contexto
chileno de consumo de pornografía. Más de la mitad de los
jóvenes (53,8%) tiene su primer contacto con ella antes de
los 13 años, facilitado por el acceso temprano a dispositivos
móviles. La pornografía generada por IA, indistinguible de
la real y personalizable con imágenes de cualquier individuo
sin su consentimiento, multiplica exponencialmente estos riesgos
de distorsión de la sexualidad, adicción y, sobre todo, de
violencia sexual digital, creando un ambiente digital aún
más hostil para el desarrollo saludable de los menores.
Frente a esta compleja realidad, la respuesta
del Estado de Chile debe ser proactiva y multifacética. Es
crucial fortalecer el marco legal existente y avanzar con
las mociones de algunos parlamentarios que buscan establecer
un marco legal que tipifique y sancione de manera explícita
la creación y difusión de contenido sexual no consensuado
generado por IA.
Esta legislación debe establecer penas claras
y mecanismos de reparación para las víctimas. Paralelamente,
se debe invertir significativamente en la capacitación de
las fuerzas de orden y a la fiscalía en la investigación de
estos nuevos crímenes cibernéticos, que requieren conocimientos
técnicos avanzados. Sin embargo, la regulación por sí sola
es insuficiente si no va acompañada de una fuerte inversión
en educación, que empodere a las nuevas generaciones con las
herramientas necesarias para enfrentar estos desafíos.
En Junio de este año hablamos de IA.
Los desafíos éticos que nos demanda este nuevo
escenario son profundos. La IA nos confronta con dilemas complejos
sobre la privacidad y el consentimiento, en un mundo donde
nuestra imagen y datos pueden ser replicados y manipulados
sin nuestro permiso. Nos obliga a abordar el sesgo algorítmico,
que puede perpetuar la discriminación, y a definir la responsabilidad
cuando un algoritmo causa daño. Además, la creciente capacidad
de la IA para influir en nuestras percepciones plantea serias
preocupaciones sobre la autonomía y manipulación, especialmente
en contextos sensibles como la IA erótica, donde puede distorsionar
las relaciones interpersonales. Finalmente, el impacto psicológico
y social de la exposición a contenido sexual generado por
IA, o la victimización por deepfakes, puede tener graves consecuencias,
incluyendo ansiedad, depresión y daño irreparable a la reputación,
especialmente en los jóvenes. Por ello, la introducción de
programas de educación sexual y ética de la IA en los colegios
es una necesidad impostergable. No se trata solo de alfabetización
digital, sino de formar ciudadanos críticos capaces de discernir
entre contenido real y sintético.
Es fundamental educar sobre el consentimiento
digital, la salud sexual, la responsabilidad en línea y, sobre
todo, la empatía. Esta formación integral, un esfuerzo conjunto
de familias, escuelas y el Estado, es la única vía para empoderar
a las nuevas generaciones para que naveguen el complejo paisaje
digital de forma segura y ética. En conclusión, la protección
de los menores no puede ser una consideración secundaria;
debe ser un principio rector inquebrantable en el desarrollo
y la regulación de la IA. El Estado de Chile, junto con la
sociedad civil y el sector privado, tiene la responsabilidad
ineludible de establecer marcos regulatorios robustos, invertir
en la aplicación de la ley y, fundamentalmente, priorizar
la educación como la herramienta más poderosa. Solo de este
modo se logrará que la IA pueda mantener un balance entre
el impulso innovador y los límites éticos, entre la autonomía
y la rendición de cuentas y así cimentar un mañana digital
que sea íntegro, justo e inclusivo para toda persona.
--------------------------------------------------------------------------------------------------------------
--------------------------------------------------------------------------------------------------------------
--------------------------------------------------------------------------------------------------------------
--------------------------------------------------------------------------------------------------------------
|
