Investigan incidente relacionado con fotos desnudas de estudiantes generadas por IA en Laguna Beach

LAGUNA BEACH, Calif. (KABC) -- Laguna Beach High School ha abierto una investigación sobre la creación de fotos inapropiadas o desnudas de varios alumnos mediante inteligencia artificial.

Las fotos generadas por IA podrían haberse compartido entre los alumnos a través de mensajes de texto. Los padres de los estudiantes de la escuela fueron notificados sobre el incidente la semana pasada.

"La escuela es lo suficientemente difícil, y tener que lidiar con algo como esto es simplemente desgarrador", dijo Mary Torres.

"Hay tanta IA, y es muy frecuente ahí fuera, y los niños son muy inteligentes, son muy conocedores de la tecnología, mucho más que nosotros", dijo la madre Aimee Tabor. "Pero su capacidad para tomar decisiones no es la mejor".

Para padres como Parul Doshi, el incidente "no es sorprendente".

"Creo que los adolescentes son súper conocedores de la tecnología, así que esto es sólo una muestra más de ello", dijo.

Por el momento, la escuela no ha identificado quién puede estar detrás de las supuestas fotos generadas ni el número de posibles víctimas.

En una carta a los padres, el director Jason Allemann declaró: "En nuestra pequeña comunidad, estos incidentes pueden tener repercusiones de gran alcance en la cultura de nuestro campus. Estas acciones no sólo comprometen la dignidad individual, sino que también perjudican el ambiente positivo y de apoyo que pretendemos impulsar en LBHS"

El mes pasado, el Distrito Escolar Unificado de Beverly Hills expulsó a cinco alumnos de octavo grado por su participación en el uso de IA para generar fotos de compañeros desnudos y compartirlas con otros.

"Está evolucionando muy deprisa, pero creo que mi reacción es obviamente de preocupación, porque ves que cosas así les ocurren a grandes estrellas como Taylor Swift, así que si Taylor Swift ni siquiera puede protegerse de cosas así, ¿qué pasa con nuestros hijos?", dijo Torres.

En enero, millones de personas se toparon en las redes sociales con imágenes falsas de Swift generadas por inteligencia artificial con contenido sexual explícito, lo que provocó una respuesta de la Casa Blanca.

En un comunicado, el Distrito Escolar Unificado de Laguna Beach declaró:

"La ley nos obliga a mantener la confidencialidad de los asuntos de disciplina estudiantil para proteger la privacidad y el bienestar de nuestros alumnos. En cualquier situación que surja, la seguridad de nuestros alumnos es siempre nuestra máxima prioridad. Al mismo tiempo, nuestra misión como educadores es guiar a los alumnos para que comprendan las consecuencias de sus actos, sobre todo en lo que se refiere a su repercusión en sus compañeros y en la comunidad escolar en general. La escuela es un momento crucial para la formación de los alumnos, que nos ofrece la oportunidad de convertirlos en personas empáticas y conscientes del mundo que les rodea. Mantener un cuidadoso equilibrio entre la responsabilidad y la empatía es esencial a medida que navegamos y abordamos cuestiones críticas".

Los padres quieren que el incidente se resuelva adecuadamente.

"Apoyo la disciplina. Los niños necesitan tener consecuencias, y aunque es una lección difícil de aprender, la IA sólo va a ser más frecuente", dijo Tabor.

"Yo lo dejaría en manos del distrito escolar. Yo no tengo ese conocimiento", dijo Doshi O'Neill.

Además, añadió Torres, " me gustaría que les exigieran responsabilidad porque no quieres que le vuelva a pasar a nadie más en la escuela, incluyendo a tus propios hijos".

En su carta, Allemann dijo, "Compartimos una profunda empatía por los estudiantes y las familias involucradas, entendiendo la angustia y la preocupación que ellos, así como el cuerpo estudiantil en general, pueden estar experimentando".