Las Escuelas Públicas de Westfield celebran reuniones periódicas de la junta directiva a finales de marzo en las escuelas secundarias locales. Es un edificio de ladrillo rojo en Westfield. New Jersey En el exterior hay un marcador que da la bienvenida con orgullo a los visitantes del equipo deportivo «Home of the Blue Devils». Pero no es un negocio. Como es habitual en Dorota Mani en octubre. Algunas niñas de décimo grado en Westfield High School, incluida la Sra. Francesca, la hija de 14 años de Mani, alertaron a los administradores que los niños de su clase habían utilizado software de inteligencia artificial para crear imágenes sexualmente explícitas y difundir imágenes falsas. Cinco meses después, Manis y otras familias dicen que el distrito ha hecho poco para divulgar públicamente las imágenes cortadas o actualizar las políticas escolares para disuadir el uso explotador de la IA. “Parece que la administración de Westfield High School y el distrito están involucrados en el patriarcado. Hice que este evento se desvaneciera en el aire”, dijo Mani, fundadora de una guardería local. amonestó a los miembros de la junta durante la reunión. En un comunicado, el distrito escolar dijo que abrió una investigación inmediatamente después de enterarse del incidente. Inmediatamente notificado y consultado con la policía. y proporcionó información Asesoramiento grupal para clases de segundo año. «Todos los distritos escolares están lidiando con los desafíos y los impactos de la inteligencia artificial y otras tecnologías disponibles para los estudiantes en cualquier momento y lugar», dijo el superintendente de las Escuelas Públicas de Westfield, Raymond González, en un comunicado. El año pasado, con la repentina popularidad de los chatbots impulsados por inteligencia artificial como ChatGPT, las escuelas de todo Estados Unidos se apresuraron a implementar bots generadores de mensajes en un esfuerzo por disuadir a los estudiantes de hacer trampa. Ahora, un fenómeno de visualización de IA aún más impactante está sacudiendo las escuelas. Niños de varios estados han utilizado la aplicación. La «desnudez» generalizada distorsiona las fotografías reales de compañeras de clase vestidas. Se muestra la participación en diversos eventos como el baile de graduación escolar. en gráficos creíbles. Imágenes de niñas con senos y genitales generadas por IA. En algunos casos, los niños compartieron imágenes falsas en comedores escolares, en autobuses escolares o a través de chats grupales en plataformas como Snapchat e Instagram, según informes escolares y policiales. Este tipo de imágenes alteradas digitalmente, conocidas como «deepfakes» o «deepnudes», pueden tener graves consecuencias. Los expertos en explotación sexual infantil dicen que el uso de imágenes no consensuadas generadas por IA para acosar, humillar e intimidar a mujeres jóvenes podría dañar su salud mental, su reputación y su seguridad física. y representan un riesgo para sus oportunidades universitarias y profesionales. el mes pasado La Oficina Federal de Investigaciones ha advertido que la distribución de material de abuso sexual infantil generado por computadora es ilegal. Esto incluye imágenes realistas impulsadas por inteligencia artificial de menores identificables que participan en conductas sexualmente explícitas. Pero los estudiantes también están utilizando aplicaciones de IA explotadoras en las escuelas. Es tan nuevo que algunos distritos parecen menos preparados que otros para afrontarlo. Eso podría hacer que la protección de los estudiantes sea insegura, dijo Riana Pfefferkorn, investigadora del Observatorio de Internet de Stanford que ha escrito sobre la ley. Problemas relacionados con imágenes de abuso sexual infantil generadas por computadora en la escuela secundaria Issaquah, cerca de Seattle, el otoño pasado. Los investigadores de la policía están investigando las quejas de los padres sobre imágenes explícitas generadas por IA de sus hijas de 14 y 15 años, y preguntan al subdirector por qué. La escuela no informó del incidente a la policía. Según el Departamento de Policía de Issaquah, los funcionarios escolares preguntaron entonces: “¿Qué debería denunciar?”, decía el documento policial. Como resultado, los detectives le informaron que las escuelas están obligadas por ley a denunciar el acoso sexual. Incluyendo medios que puedan abusar sexualmente de niños. Posteriormente, la escuela informó del incidente a las autoridades de protección infantil. Según el informe policial (El New York Times obtuvo el informe policial a través de una solicitud de registros públicos.) En un comunicado, el Distrito Escolar de Issaquah dijo que había hablado con estudiantes, familias y policía como parte de la investigación del distrito sobre DeepFake. Young «comparte nuestra simpatía». dice el comunicado, y ofreció apoyo a los estudiantes afectados. El comunicado agrega que el distrito había informado «Las imágenes falsas generadas por inteligencia artificial se envían a las agencias de protección infantil por precaución», y señaló que «para nuestro equipo legal No tenemos que denunciar fotografías falsas a la policía” en Beverly Vista High School en Beverly Hills. California La gerencia se comunicó con la policía en febrero después de enterarse de que cinco niños lo habían creado y compartido. Imagen clara de una compañera de clase generada por IA dos semanas después La junta escolar aprobó la expulsión de cinco estudiantes. Según los documentos del distrito. (El distrito dijo que el Código de Educación de California le prohíbe confirmar si el estudiante expulsado fue el estudiante que produjo las imágenes). El superintendente del Distrito Escolar Unificado de Beverly Hills, Michael Breghie, les dijo él y otros líderes escolares Quiere crear un ejemplo nacional que Las escuelas no deben permitir que los estudiantes creen y distribuyan imágenes sexualmente explícitas de sus amigos, dijo el Dr. Bregi, señalando que las imágenes explícitas “Acoso y abuso” hacia las niñas y sus familias «Esto es algo que nunca permitiremos que suceda aquí.» Escuelas en comunidades pequeñas Lugares ricos como Beverly Hills y Westfield estuvieron entre los primeros. que admite abiertamente el incidente de Deepfake, detalles de varios casos Eso se describe en las comunicaciones del distrito con los padres. reunión de la junta escolar procedimientos legales y presentaciones judiciales Esto muestra la variabilidad en las respuestas escolares. El incidente de Westfield comenzó el verano pasado. Cuando un estudiante de secundaria le propuso matrimonio a un amigo suyo de 15 años. -Antigua compañera de clase en Instagram que tiene una cuenta privada. Según la demanda interpuesta contra el niño y sus padres, lo trajeron la niña y su familia. (Manis dijo que no estuvieron involucrados en la demanda). Después de aceptar la solicitud, El estudiante copió fotos de ella y de varias otras compañeras de escuela de sus cuentas de redes sociales, según documentos judiciales, y luego usó una aplicación de inteligencia artificial para crear fotos de las niñas. “Totalmente identificable” sexualmente explícito y lo compartió con compañeros de escuela a través de un grupo de Snapchat, según documentos judiciales. Westfield High School comenzó su investigación a finales de octubre. Mientras los administradores discretamente llevaban a algunos de los niños aparte para interrogarlos, Francesca Mani dijo que la llamaron a ella y a las otras niñas de décimo grado que habían sido engañadas para hacer deepfakes a la oficina de la escuela anunciando sus nombres a través del intercomunicador escolar. Esa semana, Mary Asfendis, El director de Westfield High envió un correo electrónico a los padres para alertarlos sobre la El correo electrónico describía los deepfakes como un «incidente muy grave». Aunque los estudiantes estaban preocupados por la posibilidad de compartir imágenes, Pero la escuela cree “Cualquier imagen creada Ha sido eliminado y no ha sido publicado”. Dorota Mani dijo que los administradores de Westfield le dijeron que el distrito había suspendido a un estudiante acusado de falsificación. Fotos de uno o dos días. No mucho después de eso Ella y su hija comenzaron a hablar públicamente sobre el incidente, denunciando al distrito escolar. alianza estatal Y el Congreso promulga leyes y políticas que prohíben específicamente la falsificación. “Tenemos que empezar a mejorar nuestras políticas escolares”, dijo en una entrevista reciente Francesca Mani, que ahora tiene 15 años. «Porque si la escuela tuviera una política de IA, los estudiantes como yo estarían protegidos». Sin embargo, los padres, incluida Dorota Mani, también presentaron quejas de acoso ante Westfield High el otoño pasado por las imágenes explícitas. Durante una reunión en marzo, la Sra. Mani dijo Los miembros de la junta escolar dijeron que la escuela secundaria aún no había proporcionado a los padres un informe oficial del incidente. Las Escuelas Públicas de Westfield dijeron que no podían hacer comentarios sobre el asunto. Se tomarán medidas disciplinarias por razones de confidencialidad de los estudiantes. En un comunicado, el Superintendente Dr. González dijo que el distrito está fortaleciendo sus esfuerzos. “Al educar a nuestros estudiantes y crear pautas claras para garantizar que estas nuevas tecnologías se utilicen de manera responsable”, la escuela de Beverly Hills ha adoptado una postura pública firme. Cuando los ejecutivos supieron en febrero que el octavo día Los estudiantes de primaria de la Escuela Secundaria Beverly Vista crearon imágenes explícitas de compañeras de clase de 12 y 13 años y rápidamente enviaron un mensaje (asunto: “Impactante mal uso de la inteligencia artificial”) a los padres, a los funcionarios del distrito y a los niveles medio y medio. estudiante de preparatoria El mensaje anima a los miembros de la comunidad a compartir información con las escuelas. Para ayudar a garantizar que el uso «perturbador e inapropiado» de la IA por parte de los estudiantes «cese inmediatamente», también advirtió que el distrito se está preparando para recibir un castigo severo. «Cualquier estudiante que haya creado, distribuido o poseído imágenes generadas por IA de esta manera estará sujeto a medidas disciplinarias», incluida una recomendación de expulsión. El director Dr. Bregi dijo que la escuela y los compañeros de clase debían actuar rápidamente porque el uso indebido de la IA hace que los estudiantes se sientan mal. inseguro en la escuela. «Se escucha mucho sobre la seguridad física en las escuelas», dijo, «pero lo que no se escucha es una invasión de la seguridad personal y emocional de los estudiantes».
Source link
+ There are no comments
Add yours