El auge de la inteligencia artificial (IA) está transformando el entorno digital de niños y adolescentes, generando tanto oportunidades como desafíos en materia de seguridad y bienestar. Mientras figuras como Mark Zuckerberg apuestan por integrar más contenido generado por IA en sus plataformas, otros líderes del sector, como Elon Musk y Sam Altman, exploran nuevas vías para acercar la tecnología a los más jóvenes, pero bajo diferentes enfoques: Musk con el lanzamiento de ‘Baby Grok’, un modelo de IA pensado para niños, y Altman implementando controles parentales en ChatGPT.

La seguridad de los menores frente a la IA es una preocupación creciente. En Estados Unidos, varios padres han presentado denuncias contra empresas tecnológicas tras el suicidio de sus hijos, quienes interactuaron con chatbots de IA. Estos trágicos casos han impulsado la creación de un proyecto de ley que obligaría a las compañías a establecer estrictos sistemas de verificación de edad y a prohibir el acceso de menores a asistentes virtuales sin garantías de seguridad. Además, se exigiría que los chatbots informen periódicamente a los usuarios de su naturaleza no humana y de su falta de credenciales profesionales.

En España, el Congreso ha aprobado la tramitación de una ley orgánica para proteger a los menores en entornos digitales. Entre las medidas destacan el aumento de la edad mínima para abrir cuentas en redes sociales y la tipificación de los deepfakes sexuales o vejatorios como delitos contra la integridad moral. La preocupación por los deepfakes es especialmente alta entre los jóvenes: según un estudio de Plan Internacional, el 83% de las chicas y el 72% de los chicos temen que sus imágenes sean utilizadas para crear vídeos sexuales falsos. Ya existen casos judicializados, como el de una familia estadounidense que ha demandado a una empresa por la generación de desnudos falsos de una menor.

El estudio de Plan Internacional, realizado con 3.500 jóvenes de entre 12 y 21 años, revela que solo el 14% no ha usado IA en el último mes. El 60% la emplea como apoyo escolar, pero un 18% de las chicas y un 12% de los chicos la utilizan para conversar y compartir sus inquietudes, cifra que sube al 24% en chicas de 17 a 21 años. Esta tendencia evidencia el riesgo de que los adolescentes recurran a la IA en lugar de buscar apoyo en amigos o adultos, especialmente en situaciones delicadas.

Expertos como Jorge Flores, de Pantallas Amigas, advierten sobre la confusión entre chatbots y seres humanos, así como sobre la posible pérdida de habilidades cognitivas al delegar tareas complejas en la IA. Además, alertan de que los controles parentales, aunque útiles, no son suficientes para eliminar los riesgos, ya que pueden generar una falsa sensación de seguridad.

OpenAI ha respondido a las preocupaciones implementando controles parentales en ChatGPT: los padres pueden vincular sus cuentas a las de los menores, limitar el tiempo de uso, establecer horarios y desactivar funciones como la generación de imágenes o el modo de voz. Además, si un menor introduce mensajes relacionados con autolesiones o suicidio, un equipo humano revisa el contenido y, si lo considera necesario, notifica a los padres sin revelar el mensaje original, protegiendo así la privacidad del menor. Las notificaciones incluyen consejos de expertos en salud mental para abordar la situación.

Desde organizaciones como Plan Internacional se insiste en la importancia de la educación digital, tanto para jóvenes como para familias y docentes, y en la necesidad de reforzar las obligaciones legales de las empresas tecnológicas. Proponen medidas como el etiquetado de contenidos generados por IA, la detección y eliminación de contenidos nocivos, y sistemas robustos de verificación de edad que no comprometan la privacidad de los menores.

En definitiva, la integración de la IA en la vida de los jóvenes exige un enfoque equilibrado que combine regulación, educación y responsabilidad tecnológica para garantizar un entorno digital seguro y saludable.