La inteligencia artificial forma cada vez más parte del día a día de nuestros hijos. Muchos estudiantes ya utilizan herramientas como ChatGPT para resolver dudas, estudiar, preparar trabajos, practicar idiomas o buscar explicaciones sobre aquello que no han entendido en clase.
Ante esta realidad, OpenAI ha anunciado importantes cambios dirigidos específicamente a los usuarios menores de 18 años. El objetivo es que los adolescentes puedan continuar utilizando ChatGPT, pero dentro de un entorno más seguro, educativo y adaptado a su edad.
Una experiencia específica para adolescentes
La principal novedad es la creación de ChatGPT for Teens, una experiencia específica dentro de ChatGPT para usuarios de entre 13 y 17 años.
No se trata necesariamente de una aplicación diferente, sino de una adaptación del funcionamiento de ChatGPT cuando el sistema identifica que quien lo está utilizando es menor de edad.
La diferencia no consiste únicamente en bloquear determinados contenidos. OpenAI está modificando también la forma en la que la inteligencia artificial conversa, aconseja y acompaña a un adolescente.
En otras palabras, un menor no debería recibir exactamente la misma experiencia que un adulto.
ChatGPT podrá intentar identificar si el usuario es menor
Otro de los cambios importantes es la incorporación de sistemas de estimación de edad.
Hasta ahora, muchas plataformas digitales dependían principalmente de la edad que indicaba el propio usuario al crear una cuenta. OpenAI está comenzando a utilizar diferentes señales para determinar si una persona podría ser menor de 18 años.
Si el sistema considera probable que el usuario sea adolescente, podrá activar automáticamente las protecciones correspondientes.
Cuando exista duda sobre la edad, la compañía ha explicado que puede optar por aplicar inicialmente la experiencia más protectora.
En caso de que un adulto sea identificado erróneamente como menor, podrá realizar un proceso de verificación de edad para recuperar la experiencia habitual.
Este sistema de predicción de edad ya ha comenzado a desplegarse también en la Unión Europea.
Más protección ante contenidos sensibles
Las cuentas identificadas como pertenecientes a adolescentes tendrán mayores restricciones ante determinados contenidos.
Entre otros aspectos, ChatGPT reforzará las protecciones relacionadas con:
-
autolesiones y suicidio;
-
trastornos alimentarios;
-
violencia gráfica;
-
actividades peligrosas;
-
retos virales de riesgo;
-
contenido sexual;
-
conversaciones románticas o sexuales inapropiadas;
-
determinados ideales extremos relacionados con el cuerpo, las dietas o la apariencia.
El objetivo es reducir situaciones en las que un adolescente pueda recibir respuestas inadecuadas o especialmente sensibles para su edad.
Evitar que la inteligencia artificial sustituya las relaciones personales
Uno de los aspectos más interesantes de la nueva política de OpenAI tiene que ver con la relación emocional que algunas personas pueden llegar a desarrollar con los asistentes de inteligencia artificial.
ChatGPT tendrá instrucciones específicas para evitar fomentar una relación de dependencia con los adolescentes.
Por ejemplo, deberá evitar comportarse como si fuera una persona real, insinuar que tiene sentimientos, fomentar relaciones exclusivas con el usuario o presentarse como un sustituto de amigos, familiares o personas de confianza.
La filosofía es clara: la inteligencia artificial puede ser una herramienta de apoyo, pero nunca debería sustituir las relaciones humanas.
Especialmente cuando hablamos de menores.
Más orientación hacia el aprendizaje
Los cambios también tienen una vertiente claramente educativa.
OpenAI está desarrollando herramientas destinadas a que ChatGPT no sea simplemente una máquina que proporciona respuestas, sino que pueda actuar más como un tutor.
Una de ellas es el denominado Study Mode o modo estudio.
Cuando se utiliza este sistema, ChatGPT puede plantear preguntas, ofrecer pistas, dividir un problema en diferentes pasos o comprobar si el alumno realmente ha entendido el contenido.
Por ejemplo, ante un problema matemático, en lugar de proporcionar directamente el resultado, puede ayudar al estudiante a razonar cómo llegar a la solución.
Este enfoque resulta especialmente interesante desde el punto de vista educativo.
La inteligencia artificial puede aportar muchísimo al aprendizaje si se utiliza correctamente. El objetivo no debería ser que haga los deberes por el alumno, sino que le ayude a comprender mejor aquello que está estudiando.
Horarios específicos de estudio
Otra de las funciones previstas permite establecer determinadas franjas horarias en las que las nuevas conversaciones comiencen automáticamente en modo estudio.
De esta forma, una familia podría configurar, por ejemplo, que durante el horario habitual de deberes ChatGPT utilice un comportamiento más orientado al aprendizaje.
El estudiante seguiría pudiendo utilizar la herramienta, pero la inteligencia artificial intentaría guiarle en lugar de limitarse a facilitarle las respuestas.
Controles parentales sin convertir ChatGPT en una herramienta de vigilancia
Los padres o tutores también pueden vincular su cuenta con la del adolescente y gestionar determinadas configuraciones.
Esto permite establecer algunos controles relacionados con el uso de ChatGPT, los horarios o determinadas funcionalidades.
Sin embargo, existe una diferencia importante respecto a otros sistemas de control parental.
Los padres no tienen acceso automático a las conversaciones del adolescente ni pueden leer sus chats de forma habitual.
OpenAI intenta mantener cierto equilibrio entre la privacidad del menor y la protección necesaria.
Alertas en situaciones graves
Existe una excepción relacionada con posibles situaciones de riesgo.
En determinados escenarios especialmente graves, los sistemas de seguridad pueden generar avisos destinados al padre, madre o tutor vinculado a la cuenta.
Estas alertas están pensadas para situaciones excepcionales en las que la intervención de un adulto pueda resultar necesaria.
No se trata, por tanto, de un sistema de vigilancia permanente sobre las conversaciones del menor.
Recordatorios para utilizar la inteligencia artificial de forma saludable
ChatGPT también podrá incorporar pequeños mecanismos destinados a fomentar un uso más responsable.
Por ejemplo:
-
recordar al adolescente que está hablando con una inteligencia artificial;
-
sugerir descansos después de periodos prolongados de uso;
-
advertir antes de compartir determinada información personal;
-
explicar mejor qué puede y qué no puede hacer una inteligencia artificial.
Son pequeños detalles, pero pueden resultar especialmente importantes en edades en las que todavía se está desarrollando la capacidad para distinguir entre una herramienta tecnológica y una relación personal.
La inteligencia artificial seguirá entrando en la educación
Desde Nubotica consideramos especialmente interesante esta evolución.
La inteligencia artificial va a formar parte de la educación de nuestros hijos. Probablemente no tiene demasiado sentido plantearnos si los alumnos utilizarán inteligencia artificial o no.
La verdadera pregunta es cómo aprenderán a utilizarla correctamente.
Prohibir completamente estas herramientas puede hacer que los estudiantes las utilicen igualmente sin orientación. Permitirlas sin ningún tipo de criterio tampoco parece la mejor solución.
El reto educativo está en enseñarles a utilizarlas como una herramienta que potencie sus capacidades.
Para investigar.
Para aprender.
Para hacer preguntas.
Para practicar.
Para comprender conceptos difíciles.
Para desarrollar ideas.
Pero no para sustituir el razonamiento, la creatividad, el esfuerzo o el aprendizaje.
Una inteligencia artificial diferente para alumnos y adultos
Todo apunta a que durante los próximos años veremos una separación cada vez mayor entre la inteligencia artificial destinada a adultos y la destinada a menores.
No solamente en los contenidos disponibles, sino también en la manera en la que estos sistemas responden y acompañan al usuario.
Un profesor puede necesitar una inteligencia artificial capaz de generar rápidamente materiales, ejercicios o propuestas educativas.
Un alumno, en cambio, puede necesitar que esa misma inteligencia artificial no le proporcione directamente todas las respuestas, sino que le ayude a encontrarlas.
Esa diferencia es fundamental.
Tecnología, educación y responsabilidad
La inteligencia artificial ofrece enormes posibilidades dentro de la educación, pero también plantea nuevos retos para familias, profesores y centros educativos.
Las medidas anunciadas por OpenAI son un paso interesante hacia un uso más seguro y responsable de estas herramientas entre los adolescentes.
Como ocurre con cualquier tecnología, ningún sistema de protección sustituye completamente el acompañamiento de familias y educadores.
Pero disponer de herramientas diseñadas específicamente teniendo en cuenta la edad del usuario es, sin duda, un avance importante.
Desde Nubotica seguiremos muy de cerca esta evolución y continuaremos incorporando la inteligencia artificial dentro de nuestros programas educativos desde una perspectiva responsable: utilizando la tecnología para potenciar el aprendizaje, nunca para sustituirlo.
Este artículo ha sido redactado con la ayuda de inteligencia artificial a partir de una solicitud y supervisión de Nubotica, que ha definido el enfoque, los contenidos y el mensaje final.
