Mientras México debate el celular en las escuelas, ChatGPT tendrá una versión especial para adolescentes

Mientras en México se debate si los niños y adolescentes deberían llevar celulares a las escuelas y poner límites de edad a las redes sociales, las herramientas de inteligencia artificial avanzan rápidamente y comienzan a adaptarse a las necesidades de los usuarios más jóvenes, una generación que prácticamente está creciendo con ellas.

Para muchos estudiantes, una IA ya no es solamente una herramienta para resolver dudas: también puede convertirse en una especie de tutor personal para hacer tareas, entender conceptos o estudiar antes de un examen. De hecho, una encuesta de UNICEF realizada en diez países, incluido México, encontró que seis de cada diez niños que usan inteligencia artificial recurren a ella para hacer tareas escolares.

El problema es que esa cercanía también plantea nuevos riesgos. Las empresas que desarrollan inteligencia artificial ahora tienen que ser más cuidadosas en el desarrollo de estas herramientas para lograr que los menores las aprovechen sin exponerlos a contenidos o interacciones diseñadas originalmente para adultos. En este contexto, OpenAI anunció una experiencia específica para adolescentes que busca combinar aprendizaje y mayores medidas de protección.

ChatGPT quiere que los adolescentes aprendan, no solo que obtengan respuestas

OpenAI presentó ChatGPT para adolescentes, una experiencia pensada para usuarios de entre 13 y 17 años que incluye herramientas para estudiar, controles para padres y mayores medidas de seguridad. De acuerdo con la compañía, si la IA detecta que una persona es menor de 18 años, se le asignará automáticamente esta experiencia.

Uno de los principales cambios está en la forma en que ChatGPT ayuda con las tareas escolares. En lugar de dar directamente la respuesta, la herramienta busca acompañar al estudiante para que entienda el problema y pueda resolverlo por sí mismo. Para ello, incorpora el Modo de Estudio, que utiliza preguntas y explicaciones paso a paso para guiar al adolescente durante el proceso.

También incluye cuestionarios y recursos visuales que permiten practicar y comprobar qué tanto se ha entendido un tema. La idea es que ChatGPT funcione más como un apoyo para estudiar que como una herramienta para copiar respuestas.

La plataforma también tendrá recordatorios para completar las tareas. Si detecta que un adolescente parece intentar saltarse el proceso de aprendizaje y obtener directamente una respuesta, puede redirigirlo al Modo de Estudio para trabajar el problema paso a paso.

Además, la nueva función de Horas de Estudio permite establecer determinados momentos en los que el Modo de Estudio estará activo de forma predeterminada. Tanto los adolescentes como sus padres podrán elegir estos horarios para fomentar el hábito de usar la IA como apoyo en el aprendizaje.

OpenAI reforzará las protecciones de ChatGPT para adolescentes

La versión para adolescentes también tendrá medidas de seguridad más estrictas. Cuando ChatGPT identifica que quien lo usa es menor de edad, aplica protecciones para reducir su exposición a contenido que pueda ser dañino o inapropiado, como autolesiones, violencia, trastornos alimentarios, actividades peligrosas y contenido sexual o gráfico.

OpenAI también busca que la relación entre el adolescente y la IA tenga límites claros. Por eso, ChatGPT no debe utilizar lenguaje romántico, fomentar una dependencia emocional ni dar a entender que tiene sentimientos o conciencia. Además, incluirá recordatorios para tomar descansos y señales que recuerden al usuario que está interactuando con una inteligencia artificial.

Los padres también tendrán algunas herramientas para supervisar el uso. Si vinculan su cuenta con la de su hijo adolescente, podrán establecer horarios de silencio, administrar ciertas configuraciones y recibir notificaciones cuando se detecten situaciones de alto riesgo. También podrán recibir avisos relacionados con trastornos alimentarios u otras situaciones en las que pueda ser importante buscar apoyo fuera de la pantalla.

Otra medida está relacionada con compartir imágenes. Si un adolescente intenta subir una fotografía sensible o privada, ChatGPT podrá advertir sobre los riesgos de compartir ese tipo de contenido. La intención es que estas advertencias aparezcan dentro de la herramienta y ayuden al menor a tomar una decisión más segura.

El reto será saber quién está detrás de la pantalla

Todas estas medidas dependen de una cuestión que parece sencilla, pero que representa uno de los mayores retos para las plataformas: determinar la edad real de sus usuarios.

OpenAI trabaja en un sistema de predicción de edad que permitirá aplicar automáticamente las protecciones para adolescentes cuando la compañía estime que una cuenta pertenece a un menor. Si existe incertidumbre o la información disponible no es suficiente, la empresa señala que utilizará inicialmente la experiencia estándar para mayores de 18 años y ofrecerá mecanismos de verificación de edad para adultos.

El lanzamiento muestra cómo la discusión sobre la IA para menores está dejando de centrarse únicamente en si los adolescentes deberían utilizar estas herramientas. Ahora también está sobre la mesa qué tipo de IA deberían encontrar cuando la utilizan y qué límites deberían existir alrededor de ella. La encuesta de UNICEF encontró, además, que uno de cada diez niños que utiliza inteligencia artificial recurre a ella para pedir consejo sobre asuntos que le preocupan. 

La compañía de Sam Altman reconoce que las protecciones todavía están en desarrollo y que continuarán ajustándose a partir de nuevas investigaciones, evaluaciones y aportaciones de expertos. Su apuesta es que los adolescentes puedan utilizar la IA para aprender, crear y explorar, pero sin convertir a la tecnología en un sustituto de profesores, padres, amigos u otras relaciones del mundo real.

OpenAI señala que ChatGPT para adolescentes estará disponible a nivel global para las cuentas de adolescentes elegibles, tanto en planes gratuitos como de pago, a partir del 18 de agosto. Por ahora, el despliegue comenzó en Estados Unidos, mientras que su llegada a México y otros países será gradual y puede tardar dependiendo de cada cuenta.

Imagen | Unsplash / OpenAI

En Xataka México | TIME encontró la forma de enviarte publicidad a través de ChatGPT: para eso creó una web invisible, que nunca leerás porque está hecha solamente para la IA

En Xataka México | OpenAI encontró una nueva forma de ganar dinero con ChatGPT y México será uno de sus laboratorios