OpenAI presentó este martes ChatGPT para Adolescentes, una experiencia destinada a usuarios de entre 13 y 17 años que incorpora nuevas medidas de protección frente a contenidos sensibles, herramientas orientadas al aprendizaje y opciones para que madres, padres o tutores puedan administrar determinadas funciones de las cuentas de sus hijos.

La propuesta no implica la creación de un modelo diferente. Se trata de una experiencia de ChatGPT que aplica protecciones específicas para menores de edad. Según explicó la compañía, cuando sus sistemas estiman que una cuenta pertenece a una persona menor de 18 años, se activan automáticamente medidas adicionales destinadas a reducir la exposición a determinados contenidos.

Entre los contenidos alcanzados por estas protecciones aparecen la violencia gráfica, las representaciones de autolesiones, los desafíos virales considerados riesgosos, determinados contenidos relacionados con la imagen corporal y los juegos de rol sexuales, románticos o violentos.

La iniciativa también parte de una definición sobre el uso que OpenAI busca promover entre los adolescentes: que ChatGPT sea una herramienta para aprender y crear, y no un reemplazo de los vínculos personales.

Un modo pensado para estudiar

Uno de los principales componentes de la experiencia es Study Mode, una función diseñada para orientar a los estudiantes durante el proceso de aprendizaje. En lugar de limitar la interacción a proporcionar una respuesta inmediata, el sistema busca que los alumnos trabajen sobre los problemas mediante preguntas orientadoras, explicaciones estructuradas y ejercicios de reflexión.

Los adolescentes pueden activar este modo por decisión propia. Sin embargo, cuando la cuenta del padre, madre o tutor está vinculada, el adulto también puede establecer horarios de estudio.

Durante esos períodos, las nuevas conversaciones que sean elegibles comienzan con Study Mode activado. La herramienta contempla diferentes formas de trabajo que apuntan a acompañar el aprendizaje y la práctica. Entre sus posibilidades se incluyen:

• Cuestionarios.
• Ejercicios paso a paso.
• Planes de estudio.
• Preguntas de práctica.

OpenAI, al mismo tiempo, establece una advertencia sobre el alcance de esta función: Study Mode puede cometer errores y no reemplaza a docentes, tutores ni materiales educativos.

Qué pueden administrar los padres

La conexión entre las cuentas de un adolescente y de su padre, madre o tutor se realiza desde el apartado Controles Parentales de ChatGPT. Para establecer la vinculación, el adulto puede enviar una invitación mediante correo electrónico o número de teléfono. Esa invitación debe ser aceptada para que la conexión quede efectivamente establecida.

Una vez completado el proceso, el adulto puede administrar diferentes configuraciones relacionadas con la experiencia del adolescente. Entre ellas se encuentran las protecciones frente a contenido sensible, el uso de recuerdos guardados, Voice Mode, la generación de imágenes y las opciones vinculadas con Study Mode.

También aparece la posibilidad de establecer Quiet Hours, una función que permite determinar franjas horarias durante las cuales el adolescente no puede utilizar ChatGPT.

Los Study Hours, en cambio, funcionan de una manera diferente. No bloquean el acceso a la plataforma. Su objetivo es establecer horarios durante los cuales determinadas conversaciones nuevas comienzan con el modo de estudio activado.

Esta diferencia resulta central dentro de los controles familiares: mientras Quiet Hours restringe el uso durante determinados períodos, Study Hours orienta el uso hacia una modalidad destinada al estudio sin impedir el acceso a ChatGPT.

La privacidad de las conversaciones se mantiene

Uno de los aspectos centrales del nuevo sistema es que la vinculación entre las cuentas no permite a los padres acceder directamente a los chats del adolescente.

El adulto no puede leer sus conversaciones, consultar su historial ni observar su actividad en tiempo real. De esta manera, los controles familiares se concentran en determinadas configuraciones y funciones, pero no habilitan una supervisión directa de las conversaciones.

La propuesta, por lo tanto, combina herramientas de administración parental con un límite concreto sobre el acceso a la actividad privada del adolescente dentro de la plataforma.

Cuándo pueden llegar las alertas de seguridad

Otro de los cambios más sensibles está relacionado con las notificaciones de seguridad. OpenAI aclaró que estas alertas no están diseñadas para activarse ante cualquier consulta que pueda considerarse inapropiada. Se trata de avisos reservados para situaciones limitadas en las que exista una preocupación seria por la seguridad del adolescente.

Las notificaciones pueden activarse, por ejemplo, cuando revisores especialmente capacitados identifican una preocupación grave relacionada con autolesiones. También pueden enviarse cuando la cuenta del adolescente queda desactivada por conversaciones vinculadas con actos de violencia.

En los casos relacionados con un riesgo serio de autolesión, antes de enviar una notificación se realiza una revisión por parte de personal capacitado. El aviso puede contener una descripción breve del tipo de preocupación detectada y recursos de apoyo.

Sin embargo, la notificación no muestra la conversación, la transcripción del chat ni el historial del menor. Las alertas pueden llegar a través de correo electrónico, mensaje de texto o una notificación dentro de la aplicación, dependiendo de los datos de contacto y de las configuraciones disponibles.

OpenAI también advierte que este mecanismo no constituye un sistema de vigilancia en tiempo real y que puede no detectar todas las situaciones de riesgo.

Cómo identifica ChatGPT a un adolescente

Para determinar qué experiencia corresponde a cada usuario, OpenAI utiliza un sistema de predicción de edad que estima si una cuenta pertenece a una persona menor de 18 años.

El sistema analiza una combinación de señales. Entre ellas aparecen la antigüedad de la cuenta, los horarios habituales de actividad, los patrones de uso y la edad declarada por el propio usuario.

Cuando el sistema no cuenta con suficiente certeza sobre la edad, OpenAI indicó que adopta la experiencia que incluye mayores protecciones. El mecanismo también contempla la posibilidad de que una persona adulta sea clasificada por error como menor de edad. En ese caso, puede iniciar un proceso de verificación para recuperar el acceso correspondiente a una cuenta de adulto.