RDÉ DIGITAL, SAN FRANCISCO.– OpenAI anunció que trabaja en un nuevo sistema para identificar automáticamente si un usuario de ChatGPT es menor de 18 años, con el objetivo de adaptar la experiencia a su edad y bloquear contenido inapropiado.
El CEO Sam Altman y su equipo buscan reforzar la seguridad de los adolescentes mediante herramientas como controles parentales, que permiten a las familias gestionar cómo se utiliza ChatGPT en sus hogares.
Cómo funcionará el sistema
Según el comunicado oficial, cuando ChatGPT detecte a un menor:
- Activará una experiencia adaptada a su edad
- Bloqueará contenido sexual explícito
- En situaciones extremas de angustia, podría intervenir con fuerzas del orden para garantizar la seguridad
Si la edad del usuario no puede confirmarse, la plataforma aplicará la experiencia de menores de 18 años por defecto. Los adultos, por su parte, podrán demostrar su edad para acceder a funciones completas.
Controles parentales
A finales de septiembre, los padres podrán:
- Vincular su cuenta con la de su hijo adolescente
- Establecer reglas de interacción y limitar funciones como memoria e historial de chat
- Definir horarios de uso
- Recibir notificaciones en caso de angustia extrema del menor
Contexto y antecedentes
Los recientes cambios en ChatGPT se producen tras incidentes que han puesto en evidencia riesgos de seguridad emocional para adolescentes. En abril de este año, un joven de 16 años en Estados Unidos se suicidó luego de interactuar con el chatbot, lo que derivó en demandas legales contra OpenAI.
La compañía comenzó a realizar ajustes en agosto para mejorar la detección de crisis emocionales, añadiendo salvaguardas más estrictas, bloqueos de contenido y agilizando el contacto con servicios de ayuda y familiares.
Con estas medidas, OpenAI refuerza su compromiso con la seguridad de todos los usuarios, especialmente de los adolescentes, al tiempo que mantiene la funcionalidad del chatbot para adultos.
