OpenAI lanzará un ChatGPT ( Android , iOS ) dirigido a adolescentes con controles parentales para menores de 18 años mientras la compañía trabaja para reforzar las protecciones de seguridad para esta audiencia.
«Estamos desarrollando funciones de seguridad avanzadas para garantizar la privacidad de sus datos, incluso para los empleados de OpenAI. Al igual que con los privilegios de otras categorías, habrá ciertas excepciones: por ejemplo, los sistemas automatizados supervisarán posibles usos indebidos graves, y los riesgos más críticos (amenazas a la vida de alguien, planes para dañar a otros o daños a escala social, como un posible incidente masivo de ciberseguridad) podrán ser escalados para su revisión humana», escribió la compañía en su sitio web este martes 16 de septiembre.
Una vez que OpenAI identifica a un menor como usuario, se le redirige a un modelo de ChatGPT adaptado a su edad. En este caso, bloquea el contenido gráfico y sexual, y puede contactar a las autoridades en casos de angustia grave.
La compañía también está desarrollando una herramienta capaz de predecir mejor las edades de los usuarios, pero si hay incertidumbre o información incompleta, ChatGPT optará por la experiencia orientada a los menores de 18 años.
Cabe mencionar que, según OpenAI, ChatGPT está destinado a usuarios mayores de 13 años.
Según la última encuesta Panorama Mobile Time/Opinion Box sobre el uso de teléfonos inteligentes por parte de niños y adolescentes , el 33% de los jóvenes brasileños de 13 a 16 años utilizan ChatGPT.
OpenAI y el control parental
Los nuevos controles permitirán a los padres vincular su cuenta de ChatGPT con la de su hijo mediante correo electrónico, establecer horarios de inactividad cuando su hijo adolescente no pueda usar el asistente virtual, administrar qué funciones están deshabilitadas, definir cómo debe responder el chatbot y recibir notificaciones si su hijo adolescente está en una situación de angustia aguda.
Las actualizaciones de seguridad de la startup llegan después de que la Comisión Federal de Comercio de Estados Unidos (FTC) abriera recientemente una investigación a varias empresas de tecnología, incluida OpenAI, sobre cómo los chatbots de IA pueden afectar negativamente a niños y adolescentes.
