El número de niños que se lastiman con los chatbots con AI es difícil de saber, pero no es cero. Sin embargo, durante casi tres años, ChatGPT ha sido gratuito para que todas las edades accedan sin barandas. Eso cambió el lunes, cuando Openai presentó un conjunto de controles parentales, algunos de los cuales están diseñados para prevenir suicidios adolescentes, como el de Adam Raine, un californiano de 16 años que murió por suicidio después de hablar con Chatgpt extensamente sobre cómo hacerlo. Luego, el martes, Openai lanzó una red social con una nueva aplicación llamada Sora que se parece mucho a Tiktok, excepto que funciona con videos generados por IA «Hyperreal».
Seguramente no fue un accidente que Operai anunciara estos controles parentales junto con un movimiento ambicioso para competir con Instagram y YouTube. En cierto sentido, la compañía estaba lanzando una nueva aplicación diseñada para que las personas se enganchen aún más en el contenido generado por la IA, pero suavizando el golpe al dar a los padres un poco más control. La nueva configuración se aplica principalmente a ChatGPT, aunque los padres tienen la opción de imponer límites a lo que sus hijos ven en Sora.
Y los nuevos controles ChatGPT no son exactamente sencillos. Entre otras cosas, los padres ahora pueden conectar las cuentas de sus hijos con las suyas y agregar protecciones contra el contenido sensible. Si en algún momento las herramientas de OpenAI determinan que hay un grave riesgo de seguridad, un moderador humano lo revisará y enviará una notificación a los padres si es necesario. Sin embargo, los padres no pueden leer transcripciones de las conversaciones de sus hijos con ChatGPT, y el adolescente puede desconectar su cuenta de sus padres en cualquier momento (OpenAi dice que los padres recibirán una notificación).
Todavía no sabemos cómo se desarrollará todo esto en la práctica, y algo seguramente será mejor que nada. Pero, ¿OpenAi está haciendo todo lo posible para mantener a los niños seguros?
Incluso los adultos tienen problemas para regularse a sí mismos cuando los chatbots de IA ofrecen un amigo alegre y sycófánico disponible para conversar cada hora del día.
Varios expertos con los que hablé dijeron no. De hecho, Openai ignora el mayor problema de todos: chatbots que están programados para actuar como compañeros, brindando apoyo emocional y consejos a los niños. Presumiblemente, las nuevas características de seguridad de ChatGPT podrían intervenir en futuras tragedias potenciales, pero no está claro cómo Operai podrá identificar cuándo los compañeros de IA dan un giro oscuro con los usuarios jóvenes, como tienden a hacer.
«Hemos visto en muchos casos tanto para adolescentes y adultos que caer en la dependencia de la IA puede ser accidental», me dijo Robbie Torney, directora senior de programas de IA de Sense Media. «Muchas personas que se han vuelto dependientes de la IA no se propusieron depender de la IA. Comenzaron a usar la IA para la ayuda de la tarea o para el trabajo, y se deslizaron lentamente para usarla para otros fines».
Una vez más, incluso los adultos tienen problemas que se regulan a sí mismos cuando los chatbots de IA ofrecen un amigo alegre y sycófánico disponible para conversar cada hora del día. Es posible que haya leído informes recientes de adultos que desarrollaron relaciones cada vez más intensas con chatbots de IA antes de sufrir descansos psicóticos. Este tipo de relación sintética representa una nueva frontera para la tecnología y para el cerebro humano.
Es aterrador pensar lo que podría pasarle a los niños, cuyas cortezas prefrontales aún no se han desarrollado completamente, haciéndolos especialmente vulnerables. Más del 70 por ciento de los adolescentes están utilizando chatbots de IA para compañía, que les presenta peligros que son «reales, graves y bien documentados», según una reciente encuesta de medios de sentido común. Es por eso que las aplicaciones complementarias de AI, como el personaje. AI, ya tienen algunas restricciones de forma predeterminada para los usuarios jóvenes.
También existe el problema más amplio de que los controles de los padres ponen la responsabilidad de proteger a los niños en los padres, en lugar de en las propias empresas tecnológicas. Por lo general, depende de los padres profundizar en su configuración y voltear los interruptores. Y luego todavía depende de los padres realizar un seguimiento de cómo sus hijos usan estos productos, y en el caso de ChatGPT, cuán dependientes están llegando al chatbot. La situación es lo suficientemente confusa o laboriosa como para que la mayoría de los padres simplemente no usen controles parentales.
El objetivo real del control parentals
Vale la pena señalar que Operai lanzó estos controles y la nueva aplicación como un importante proyecto de ley de seguridad de IA se sentó en el escritorio del gobernador de California Gavin Newsom, esperando su firma. Newsom firmó el proyecto de ley el mismo día que el anuncio de control de los padres. Las noticias de Operai también estuvieron después de las audiencias del Senado sobre los impactos negativos de los chatbots de IA, durante los cuales los padres instaron a los legisladores a imponer regulaciones más fuertes a compañías como OpenAI.
«El objetivo real de estas herramientas de los padres, ya sea ChatGpt o Instagram, no es en realidad mantener a los niños seguros», dijo Josh Golin, director ejecutivo de Fairplay, un grupo de defensa infantil sin fines de lucro. Es decir que la autorregulación está bien, por favor. Ya sabes, ‘No nos regules, no pases ninguna ley’ «. Golin describió el fracaso de Openii para hacer algo sobre la tendencia de los niños que desarrollan relaciones emocionales con ChatGPT como» inquietante «. (Me puse en contacto con OpenAi para hacer comentarios pero no obtuve una respuesta).
Una forma de alojar a los padres con el manejo de todas estas configuraciones sería que OpenAi tenga las barandillas de seguridad por defecto. Y la compañía dice que está trabajando en algo que hace una versión de eso. En el futuro, dice, después de una cierta cantidad de entrada, ChatGPT podrá determinar la edad de un usuario y agregar características de seguridad. Por ahora, los niños pueden acceder a ChatGPT escribiendo su cumpleaños, o inventando uno, cada vez que crean una cuenta.
Puede intentar interpretar la estrategia de OpenAI aquí. Ya sea que esté tratando de retroceder contra la regulación o no, los controles de los padres introducen cierta fricción en los adolescentes usando ChatGPT. Son una forma de moderación de contenido, una que también afecta la privacidad de los usuarios de los adolescentes. La compañía también, presumiblemente, como estos adolescentes seguirá usando ChatGPT y Sora cuando se convierten en adultos, por lo que no quieren degradar demasiado la experiencia. Permitir que los adolescentes hagan más en estas aplicaciones en lugar de menos es bueno para los negocios, hasta cierto punto.
«No hay un control parental que hará algo completamente seguro».
Todo esto deja a los padres con una situación difícil. Necesitan saber que su hijo está usando ChatGPT, para empezar, y luego descubrir qué configuración será suficiente para mantener a sus hijos más seguros pero no demasiado estrictos que el niño simplemente crea una cuenta de quemador que finge ser un adulto. Aparentemente, no hay forma de evitar que los niños desarrollen un apego emocional a estos chatbots, por lo que los padres solo tendrán que hablar con sus hijos y esperar lo mejor. Luego está lo que se espera con la aplicación Sora, que parece diseñada para producir Ai Slop de alta calidad y hacer que los niños sean adictos a otro alimento interminable.
«No hay un control de los padres que haga algo completamente seguro», Leslie Tyler, directora de seguridad para padres en Pinwheel, una compañía que fabrica software de control de los padres. «Los padres no pueden externalizarlo. Los padres aún tienen que participar».
En cierto modo, este momento representa una segunda oportunidad para la industria tecnológica y para los formuladores de políticas. Dos décadas de aplicaciones de redes sociales no reguladas han cocinado todos nuestros cerebros, y hay evidencia creciente de que contribuyó a una crisis de salud mental en los jóvenes. Empresas como Meta y Tiktok sabían que sus productos estaban dañando a los niños y, durante mucho tiempo, no hicieron nada al respecto durante años. Meta Now tiene cuentas para adolescentes para Instagram, pero investigaciones recientes sugieren que las características de seguridad simplemente no funcionan.
Ya sea demasiado poco o demasiado tarde, OpenAi está tomando su turno para mantener a los niños seguros. De nuevo, hacer algo es mejor que nada.
