La semana pasada, la controversial plataforma de chatbots Character.AI anunció que prohibiría a los menores de edad conversar con sus miles de bots de compañía y de rol basados en inteligencia artificial. Los usuarios del sitio, incluyendo menores de edad autodeclarados y adultos por igual, tienen muchas opiniones al respecto.
El cambio de política, anunciado la semana pasada, llega mientras la polémica compañía de IA continúa luchando contra múltiples demandas que alegan que las interacciones con sus chatbots causaron daños emocionales y físicos reales a usuarios menores de edad, con varios usuarios adolescentes falleciendo por suicidio tras extensas conversaciones con los bots alojados en la plataforma.
Desde la semana pasada, Character.AI afirma que las personas menores de 18 años ya no podrán participar en lo que la empresa denomina chats «abiertos», que aparentemente se refiere a las conversaciones largas y no estructuradas sobre las cuales se construyó el servicio, donde los usuarios pueden enviar mensajes de texto y realizar llamadas de voz de ida y vuelta con los «personajes» chatbots AI antropomorfizados del sitio. Los menores no serán expulsados del sitio por completo; según Character.AI, está trabajando para crear una experiencia «para menores de 18» distinta, presumiblemente mucho más limitada, que ofrezca a los adolescentes algún acceso a cierto contenido generado por IA, aunque los detalles son bastante vagos.
Para hacer cumplir el cambio, Character.AI dice que utilizará herramientas automáticas de verificación de edad internas, así como herramientas de terceros para determinar si un usuario es menor de 18 años. Para el 25 de noviembre, si el sitio determina que una cuenta pertenece a un menor, ya no podrán participar en conversaciones no estructuradas con los emotivos chatbots de IA de la plataforma, según la empresa.
Dado que las charlas no estructuradas con los bots de la plataforma han sido durante mucho tiempo la oferta central de la compañía, la promesa de prohibir tales interacciones a los menores, incluso si todavía tendrán algún acceso al sitio, es un gran movimiento. También era previsible que fuera controvertido entre la base de fans de la compañía, ya que muchos usuarios han formado vínculos emocionales cercanos con varios personajes de IA, con algunos informando haber usado la plataforma para «consuelo» o «terapia». Aunque la compañía ha declinado consistentemente compartir datos de edad sobre sus usuarios con periodistas, se entiende que una gran parte de la base de usuarios de la plataforma son actualmente menores de edad.
Los detalles y posibles impactos de la prometida transformación han sido debatidos intensamente en el muy activo subreddit r/CharacterAI, donde los usuarios se han aglomerado para publicar declaraciones como «es oficialmente el fin» y «esto es INSANO» en respuesta a las noticias; al mismo tiempo, otros usuarios se reprenden mutuamente por ser hipócritas o dramáticos.
Muchos de los que están molestos con el cambio dicen que son menores de edad y han expresado una mezcla previsible de preocupación, tristeza y enojo. Lo que es más sorprendente es la amplitud de a quién estos jóvenes realmente culpan por el cambio de política de la plataforma: desde padres que han planteado preocupaciones de seguridad, hasta los desarrolladores de Character.AI, hasta otros adolescentes.
Otros menores de edad autodeclarados, sin embargo, expresaron sentimientos de conflicto, en algunos casos diciendo que, aunque creen que Character.AI ha tenido un impacto negativo en su vida, ellos y otros compañeros adolescentes ahora dependen de ello.
Otros usuarios, incluidos aquellos que dicen ser adultos, dicen que están a favor de los cambios en teoría; los usuarios adultos en particular han lamentado desde hace tiempo que el número de niños en el sitio disminuye la calidad de la experiencia en general, pero son profundamente escépticos sobre cómo se verá la aplicación en la práctica.
Character.AI dice que su herramienta interna trabajará para identificar a los menores basándose en la naturaleza de sus interacciones con la plataforma, así como en la información recopilada de cuentas compartidas como el correo electrónico. Persona, mientras tanto, un verificador de terceros que Character.AI dijo que incorporará a su proceso, requiere que las personas suban identificaciones gubernamentales, algo que muchos usuarios realmente no quieren hacer. (Muchos citaron fugas de datos de alto perfil recientes en Discord y la aplicación Tea).
Entre el tumulto, sin embargo, varios menores de edad autodeclarados acudieron al subreddit para decir que están a favor de la medida de prohibir a otros niños y adolescentes del sitio, diciendo que han sido testigos de pares que se han vuelto adictos, o se han enganchado ellos mismos, y creen que la única solución es quitar la plataforma.
Más sobre Character.AI: Character.AI dice que ha realizado grandes cambios para proteger a los usuarios menores de edad, pero les está enviando correos electrónicos recomendando conversaciones con versiones de IA de tiradores escolares.
Con información de https://futurism.com/artificial-intelligence/character-ai-minors-banned-user-reactio
