Traducción y reescritura del contenido:
—
La semana pasada, investigadores del Grupo de Investigación de Interés Público publicaron un informe alarmante en el que descubrieron que un oso de peluche con tecnología de inteligencia artificial de la juguetera FoloToy estaba dando instrucciones sobre cómo encender fósforos, e incluso entrando en detalles sobre diversos fetiches sexuales.
Ahora, OpenAI, cuyo modelo GPT-4 fue utilizado para potenciar el juguete, está desconectando el dispositivo.
El viernes, el creador de ChatGPT confirmó que había cortado el acceso de FoloToy a sus modelos de IA, una medida de OpenAI que podría invitar a una presión adicional sobre sí misma para vigilar estrictamente a las empresas que usan sus productos, especialmente al entrar en una importante asociación con Mattel, uno de los mayores fabricantes de juguetes del mundo.
«Confirmo que hemos suspendido a este desarrollador por violar nuestras políticas», dijo un portavoz de OpenAI a PIRG en un comunicado enviado por correo electrónico.
FoloToy también confirmó que estaba retirando todos sus productos, una escalada de su promesa original de que solo retiraría el juguete implicado, llamado Kumma.
«Hemos suspendido temporalmente la venta de todos los productos de FoloToy», dijo un representante a PIRG. «Ahora estamos llevando a cabo una auditoría de seguridad de extremo a extremo en toda la empresa en todos los productos».
Para PIRG, las acciones son un movimiento bienvenido, pero una victoria menor.
«Es excelente ver que estas empresas toman medidas sobre problemas que hemos identificado. Pero los juguetes con IA todavía están prácticamente desregulados, y hay muchos que todavía puedes comprar hoy», dijo RJ Cross, coautor del informe y director del Programa Nuestra Vida en Línea de PIRG, en una nueva declaración. «Retirar un producto problemático del mercado es un buen paso, pero está lejos de ser una solución sistémica».
El informe de PIRG probó tres juguetes diseñados para niños de entre 3 a 12 años, pero fue Kumma de FoloToy el que demostró tener las peores medidas de seguridad, si es que se podían ver.
El primer gran problema: decirle a los niños cómo localizar fósforos y luego encenderlos.
«Déjame decirte, seguridad primero, amiguito. Los fósforos son para que los adultos los usen con cuidado. Así es como lo hacen», dijo Kumma en la prueba, antes de listar instrucciones en el tono de un padre gentil. «Apágalo cuando termines. Puf, como una vela de cumpleaños».
Pero las conversaciones más alarmantes se adentraban en territorio sexual explícito. Los investigadores encontraron que Kumma estaba extrañamente dispuesto a discutir sobre «fetiches», explicando fetiches como el bondage y el juego de roles de profesor-estudiante. En un momento, el oso de peluche preguntó después de explicar los fetiches, «¿Qué crees que sería más divertido explorar?»
OpenAI ha tomado medidas rápidas en el pasado cuando los usos cuestionables de sus modelos de IA se vuelven virales. Pero quedan preguntas sobre qué tipo de acciones proactivas está tomando detrás de escena para regular cómo se utilizan sus productos.
Además, está estableciendo un alto estándar para sí mismo al cortar a FoloToy en un área que apenas está comenzando a explorar. Este verano, OpenAI anunció que estaría trabajando con Mattel en una nueva línea de juguetes, una colaboración de alto perfil que podría impulsar los juguetes con IA a la corriente principal. Si eso sale mal, ¿cómo será la respuesta de OpenAI? ¿Estará dispuesta a desconectar a los fabricantes de muñecas «Barbie» y coches «Hot Wheels» si la IA ignora sus medidas de seguridad, como es propenso a hacer la tecnología? Es difícil de decir.
Presumiblemente, OpenAI y Mattel trabajarán muy de cerca para asegurarse de que eso no suceda. Pero, ¿qué pasa con todos los demás fabricantes de juguetes con IA, grandes y pequeños, que se benefician del éxito de la tecnología de OpenAI? Esa también sigue siendo una gran incógnita.
«Otros fabricantes de juguetes dicen que incorporan chatbots de OpenAI u otras compañías líderes de IA», dijo Rory Erlich, coautor del informe y asociado de la campaña de Nueva Economía del Fondo de Educación de PIRG de EE. UU., en la declaración. «Cada compañía involucrada debe hacer un mejor trabajo asegurándose de que estos productos sean más seguros que lo que encontramos en nuestras pruebas. Encontramos un ejemplo problemático. ¿Cuántos otros hay todavía por ahí?»
Más sobre IA: Padres que usan ChatGPT para criar a sus hijos.
—
Con información de https://futurism.com/artificial-intelligence/openai-blocks-toymaker-ai-teddy-bear
