Músico Cancelado Tras Acusaciones Falsas de Crímenes Horrendos por Parte de una IA

¿Quién necesita criticos de música crueles cuando vivimos en la era de la IA?

Aparentemente, Ashley MacIsaac, un violinista, cantante y compositor canadiense, no lo necesita, ya que fue etiquetado como un criminal sexual por un resumen de IA de Google.

Según el periódico canadiense The Globe and Mail, los organizadores de un evento en la Nación Sipekne’katik, al norte de Halifax, cancelaron una presentación próxima de MacIsaac después de que Google lo describió erróneamente como un delincuente sexual.

El periódico informa que la desinformación resultó de uno de los resúmenes de IA de Google, que combina la biografía del músico con la de otra persona que comparte el mismo nombre.

“Google cometió un error, y me puso en una situación peligrosa,» declaró MacIsaac al periódico.

Aunque el resumen de IA se ha actualizado desde entonces, MacIsaac explicó que la situación representa un gran dilema para él como músico en gira. No hay forma de saber cuántos organizadores de eventos dejaron de contratarlo debido a este reclamo difamatorio, o cuántos potenciales miembros de la audiencia se llevaron una impresión equivocada, sin haber visto la corrección.

“La gente debería verificar su presencia en línea para asegurarse de que no aparezca el nombre de otra persona,” le dijo MacIsaac al Globe.

Después de que se aclaró la verdad, la Nación Sipekne’katik emitió una disculpa y extendió una futura bienvenida al músico.

“Lamentamos profundamente el daño que este error causó a tu reputación, a tu medio de vida y a tu sentido de seguridad personal,” escribió un portavoz de la Nación en una carta compartida con el periódico. “Es importante para nosotros dejar claro que esta situación fue resultado de una confusión de identidades causada por un error de IA, no un reflejo de quién eres.”

Por su parte, un representante de Google afirmó que “la búsqueda, incluidos los Resúmenes de IA, es dinámica y cambia frecuentemente para mostrar la información más útil. Cuando surgen problemas —como, por ejemplo, si nuestras funciones malinterpretan contenido web o no capturan contexto— utilizamos esos ejemplos para mejorar nuestros sistemas y podemos tomar acciones bajo nuestras políticas.”

Sin embargo, como MacIsaac señala correctamente, el riesgo a la reputación es algo difícil de reparar. No se sabe cuán lejos pudo haberse difundido esa desinformación —y cuando una corporación lanza software deficiente con fallas evidentes, ¿quién es responsable del daño?

Más sobre Google: Google atrapado reemplazando titulares de noticias con tonterías generadas por IA