Michelle Bachelet, la alta comisionada de la inteligencia artificial (IA) que amenazan las libertades civiles, como las que se usan para determinar qué persona obtiene un puesto de trabajo.
Durante una presentación ante el Consejo de Derechos Humanos de la ONU, la expresidenta de Chile solicitó detener el desarrollo “hasta que se hayan puesto en vigor las salvaguardas adecuadas”.
“No podemos seguir reaccionando tardíamente a los efectos de la IA, ni permitir que se use de manera ilimitada, sin fronteras ni supervisión, para enfrentarnos luego a sus casi inevitables consecuencias sobre los derechos humanos”, señaló la alta comisionada.
El informe presentado ante el consejo analizó el uso de la IA en sistemas de elaboración automática de perfiles, toma de decisiones y otras tecnologías de aprendizaje para las máquinas y concluye que pueden vulnerar el derecho a la intimidad y otros relacionados con la salud, la educación, la libertad de movimiento o la de expresión.
El documento indica que ya han existido casos donde algunas personas han sido “injustamente tratadas” por el uso de la inteligencia artificial, por ejemplo, al negarles prestaciones del seguro social o ser detenidas como consecuencia de errores en los sistemas de reconocimiento facial.
“Los datos que alimentan y orientan a los sistemas de IA pueden ser deficientes, discriminatorios, obsoletos o poco pertinentes”, concluye el documento.
Por último, el informe advierte que estos sistemas “pueden conducir a la adopción de decisiones discriminatorias, un riesgo aún mayor en grupos que ya se encuentran marginados”.
