Nueva Zelanda regula algoritmos y Big Data

Nueva Zelanda se pone en la punta de la regulación estatal de información

Nueva Zelanda se acaba de convertir en el primer país del mundo en establecer directrices sobre cómo las agencias públicas deben usar y supervisar los algoritmos que impulsan cada vez más la toma de decisiones por parte de funcionarios sobre cada área de la vida pública. El Ministro de Estadística, James Shaw, se ha referido a esa Carta de Algoritmos para Aotearoa Nueva Zelanda como “una parte importante de la construcción de la confianza pública”. “El uso de algoritmos para analizar datos e informar decisiones no viene sin sus riesgos”, ha dicho Shaw. “Por lo tanto, es importante que las personas confíen en que estos algoritmos se están utilizando de manera justa, ética y transparente. Y de eso se trata esta Carta”.

Ese marco normativo afecta a asuntos desde lo aparentemente inocuo, como sistemas que regulan los semáforos y controlan los flujos de tráfico, a cuestiones bastante más serias, incluida la recopilación de datos y la toma de decisiones sobre los ciudadanos por parte de las agencias responsables de la aplicación de la ley, inmigración, bienestar y salud. La Carta obliga a la revisión de sistemas basados en algoritmos que vienen siendo utilizados, por ejemplo, para calcular probabilidades de fraude en materia de seguros por accidente, para determinar el riesgo de reincidencia de un preso, para asistir en la resolución de solicitudes de asilo o en tecnologías policiales de reconocimiento facial.

Las agencias gubernamentales que han suscrito la Carta se comprometen a ser públicamente transparentes acerca de cómo la toma de decisiones es impulsada por algoritmos (incluyendo dar explicaciones en “inglés simple”), a facilitar información sobre los procesos utilizados y cómo se almacenan los datos (a menos que lo prohíba la ley por razones de seguridad nacional) y a identificar y gestionar sesgos, entre ellos los que se refieren a la comunidad Māori.