El recientemente creado Centro de Ética e Innovación de los Datos (CDEI) investigará el potencial de sesgo en el uso de algoritmos en delitos y justicia, servicios financieros, reclutamiento y gobierno local en el Reino Unido.
Los profesionales en estos campos utilizan cada vez más algoritmos creados a partir de datos para ayudarlos a tomar decisiones. Pero existe el riesgo de que cualquier sesgo humano en esos datos se refleje en las recomendaciones hechas por el algoritmo.
El nuevo centro se asociará con la Unidad de Disparidad de Raza de la Oficina del Gabinete para explorar el potencial de sesgo en el crimen y la justicia.
El establecimiento del CDEI respalda la estrategia industrial más amplia del gobierno y se creó para garantizar que las tecnologías basadas en datos y la Inteligencia Artificial se usen en beneficio de la sociedad.
El CDEI también explorará las oportunidades para que la tecnología basada en datos aborde el potencial de sesgo en los sistemas existentes y para respaldar una toma de decisiones más justa.
Esto puede incluir oportunidades crecientes para aquellos en los mercados laborales o crediticios en los sistemas existentes de contratación y servicios financieros.
“Me complace que su equipo de expertos esté llevando a cabo una investigación sobre el potencial de sesgo en la toma de decisiones algorítmica en áreas que incluyen crimen, justicia y servicios financieros. Espero ver las recomendaciones del Centro al gobierno sobre cualquier acción que debemos tomar para asegurarnos de maximizar los beneficios de estas poderosas tecnologías para la sociedad”, dijo Jeremy Wright, secretario Digital del Reino Unido.
