La Guía de Auditoría Algorítmica se centra en la realización de auditorías de productos y servicios de IA que incluyan el uso de algoritmos y que, en alguna etapa del proceso, recopilen o traten datos de carácter personal. De esta forma, se podrá comprobar que los algoritmos son diseñados, desarrollados y utilizados de acuerdo a la Ley, de forma socialmente justa y responsable para evitar que discriminen.
La guía quiere disipar las preocupaciones acerca del impacto ético, social, jurídico y empresarial del uso irresponsable de algoritmos
Según Eticas Consulting, esta guía quiere disipar las preocupaciones acerca del impacto ético, social, jurídico y empresarial del uso irresponsable de algoritmos y de datos que hacen. Y nace con tres objetivos, salvaguardar derechos fundamentales, aportar claridad al marco normativo y ofrecer una metodología replicable al alcance de todos. Porque las consecuencias ya están presentes en nuestros día a día, con decisiones discriminatorias en proceses de selección laboral, concesión de ayudas sociales, créditos o seguros, procesos migratorios… Los algoritmos pueden discriminar y conllevar importantes riesgos para las compañías o los Estados que los usan, en la mayoría de las ocasiones, sin saber que no se ajustan a derecho o al contexto socioeconómico.
Estándares de justicia y responsabilidad social
Gemma Galdon, directora de Eticas Consulting, ha asegurado que “es imprescindible que la ciudadanía sepa que cuenta con herramientas para exigir a compañías y Estados que desarrollen algoritmos que cumplan unos estándares de justicia y responsabilidad social". "Aunque, tras varios casos que han llegado a los tribunales, gobiernos y compañías de todo el mundo empiezan a comprender la importancia de estos controles externos como si se tratase de auditorías financieras”, añade.
Un proceso de auditoría algorítmica implica analizar, además de los algoritmos, el contexto social, económico y cultural del que forman parte y de acuerdo con la perspectiva de las personas a las que este afecta, directa o indirectamente. Por eso, Eticas Consulting está formado por una veintena de profesionales de disciplinas técnicas y humanistas, así como por una red internacional de colaboradores de múltiples especialidades.
En definitiva, se trata de hacer que esta tecnología sea más explicable, transparente, predecible y controlable por la ciudadanía, las instituciones públicas y también las empresas, ya sea antes del desarrollo del sistema, durante su desarrollo o a posteriori. La metodología para auditar algoritmos, sin embargo, no es sencilla ni está completamente definida todavía, lo cual supone un desafío. Lo que sumado al desconocimiento de gran parte de la sociedad y la opacidad de muchos de estos sistemas, hace imprescindible aportar claridad a las leyes aplicables a los sistemas algorítmicos y acercarlos a la ciudadanía. Por eso, en esta guía se incluyen desde las definiciones de los términos básicos y las consideraciones previas necesarias para su comprensión, hasta un contenido más especializado centrado en los principios rectores de la auditoría algorítmica, las fases y las recomendaciones para la mejora de los sistemas tras realizar la auditoría.