Este es el repositorio de la herramienta de sesgos y equidad desarrollada por el equipo del proyecto de algoritmos éticos responsables del GobLab en la Universidad Adolfo Ibáñez.
Esta herramienta puede ser usada por cualquier persona de TI que desee analizar sesgos y equidad en un proceso de inteligencia artificial. La herramienta permite cargar datos del dataset y la salida del modelo, y luego analizar los sesgos y la equidad del modelo. La herramienta permite analizar sesgos en diferentes grupos de datos, y también permite analizar la equidad del modelo en base a diferentes métricas de equidad.
Para instalar la herramienta, se debe clonar el repositorio y luego instalar las dependencias necesarias. Para clonar el repositorio, se debe ejecutar el siguiente comando:
git clone https://github.com/GobLab-UAI/Herramienta_de_sesgos_y_equidad.git
Luego, se debe crear un ambiente virtual en python e instalar las dependencias necesarias. Para ello, se debe ejecutar el siguiente comando:
cd Herramienta_de_sesgos_y_equidad
python -m venv .venv
source .venv/bin/activate
pip install -r requirements.txtFinalmente, se debe ejecutar el siguiente comando para iniciar la herramienta:
streamlit run app.pyNote
Esta herramienta no almacena ni comparte tus datos, ya que todo el procesamiento se realiza en tu computadora y no se envía a ningún servidor externo.
Para usar la herramienta, se debe cargar un archivo de datos y un archivo de salida del modelo. Luego, se debe seleccionar las columnas de datos y la columna de predicciones. Finalmente, se debe seleccionar las columnas de grupos y las métricas de equidad que se desean analizar.
Se pueden cargar archivos .csv o .xlsx con los datos y las predicciones del modelo. Para cargar los datos, se debe hacer clic en el botón Cargar datos y seleccionar el archivo con los datos. Luego debe escribir el nombre de la hoja que quiere cargar y como desea tratar los datos faltantes.
Los datos que se cargan deben tener la siguiente estructura:
| Columna 1 | Columna 2 | ... | Real | Predicciones |
|---|---|---|---|---|
| Valor 1 | Valor 2 | ... | 1 | 1 |
| Valor 1 | Valor 2 | ... | 0 | 1 |
En este paso se puede realizar la selección de algunas columnas del conjunto de datos a revisar.
En este paso se puede realizar la selección de los grupos a revisar y ver la distribución de las categorías.
Finalmente, en este paso se seleccionan las categorías de referencia y se entrengan las métricas de equidad.
La herramienta de medición de sesgos y equidad estadística es un recurso diseñado para evaluar el desempeño de los modelos de ciencia de datos e IA en términos de equidad. La herramienta pretende asistir en la identificación de sesgos potenciales, pero no asegura el correcto funcionamiento o eficacia de los sistemas evaluados con ella. La herramienta está diseñada como un soporte para quienes deben tomar decisiones respecto del desempeño de los modelos, con el fin de fomentar prácticas más justas y equitativas en la ciencia de datos.
La Universidad Adolfo Ibáñez (UAI) no es responsable de ningún tipo de daño directo, indirecto, incidental, especial o consecuente, ni de pérdidas de beneficios que puedan surgir directa o indirectamente de la aplicación de la herramienta, en el uso o la confianza en los resultados obtenidos a través de ésta.
El empleo de las herramientas desarrolladas por la Universidad no implica ni constituye un sello ni certificado de aprobación por parte de esta, respecto al cumplimiento, legal, ético o funcional de un algoritmo de inteligencia artificial.
Aquellos interesados en ser considerados como un caso de éxito mediante el uso de estas herramientas de IA responsable deben inscribirse en los pilotos a través del formulario https://algoritmospublicos.cl/quiero_participar. Es importante destacar que el uso de nuestras.
ANID, Subdirección de Investigación Aplicada/Concurso IDeA I+D 2023 proyecto ID23I10357