Ética y Sesgos en la Inteligencia Artificial: Fundamentos de Redes Neuronales y Métricas de Equidad

Sesgos Algorítmicos y la Justicia de la Inteligencia Artificial

¿Qué es el Sesgo Algorítmico?

El sesgo algorítmico ocurre cuando los algoritmos reflejan o amplifican prejuicios presentes en los datos de entrenamiento, lo que puede llevar a decisiones injustas y discriminatorias.

Impacto en la Contratación Laboral

Este segmento aborda cómo la Inteligencia Artificial (IA) puede influir en decisiones críticas de la vida, como la contratación laboral, y cómo los sesgos en los datos pueden generar resultados discriminatorios.

Se mencionan ejemplos de sistemas que han rechazado automáticamente candidatos basándose en patrones discriminatorios heredados de datos históricos.

Ejemplo de Sesgo de Género en Contratación

Un programa de grandes empresas prefería seleccionar hombres en lugar de mujeres porque los datos previos mostraban que históricamente ellos ocupaban esos cargos. Este es un claro ejemplo de cómo la IA perpetúa patrones discriminatorios.

Soluciones y Contribución

Los expertos combaten activamente estos sesgos para construir un futuro más justo. Aunque los sesgos conducen a decisiones injustas, existen soluciones:

• Uso de datos más diversos y representativos.
• Implementación de regulaciones éticas rigurosas.
• Promoción de la transparencia en los algoritmos.

Cuantos más puntos de vista se incorporen, más equilibradas serán las decisiones. Todos podemos contribuir a esta causa a través de la transparencia y la vigilancia ética.

Estudio de Caso: Sesgo Racial en Restauración de Imágenes

Este segmento presenta una demostración sobre los sesgos en algoritmos de aprendizaje automático, enfocándose en cómo una aplicación puede afectar la percepción y el procesamiento de imágenes de rostros según el color de piel.

El proceso de carga y restauración de imágenes utiliza un algoritmo, destacando su capacidad para convertir imágenes borrosas o "pinceladas" en versiones más claras y similares a las originales.

Sin embargo, el vídeo ilustra un sesgo racial significativo: la restauración de imágenes de personas con piel oscura no se realiza correctamente. Esto sugiere que el algoritmo ha sido entrenado principalmente con imágenes de personas con piel clara, resultando en un rendimiento deficiente y discriminatorio para otros grupos.

Iniciativas de Investigación: DCC UChile

• Desarrollo de herramientas como WEFE (Word Embeddings Fairness Evaluation Framework) para evaluar el sesgo en modelos de lenguaje natural.
• Estudios enfocados en cómo corregir sesgos en algoritmos de toma de decisiones.

Fundamentos de la Inteligencia Artificial: Redes Neuronales

La Neurona como Unidad Básica de Procesamiento

Este segmento explora la importancia de las redes neuronales en la Inteligencia Artificial (IA), enfocándose en la neurona como la unidad básica de procesamiento. Se describe su funcionamiento interno, comparándolo con un modelo de regresión lineal y explicando cómo los pesos y un término adicional (el sesgo o bias) ajustan su salida.

Modelado de Decisiones y Lógica

Se ejemplifica cómo una neurona puede modelar decisiones binarias, como la planificación de una noche de viernes, evaluando variables de entrada y un umbral. Posteriormente, se introduce la idea de representar neuronas como puertas lógicas:

• Se destaca la necesidad de múltiples neuronas para resolver problemas más complejos, como el caso de la puerta XOR (O Exclusiva).
• Finalmente, se anticipa la función de activación, un componente clave en la estructura neuronal que permite la no linealidad.

Métricas de Evaluación de Modelos y Puertas Lógicas

Métricas de Rendimiento

Exactitud (Accuracy)

Mide la capacidad del modelo para predecir correctamente tanto los positivos (TP) como los negativos (TN). Fórmula: (TN + TP) / Todos

Precisión (Precision)

Mide la precisión de los valores positivos predichos. Fórmula: TP / (TP + FP)

Recall (Sensibilidad)

Mide la tasa de verdaderos positivos predichos. Fórmula: TP / (TP + FN)

F1 Score

Mide la bondad general del modelo, siendo la media armónica de Precisión y Recall. Fórmula: 2 * (Precisión * Recall) / (Precisión + Recall)

Puertas Lógicas Fundamentales

• AND (Y Lógica): Representa la multiplicación lógica. El resultado es 1 solo si todas las entradas son 1.
• OR (O Lógica): El resultado es 1 si al menos una entrada es 1.
• XOR (O Exclusiva): El resultado es 1 solo cuando las entradas son diferentes.