Ciudadanía Digital Crítica

 1. ¿Qué es?

La Inteligencia Artificial es un conjunto de sistemas informáticos que aprenden de datos para

imitar habilidades humanas como razonar, predecir y tomar decisiones. El sesgo en la IA ocurre

cuando esos sistemas reproducen prejuicios o errores presentes en los datos de entrenamiento.

2. ¿Por qué es importante?

• Porque la IA ya decide desde diagnósticos médicos hasta concesión de créditos.

• Porque, sin control, refuerza injusticias sociales y estereotipos históricos.

• Porque corregir sus sesgos es esencial para garantizar decisiones fiables y equitativas.

3. Riesgos o problemas identificados:

1. Límites de crédito desiguales

Descripción: El sistema de la Apple Card asignó montos de crédito muy inferiores a mujeres pese a

historiales similares.

Fuente y fecha: Informe sobre Apple Card en The New York Times (abril 2025).

2. Imágenes estereotipadas en generación de contenido

Descripción: Un chatbot de IA (Grok) produjo imágenes de “peluquera” solo con mujeres y de

“taxista” solo con hombres.

Fuente y fecha: ArVculo de Maldita.es (marzo 2025).

3. Deepfakes y ciberacoso

Descripción: Uso de IA para crear vídeos o perfiles falsos con fines de acoso sexual, especialmente

contra menores.

Fuente y fecha: Reportaje de INCIBE sobre amenazas digitales (2024).

4. ¿Cómo podemos actuar crí,camente?:

Auditar y equilibrar datos

Revisar que los conjuntos de datos incluyan grupos diversos; aplicar sobremuestreo o corrección

de desbalances antes de entrenar el modelo.

Aplicar métricas de equidad

Evaluar el sistema con indicadores como paridad demográfica o igualdad de oportunidades y

ajustar el algoritmo si detecta desigualdades.

Implementar supervisión humana

Establecer revisiones periódicas de decisiones críticas por expertos antes de su aplicación

definitiva, para detectar y corregir sesgos a tiempo 

1. Herramienta elegida:

Canva (por su facilidad de uso, plantillas limpias y acceso a recursos libres de uso).

2. Estructura de la propuesta

Introducción:

La Inteligencia Artificial (IA) es un conjunto de sistemas que aprenden de datos para imitar

habilidades humanas. Sin embargo, puede reproducir sesgos si aprende de datos injustos.

Datos y referencias:

The New York Times, abril 2025 – Caso de Apple Card y sesgo de género.

Maldita.es, marzo 2025 – Estereo.pos de género en generación de imágenes (IA Grok).

INCIBE, 2024 – Deepfakes y ciberacoso.

Análisis crítico:

La IA puede amplificar injusticias sociales.

No es neutral si sus datos de entrenamiento no lo son.

Puede influir en decisiones importantes: créditos, empleos, diagnósticos.Propuestas éticas y ecosociales:

Auditar los datos: que incluyan diversidad.

Usar métricas de equidad (como paridad demográfica).

Mantener supervisión humana constante.

Promover un desarrollo tecnológico justo y sostenible.

Impacto en Canarias:

La IA puede mejorar servicios en islas remotas: salud, transporte, educación.

Pero también puede ampliar desigualdades digitales si no se aplica con justicia territorial.

Es clave garantizar el acceso a tecnologías justas y sostenibles en todo el archipiélago