Saludo en la cumbre de IA ante la preocupación por el sesgo (Foto: Instagram)
Durante el encuentro, el presidente expresó su profunda preocupación por los riesgos que plantea la inteligencia artificial (IA) para niñas y mujeres. Esta advertencia subraya la importancia de examinar con detenimiento cómo las nuevas tecnologías pueden agravar desigualdades preexistentes y generar amenazas específicas contra los derechos y la seguridad de este colectivo.
La inteligencia artificial engloba un conjunto de técnicas de computación que permiten a las máquinas realizar tareas que hasta hace poco se consideraban exclusivas de la capacidad humana, como el reconocimiento de voz, la identificación de imágenes o la toma de decisiones automatizadas basadas en grandes volúmenes de datos. El desarrollo acelerado de estas herramientas en las últimas décadas ha dado lugar a avances notables, pero también ha suscitado interrogantes sobre su aplicación en ámbitos sensibles.
Uno de los principales desafíos que destacó el presidente se refiere al sesgo algorítmico. Cuando los sistemas de IA se entrenan con conjuntos de datos desequilibrados o contaminados por estereotipos, pueden reproducir y amplificar prejuicios de género. Entre sus posibles consecuencias, las niñas y las mujeres podrían sufrir discriminación en procesos de selección de personal, acceso a servicios financieros o sistemas de reconocimiento facial que presentan tasas de error más elevadas para rostros femeninos, especialmente de niñas o mujeres de determinadas procedencias.
Además, la inclusión de la IA en plataformas de comunicación y redes sociales ha abierto la puerta al acoso digital y a la difusión de contenidos dañinos. El presidente destacó cómo las herramientas automatizadas pueden facilitar la propagación de mensajes de odio, la creación de “deepfakes” o la vulneración de la privacidad mediante sistemas de vigilancia inteligente. Estos usos malintencionados incrementan la vulnerabilidad de las niñas y las mujeres, que ya afrontan mayores niveles de violencia en entornos online.
El desarrollo de aplicaciones biométricas e interfaces basadas en IA plantea también retos en materia de protección de datos personales. El presidente insistió en la necesidad de asegurar que la recopilación y el tratamiento de información sensible respeten los estándares de seguridad y se rijan por principios de transparencia, minimización y consentimiento informado, con especial énfasis en colectivos vulnerables.
Para abordar estas preocupaciones, el presidente abogó por reforzar la colaboración entre administraciones públicas, sector privado y sociedad civil. La elaboración de marcos regulatorios sólidos, la inversión en auditorías independientes de sistemas de IA y el impulso de programas de formación en igualdad y ética tecnológica figuran entre las medidas sugeridas. Asimismo, se recomendó promover la participación activa de niñas y mujeres en las disciplinas STEM (ciencia, tecnología, ingeniería y matemáticas) para equilibrar perspectivas y enriquecer el diseño de algoritmos.
En última instancia, el presidente subrayó que la inteligencia artificial, pese a sus enormes beneficios potenciales, debe implementarse con cautela y responsabilidad. Solo así será posible prevenir los riesgos que afectan en mayor medida a niñas y mujeres, garantizando que el progreso tecnológico avance de forma inclusiva y respetuosa con los derechos de todos los ciudadanos.
