Barcelona, 15 diciembre de 2024.- La directora general adjunta para el área de Ciencias Sociales y Humanas de la UNESCO, la mexicana Gabriela Ramos, llamó la atención sobre que la Inteligencia Artificial (IA) no puede programarse únicamente por hombres blancos porque existirán «sesgos» machistas y racistas en la construcción del mundo digital del futuro.
En una entrevista con EFE, en el marco del IV Foro Global contra el Racismo y la Discriminación celebrado esta semana en Barcelona, Ramos se mostró a favor de promover un desarrollo de la IA «inclusivo», pues el universo digital ya está reproduciendo elementos racistas y sin perspectiva de género porque «la mayoría de los que programan en las tecnológicas son hombres y son blancos».
«El ‘machine learning’ de la IA parte de patrones y entrenamiento. Ahí hay una oportunidad de construir sin sesgos», añadió Ramos, quien recordó que implementar la ética en las plataformas y la IA es uno de los principales mandatos de la UNESCO en el presente.
La mexicana defendió la necesidad de que las administraciones establezcan marcos de gobernanza sólidos y que las administraciones públicas no caigan en la trampa de pensar que ante el poder omnipresente de las tecnologías no es posible controlar nada.
Puso de ejemplo a Australia y su ley pionera que pone límites de edad obligatorios para que las redes sociales no puedan abrir cuentas a menores de 16 años. «Había quien antes de esto pensaba: ¿cómo prohibir eso? Pues tomando decisiones efectivas de política pública que en contextos democráticos deben acatarse. Debemos trasladar el Estado de Derecho a las nuevas tecnologías», señaló.
En ese sentido, destacó que debe reclamarse a las plataformas «responsabilidad» de sus propios productos: «Si algo tiene consecuencias legales en el mundo analógico, también debe tenerlas en el mundo digital».
Otro de los asuntos que más «preocupan» a Gabriela Ramos son los «excesos» que se dan en la contratación de moderación de contenidos de las plataformas, que en los últimos tiempos han empleado a trabajadores africanos para cribar imágenes violentas por escasa remuneración.
«Es una de las cosas que más me sorprende, que se estén usando trabajadores ‘fantasma’ desde África para hacer una moderación de contenido que les expone durante horas a imágenes terribles. Es un escándalo y deben reconocérseles sus derechos laborales y ofrecerles apoyo psicológico», dijo.
Ramos afirmó que los avances tecnológicos de la IA deberían justamente usarse para evitar estos abusos, y «que la inteligencia artificial se regule a sí misma».
Más allá de colaborar con gobiernos y otras instituciones, la UNESCO tiene abiertas las puertas a la sociedad civil y al mundo privado para colaborar contra el racismo y los «crecientes» delitos de odio, especialmente en redes sociales.
En la ‘Alianza Global’ impulsada en el foro celebrado en Barcelona se incluyó el compromiso de «fomentar la concienciación y el desarrollo de competencias a través de la formación y la educación en todos los sectores con el fin de desmantelar los vestigios de prejuicios, sesgos y racismo».
En particular, se promoverán una serie de ‘Clases Magistrales de la UNESCO contra el Racismo y las Discriminaciones’ con herramientas pedagógicas.
Lara Malvesí
EFE