En un mundo cada vez más rápido y digitalizado, la Inteligencia Artificial (IA) se ha convertido en una herramienta poderosa para la comunicación, la información y la toma de decisiones. Sin embargo, su impacto en la inclusión social sigue siendo un tema de debate. Mientras algunos expertos advierten sobre los riesgos de perpetuar sesgos y desigualdades, otros ven en la IA una oportunidad para dar visibilidad a narrativas de grupos tradicionalmente excluidos, desafiando prejuicios y promoviendo la igualdad.
IA y la representación de grupos marginados
Históricamente, los grupos marginados han encontrado barreras para acceder a espacios de expresión y participación pública. La IA, diseñada con un enfoque inclusivo, podría ofrecer herramientas para amplificar sus voces.
En su informe sobre inteligencia artificial y los derechos de las personas con discapacidad, Gerard Quinn, quien fuera Relator Especial de las Naciones Unidas en esta materia, destaca el potencial de la IA para fomentar la inclusión. Estas tecnologías pueden responder a necesidades específicas y ampliar la autonomía de las personas con discapacidad.
Al potenciar las herramientas de asistencia, la IA puede contribuir a mejorar la movilidad personal, por ejemplo, facilitando la identificación de rutas accesibles. También puede posibilitar la comunicación mediante el uso de software de seguimiento ocular y reconocimiento de voz, lo que amplía el acceso a la información y la educación.
Entre los múltiples beneficios de la IA, se encuentran los asistentes digitales, la conversión de voz a texto, los subtítulos automáticos en videos, las descripciones de imágenes generadas por IA, los avatares en lengua de señas, las prótesis avanzadas y hasta soluciones para la salud mental.
Por ejemplo, empresas como Microsoft han desarrollado tecnologías que describen imágenes y traducen texto a voz, lo que representa un avance significativo en la inclusión digital.
No obstante, junto con estas oportunidades, la IA también plantea desafíos. Aunque muchas herramientas simplifican la vida cotidiana, otras pueden reforzar prejuicios y generar nuevas barreras para las personas con discapacidad.
Desafiando los prejuicios con IA
A pesar de sus beneficios, la IA también enfrenta críticas por la reproducción de prejuicios sistémicos. Los algoritmos de reconocimiento facial han sido cuestionados por su falta de precisión en personas racializadas, lo que evidencia la necesidad de bases de datos más diversas y entrenamientos con enfoques éticos.
Para contrarrestar este problema, iniciativas como la de la investigadora Joy Buolamwini han demostrado la importancia de un desarrollo de IA consciente de la diversidad. Su trabajo en elAlgorithmic Justice League ha impulsado cambios en empresas tecnológicas para reducir la discriminación en los modelos de IA y fomentar la equidad en su implementación.
En el contexto latinoamericano, algunas organizaciones han promovido el uso de IA para combatir la desinformación y el discurso de odio contra comunidades vulnerables. También, plataformas como AI for Latinas buscan apoyar a mujeres latinoamericanas en la tecnología, asegurando que las soluciones digitales reflejen una mayor diversidad de perspectivas.
Promoviendo la igualdad a través de la IA
Hasta hace no mucho tiempo, cuando los sistemas de IA estaban dirigidos a resolver problemas sociales, estos eran generalmente de carácter punitivo: predictores de riesgos, de delitos o de fraudes. Poco a poco, surgen sistemas que tienen podrían ser utilizados con fines constructivos, como la rehabilitación o reducción de desigualdades.
Por ejemplo, asistentes virtuales basados en IA facilitan la comunicación para personas con discapacidades del habla, mientras que sistemas de reconocimiento de voz permiten a personas con movilidad reducida controlar dispositivos electrónicos mediante comandos verbales.
Además, aplicaciones que emplean IA pueden describir entornos y objetos para personas con discapacidad visual, brindándoles mayor autonomía en su vida diaria. El impacto de estas tecnologías reside en cómo se integran en la vida diaria. En el ámbito educativo, dispositivos como teclados adaptados y software especializado permiten a las y los estudiantes con discapacidad acceder al conocimiento.
En el entorno laboral, ajustes razonables basados en tecnología han permitido que personas con discapacidad accedan a más y mejores oportunidades, promoviendo su autonomía y participación activa. Sin embargo, pese a los avances, persisten desafíos importantes que limitan el acceso a estas tecnologías.
Según la Organización Mundial de la Salud (OMS), entre el 5% y el 15% de las personas que necesitan tecnologías asistenciales tienen acceso a ellas en países de ingresos bajos y medianos. Esta desigualdad en el acceso está influido principalmente por factores económicos, geográficos y educativos.
En México, la Ley General para la Inclusión de las Personas con Discapacidad señala que el acceso a tecnologías accesibles debería ser un derecho garantizado.
Asimismo, la inteligencia artificial podría contribuir a la generación de oportunidades económicas y educativas en comunidades marginadas.
En el ámbito del periodismo y la información, medios independientes han comenzado a usar IA para traducir y difundir noticias en idiomas indígenas, garantizando que más personas puedan acceder a información en su lengua materna. Esto no solo refuerza el derecho a la información, sino que también contribuye a la conservación de culturas y tradiciones que a menudo son ignoradas en los medios convencionales.
Si bien la IA ofrece oportunidades para la inclusión, su implementación debe ser monitoreada de cerca para evitar que refuerce desigualdades. La transparencia en el desarrollo de algoritmos y la participación de comunidades diversas en su diseño son fundamentales para garantizar que estas tecnologías sirvan a todos.
En ese caso, los algoritmos sesgados pueden generar discriminación hacia personas con discapacidad, un grupo que ya enfrenta vulnerabilidad. En los procesos de contratación, la inteligencia artificial podría excluir a ciertos candidatos debido a dificultades para interpretar distintas formas de comunicación o lenguaje corporal. Estas tecnologías se basan en patrones de comportamiento predefinidos, lo que limita su capacidad para adaptarse a la diversidad humana.
Como menciona el Organismo Belga de Igualdad UNIA, los sistemas de IA pueden tomar decisiones que impliquen discriminación interseccional basada en una combinación de diferentes características protegidas, como género, raza, edad, orientación sexual, etnia o discapacidad. La interacción de distintos criterios de discriminación puede hacer que alguien sea más vulnerable que otros en el mismo contexto. Además, las herramientas de IA no son transparentes sobre qué características son las más importantes en la toma de decisiones. Esto sumado a la censura que parecen presentar
En América Latina, la regulación de la IA sigue siendo un reto. Es necesario que gobiernos, academia y sociedad civil trabajen conjuntamente para desarrollar marcos éticos que guíen el uso de estas tecnologías hacia la inclusión y la equidad.
La inteligencia artificial tiene el potencial de convertirse en una herramienta poderosa para amplificar las voces de grupos marginados, pero esto solo será posible si su desarrollo se lleva a cabo con un enfoque centrado en la justicia social. La clave está en garantizar que la tecnología no solo sea accesible, sino que también refleje y respete la diversidad de quienes la utilizan.
Referencia: