Generalmente nos preocupamos por los sesgos de la IA, y no nos damos cuenta de nuestros propios sesgos culturales y sociales como parte constitutiva de una estructura de exclusión. Cada vez que analizamos la automatización de procesos sin tener en cuenta sus consecuencias y las opciones disponibles para los sectores marginados, reproducimos ese sesgo. Es como que naturalmente los análisis se preocupan solo por el trabajador. Es allí donde la sociedad tiene un sesgo: no otorgar un estatus socialmente digno a quienes no trabajan.
“Se dirá que el desempleo masivo constituye un problema fundamentalmente económico y político, no psicológico. Es posible; pero también el trabajo lo es. Y así como la Psicología se ha esforzado en buscar la mejor forma de adaptar laboralmente el hombre al puesto y la máquina al hombre, de aumentar su eficiencia e incrementar su satisfacción, y ello en respuesta a las exigencias económicas y políticas del sistema, bien podría ocuparse del desempleado a fin de examinar qué hacer psicosocialmente para que no se desintegre su personalidad o para que su vida y aun la vida de comunidades enteras no transcurra sin más horizonte ni proyecto que el de la mera supervivencia cotidiana.” Ignacio Martín Baró, Psicología de la liberación.
El Estado argentino impulsó, para su uso interno en la Administración Pública, las Recomendaciones para una Inteligencia Artificial Fiable, aprobadas en 2023 por la Subsecretaría de Tecnologías de la Información. El documento busca proporcionar criterios y herramientas para desarrollar e implementar sistemas de IA de manera responsable, centrada en las personas, los derechos humanos, la inclusión, la transparencia y la prevención de sesgos y riesgos.
Las “Recomendaciones para una Inteligencia Artificial Fiable” no constituyen una ley ni establecen, en términos generales, obligaciones sancionables para toda la Administración Pública. Son un instrumento administrativo aprobado por la Disposición 2/2023 de la Subsecretaría de Tecnologías de la Información, destinado a proporcionar criterios y herramientas para orientar los proyectos públicos que incorporen inteligencia artificial. Publicamos algunas citas de este documento para su posterior análisis.
“Es importante definir que este modelo de adopción, como cualquier otro, no se basa simplemente en la incorporación, configuración y puesta en marcha de una nueva tecnología, debe contemplar también otros aspectos organizacionales, entre los cuales se encuentra uno fundamental y decisivo: la capacitación y reubicación de las personas cuyas tareas serán automatizadas, estos aspectos deben estar abordados en una planificación anterior al inicio de la automatización de procesos.” Subsecretaría de Tecnologías de la Información. (2023, 1 de junio). Recomendaciones para una inteligencia artificial fiable (Anexo I de la Disposición 2/2023, apartado 3.2.4). Jefatura de Gabinete de Ministros, República Argentina.
“g. El relevamiento y comprensión respecto de los diversos perfiles de personas destinatarias ya sea toda la ciudadanía o parte de ella (contribuyentes, empleados públicos, beneficiarios de seguridad social, estudiantes, pacientes, etc.). Esto incluye, los aspectos que eventualmente podrían dar lugar a distintos sesgos. Se recomienda asimismo que cada uno de estos perfiles estén representados por al menos una persona.” Subsecretaría de Tecnologías de la Información. (2023). Recomendaciones para una inteligencia artificial fiable (Anexo I de la Disposición 2/2023). Jefatura de Gabinete de Ministros, República Argentina, apartado 3.3.1, inciso g.
“Para probar los modelos se invitará al menos a una persona de cada perfil definido para que el equipo de trabajo pueda observar cómo se utiliza el modelo y aprovechar esa interacción para verificar distintos aspectos éticos del diseño” Subsecretaría de Tecnologías de la Información. (2023, 1 de junio). Recomendaciones para una inteligencia artificial fiable (Anexo I, apartado 3.3, Etapa N.º 2: Verificación/Validación, Disposición 2/2023). Jefatura de Gabinete de Ministros, República Argentina.
En Argentina se presentó un proyecto de ley para incorporar al régimen societario nuevas formas de organización basadas en tecnologías digitales, como las DAO (Organizaciones Autónomas Descentralizadas) y las sociedades capaces de funcionar mediante algoritmos o inteligencia artificial. La propuesta busca reconocer jurídicamente estas organizaciones y establecer reglas sobre su funcionamiento y responsabilidad. Sin embargo, la incorporación de estas figuras abre cuestiones que requieren ser examinadas críticamente, entre ellas qué grado de autonomía puede tener una organización respecto de las personas, quién responde efectivamente por sus decisiones y cómo se protegen quienes puedan verse afectados por sistemas automatizados. Más que cuestiones necesariamente resueltas por el proyecto, son problemas que el nuevo modelo de organización obliga a discutir. En este artículo desarrollaré el análisis desde la situación de las personas que pueden quedar excluidas del acceso al trabajo.
“ARTÍCULO 18.- Definición. Se denomina Sociedad Automatizada a aquella cuya operación ordinaria se ejecuta total o parcialmente mediante algoritmos o sistemas de inteligencia artificial, sin requerir empleados humanos para sus tareas cotidianas. La Sociedad Automatizada tiene personalidad jurídica plena y responsabilidad limitada, sujeta a las condiciones de esta ley.” Pagano, M. M. (2026). Régimen de modernización societaria, jurisdicción ágil y responsabilidad humana (SIMOSO) (Proyecto de Ley 2665-D-2026). Honorable Cámara de Diputados de la Nación Argentina.
Toda organización social tiene una relación directa con la sociedad en su conjunto, cada vez que puede ejercer acciones que generen consecuencias hacia el exterior, tanto por medio de acciones individuales de sus integrantes como en forma conjunta. A su vez, puede conformar y regular, en parte o en su totalidad, las estructuras sociales. Por ende, sus integrantes y la propia organización tienen una relación con el conjunto de la sociedad y, por ello, una responsabilidad social y comunitaria. Tienen un fin social inevitable.
Toda organización gubernamental, empresa, compañía, fábrica, pyme y persona individual se nutren y son parte activa de una comunidad. Tienen una responsabilidad comunitaria. El trabajo y el bienestar de las personas que desarrollan su vida en dicha comunidad constituyen un componente fundamental de esa responsabilidad fundamental de esa responsabilidad, y tienen derecho a una vida digna. Por consiguiente, la automatización de un sistema no solo condiciona a los trabajadores internos afectados por este sistema, sino también a la sociedad toda. En especial, a aquellos que se encuentran en los márgenes, es decir, quienes no tienen acceso a un trabajo digno, y que, como cualquier persona, requieren un sustento que les permita desarrollar sus vidas. Dicho sustento, en la realidad en que vivimos, y no en una realidad utópica, depende en gran medida del trabajo.
Plantear que solo se debe analizar y prever los daños ocasionados sobre las vidas de los trabajadores activos implica aplicar un sesgo propio de un dualismo exclusivista, basado en la idea de que quienes integran la organización tienen derechos humanos, y el resto no. Podemos referenciarlo a la típica interpretación dominante de que quienes “son” existen, y quienes “no son” son imperceptibles, invisibles y no son considerados plenamente como humanos.
Quienes hemos entrelazado relaciones de afecto, cotidianeidad y hermandad con grupos relegados, y especialmente a través de experiencias compartidas con ellos, comprendemos la fragilidad de los amigos y amigas en desventaja. La falta de opciones en la sociedad, cuando el empresariado y las organizaciones con el fin de obtener beneficios económicos diseñan, producen, distribuyen o prestan servicios basándose en automatismos de cualquier tipo, puede restringir las posibilidades de vida de quienes quedan fuera de esas estructuras. Especialmente, cuando la automatización se orienta exclusivamente a la reducción del llamado costo laboral y a la sustitución de relaciones humanas.
Si el análisis de la automatización se limita a estudiar qué ocurre con los trabajadores que actualmente ocupan los puestos que serán automatizados, deja fuera a quienes esperan ingresar al mercado de trabajo. La reducción de puestos disponibles no afecta solamente a quien pierde un empleo: también modifica las posibilidades de las personas que todavía no pudieron acceder a él.
Fuentes:
Martín-Baró, Ignacio. “La liberación como horizonte de la psicología”. En Psicología de la liberación. Madrid: Trotta, 1998.
Dussel, Enrique. Filosofía de la liberación. Buenos Aires: Ediciones La Aurora, 1985, § 2.4.4, “Interpelación del otro”.
Subsecretaría de Tecnologías de la Información. Recomendaciones para una Inteligencia Artificial Fiable. Anexo I de la Disposición 2/2023. Jefatura de Gabinete de Ministros, República Argentina, 2023.
Pagano, M. M. Régimen de modernización societaria, jurisdicción ágil y responsabilidad humana (SIMOSO). Proyecto de Ley 2665-D-2026, Honorable Cámara de Diputados de la Nación Argentina, 2026. Documento original del proyecto.
Sé el primero en comentar