GENDER BIAS IN ARTIFICIAL INTELLIGENCE: A CRITICAL PERSPECTIVE AND LEGAL ANALYSIS
Article Sidebar
Main Article Content
Abstract
Artificial Intelligence (AI) is transforming key industries like employment, healthcare, and criminal justice, but it also introduces significant ethical and legal challenges, particularly regarding gender bias. AI systems, often trained on biased historical data, can perpetuate and even amplify existing gender inequalities. This essay examines the legal implications of gender bias in AI, focusing on challenges to anti-discrimination laws, transparency issues, and the need for regulatory oversight. Gender bias in AI arises when systems are trained on datasets that reflect societal inequalities, leading to discriminatory outcomes. This bias is not a technical flaw, but rather a consequence of using data and algorithms that mirror patterns of discrimination. The lack of diversity among AI developers, who are predominantly male, exacerbates this issue by failing to account for the perspectives and needs of women and marginalized groups.
In legal contexts, the use of AI in hiring, criminal justice, and risk assessment raises ethical concerns. AI-driven systems risk reinforcing historical gender biases, which can undermine fairness in decision-making processes. Unchecked, these biases could worsen disparities in critical areas such as recruitment and justice administration, threatening legal protections. A major legal challenge is how AI interacts with existing anti-discrimination laws. To address these challenges, transparency in AI decision-making is essential. Regulatory frameworks must evolve to require regular audits of AI systems and enforce accountability for biased outcomes. Ethical guidelines are insufficient; mandatory legal oversight is needed to ensure AI promotes fairness and inclusivity.
Article Details
Citas en Dimensions Service
References
Buolamwini, Joy y Timnit Gebru, “Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification”, en Proceedings of the 1st Conference on Fairness, Accountability, and Transparency (PMLR), 2018 [en línea], <https://proceedings.mlr.press/v81/buolamwini18a/buolamwini18a.pdf>.
Dastin, Jeffrey, “Amazon Scraps Secret AI Recruiting Tool That Showed Bias Against Women”, en Reuters, 10 de octubre, 2018 [en línea], <https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G>.
Eubanks, Virginia, Automating Inequality: How High-Tech Tools Profile, Police, and Punish the Poo, [s.d.], St. Martin’s Press, 2018.
European Commission, Ethics Guidelines for Trustworthy AI, 2020 [en línea], <https://ec.europa.eu/futurium/en/ai-alliance-consultation>.
Haraway, Donna, “Situated Knowledges: The Science Question in Feminism and the Privilege of Partial Perspective”, en Feminist Studies, EUA, vol. 14, núm. 3, 1988.
Harding, Sandra, Whose Science? Whose Knowledge? Thinking from Women’s Lives, [s.d.], Cornell University Press, 1991.
Intersoft Consulting, General Data Protection Regulation (GDPR), Art. 22 GDPR, Automated Individual Decision-Making, Including Profiling, 2024 [en línea], <https://gdpr-info.eu/art-22-gdpr>.
Noble, Safiya Umoja, Algorithms of Oppression: How Search Engines Reinforce Racism, [s.d.], New York University Press, 2018.
U.S. Department of Labor, Equal Pay Act of 1963, 2024 [en línea], <https://www.dol.gov/agencies/wb/equal-pay-act>.
U.S. Equal Employment Opportunity Commission (EEOC), Title VII of the Civil Rights Act of 1964, 2024 [en línea], <https://www.eeoc.gov/statutes/title-vii-civil-rights-act-1964>.
Wachter, Sandra, Brent Mittelstadt y Luciano Floridi, “Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation”, en International Data Privacy Law, Oxford University Press, vol. 7, núm. 2, mayo, 2017 [en línea], <https://doi.org/10.1093/idpl/ipx005>.
Wachter-Boettcher, Sara, Technically Wrong: Sexist Apps, Biased Algorithms, and Other Threats of Toxic Tech, [s.d.], W.W. Norton & Company, 2017.
Licencia de uso de textos y materiales para la Revista Jurídica “Amicus Curiae” de la Facultad de Derecho de la Universidad Nacional Autónoma de México
En este acto otorgo de manera irrevocable una licencia de uso del artículo que suscribo, el cual es de mi única y exclusiva autoría, para que sea utilizado de acuerdo al objeto de Amicus Curiae de la Facultad de Derecho de la UNAM y para los fines descritos en esta carta.
A su vez autorizo a Amicus Curiae de la Facultad de Derecho de la UNAM realice la digitalización, reproducción sin fin de lucro y divulgación en cualquiera de sus modalidades de la obra antes señalada.
Manifiesto que soy titular de derechos patrimoniales de la obra en cuestión y que es material original de mi autoría y que cuento con las facultades necesarias para otorgar esta licencia de uso así como para responder ante terceros de la autorización otorgada.
Declaro estar de acuerdo en que esta obra se utilice en la edición electrónica la Revista Jurídica “Amicus Curiae” de la Facultad de Derecho de la UNAM, por lo que conozco que será distribuido de manera libre en Internet a través del sistema Open Journals de la UNAM, con fines educativos y no lucrativos como material suplementario de las actividades académicas, deportivas, etcétera, de la Facultad de Derecho de la UNAM.
Debiendo en cualquier momento quien utilice el material, hacerlo únicamente en la forma aquí estipulada y dar crédito de mi autoría mediante inscripción de mi nombre en toda transmisión y reproducción que haga del material por cualquier medio.
De igual manera, es mi deseo establecer que dicha autorización sobre la mencionada obra es voluntaria y que de acuerdo a lo señalado en la Ley Federal del Derecho de Autor, la Revista Jurídica “Amicus Curiae” y/o la Facultad de Derecho de la UNAM cuenta con mi consentimiento para la fijación de la misma en proyecciones, videos, gráficas, textos, filminas y todo el material suplementario de consulta y estudio relacionados con las actividades descritas, estableciendo que se utilizará única y exclusivamente para los fines antes señalados durante los siguientes 15 años (quince años) a partir de la fecha de envío de este documento.
Autorizo