Resumen
Un estudio reciente de la Escuela de Derecho de Stanford, liderado por el profesor Julian Nyarko, examina los sesgos raciales en los Modelos de Lenguaje Grande (LLMs) y propone un enfoque novedoso para identificarlos y mitigarlos. La investigación demuestra que los sesgos pueden ser 'podados' mediante la eliminación selectiva de unidades computacionales específicas, sin comprometer la utilidad general del modelo. Sin embargo, los investigadores encontraron que las estrategias de mitigación de sesgos son altamente específicas del contexto y no pueden aplicarse universalmente. El estudio concluye que sería más efectivo desde una perspectiva legal y política responsabilizar a las empresas que despliegan los modelos en casos de uso particulares, como minoristas en línea, en lugar de responsabilizar únicamente a los desarrolladores de modelos como OpenAI o Google. La investigación se basa en estudios previos que demuestran que los LLMs exhiben sesgos raciales que refuerzan estereotipos y producen resultados sistemáticamente diferentes basados en marcadores raciales.