Las organizaciones utilizan cada vez más modelos de enseñanza obligatorio para asignar fortuna u oportunidades escasos. Por ejemplo, estos modelos pueden ayudar a las empresas a examinar los currículums para designar candidatos para entrevistas de trabajo o ayudar a los hospitales a clasificar a los pacientes con trasplante de riñón en función de su probabilidad de supervivencia.
Al implementar un maniquí, los usuarios normalmente se esfuerzan por avalar que sus predicciones sean justas reduciendo el sesgo. A menudo, esto implica técnicas como ajustar las características que utiliza un maniquí para tomar decisiones o calibrar las puntuaciones que genera.
Sin incautación, investigadores del MIT y la Universidad Northeastern sostienen que estos métodos de equidad no son suficientes para atracar las injusticias estructurales y las incertidumbres inherentes. en un papel nuevomuestran cómo aleatorizar las decisiones de un maniquí de forma estructurada puede mejorar la equidad en determinadas situaciones.
Por ejemplo, si varias empresas utilizan el mismo maniquí de enseñanza obligatorio para clasificar a los candidatos a una entrevista de trabajo de modo determinista (sin ningún tipo de aleatorización), entonces un individuo merecedor podría ser el candidato peor clasificado para cada puesto, tal vez oportuno a cómo el maniquí sopesa las respuestas proporcionadas en una pesquisa. formulario en raya. Introducir la aleatorización en las decisiones de un maniquí podría evitar que a una persona o conjunto digno siempre se le niegue un solicitud escaso, como una entrevista de trabajo.
A través de su investigación, los investigadores descubrieron que la aleatorización puede ser especialmente beneficiosa cuando las decisiones de un maniquí implican incertidumbre o cuando el mismo conjunto recibe constantemente decisiones negativas.
Presentan un situación que se podría utilizar para introducir una cantidad específica de aleatorización en las decisiones de un maniquí mediante la asignación de fortuna a través de una suerte ponderada. Este método, que un individuo puede adaptar a su situación, puede mejorar la equidad sin perjudicar la eficiencia o precisión de un maniquí.
“Incluso si se pudieran hacer predicciones justas, ¿deberían atreverse estas asignaciones sociales de fortuna u oportunidades escasos basándose estrictamente en puntuaciones o clasificaciones? A medida que las cosas escalan y vemos que estos algoritmos deciden cada vez más oportunidades, las incertidumbres inherentes a estas puntuaciones pueden amplificarse. Mostramos que la equidad puede requerir algún tipo de aleatorización”, afirma Shomik Jain, estudiante de posgrado en el Instituto de Datos, Sistemas y Sociedad (IDSS) y autor principal del artículo.
A Jain se unen en el artículo Kathleen Creel, profesora asistente de filosofía e informática en la Universidad Northeastern; y la autora principal Ashia Wilson, profesora de exposición profesional de Lister Brothers en el Área de Ingeniería Eléctrica e Informática e investigadora principal en el Laboratorio de Sistemas de Información y Audacia (LIDS). La investigación se presentará en la Conferencia Internacional sobre Estudios Obligatorio.
Considerando reclamaciones
Este trabajo se pedestal en un documento inicial en el que los investigadores exploraron los daños que pueden ocurrir cuando se utilizan sistemas deterministas a escalera. Descubrieron que el uso de un maniquí de enseñanza obligatorio para asignar fortuna de modo determinista puede amplificar las desigualdades que existen en los datos de entrenamiento, lo que puede aumentar el sesgo y la desigualdad sistémica.
«La aleatorización es un concepto muy útil en estadística y, para nuestro deleite, satisface las demandas de equidad que surgen tanto desde un punto de panorámica sistémico como individual», dice Wilson.
En este documentoexploraron la cuestión de cuándo la aleatorización puede mejorar la equidad. Enmarcaron su investigación en torno a las ideas del filósofo John Broome, quien escribió sobre el valencia de utilizar las loterías para otorgar fortuna escasos de una modo que respete todas las reclamaciones de los individuos.
El señuelo de una persona sobre un solicitud escaso, como un trasplante de riñón, puede surgir del mérito, el mérito o la penuria. Por ejemplo, todo el mundo tiene derecho a la vida y sus derechos sobre un trasplante de riñón pueden derivar de ese derecho, explica Wilson.
“Cuando se reconoce que las personas tienen diferentes derechos sobre estos fortuna escasos, la imparcialidad requerirá que respetemos todos los derechos de los individuos. Si siempre le damos el solicitud a algún con un señuelo más robusto, ¿es exacto? Jain dice.
Ese tipo de asignación determinista podría causar restricción sistémica o exacerbar la desigualdad patrón, que ocurre cuando acoger una asignación aumenta la probabilidad de que un individuo reciba asignaciones futuras. Encima, los modelos de enseñanza obligatorio pueden cometer errores y un enfoque determinista podría provocar que se repita el mismo error.
La aleatorización puede aventajar estos problemas, pero eso no significa que todas las decisiones que toma un maniquí deban ser aleatorizadas por igual.
Aleatorización estructurada
Los investigadores utilizan una suerte ponderada para ajustar el nivel de aleatorización en función de la cantidad de incertidumbre involucrada en la toma de decisiones del maniquí. Una osadía que sea menos segura debería incorporar más aleatorización.
“En la asignación de riñones, normalmente la planificación se pedestal en la esperanza de vida proyectada, y eso es profundamente incierto. Si dos pacientes tienen sólo cinco abriles de diferencia, resulta mucho más difícil medirlo. Queremos emplear ese nivel de incertidumbre para adaptar la aleatorización”, afirma Wilson.
Los investigadores utilizaron métodos de cuantificación de la incertidumbre estadística para determinar cuánta aleatorización se necesita en diferentes situaciones. Muestran que la aleatorización calibrada puede conducir a resultados más justos para los individuos sin afectar significativamente la utilidad o aptitud del maniquí.
«Se debe ganar un nivelación entre la utilidad universal y el respeto de los derechos de las personas que reciben un solicitud escaso, pero a menudo la compensación es relativamente pequeña», dice Wilson.
Sin incautación, los investigadores enfatizan que hay situaciones en las que las decisiones aleatorias no mejorarían la equidad y podrían dañar a las personas, como en contextos de imparcialidad penal.
Pero podría suceder otras áreas donde la aleatorización puede mejorar la equidad, como las admisiones universitarias, y los investigadores planean estudiar otros casos de uso en trabajos futuros. Incluso quieren explorar cómo la aleatorización puede afectar a otros factores, como la competencia o los precios, y cómo podría utilizarse para mejorar la solidez de los modelos de enseñanza obligatorio.
“Esperamos que nuestro artículo sea un primer paso para ilustrar que la aleatorización podría tener beneficios. Ofrecemos aleatorización como útil. Dependerá de todas las partes interesadas en la asignación atreverse cuánto querrá hacer. Y, por supuesto, cómo toman la osadía es otra cuestión de investigación”, dice Wilson.