Cuando un algoritmo decide: ¿por qué algunos consumidores prefieren que los evalúe una persona?

Solicitar un crédito, un seguro, una vivienda o un lugar en un programa implica someter información personal a una evaluación. Los algoritmos participan cada vez más en estos procesos porque permiten analizar grandes volúmenes de datos con rapidez y criterios consistentes.

La reacción del solicitante cambia según la fortaleza que atribuye a su propio caso. Un estudio publicado en Journal of Consumer Research encontró que las personas que perciben su solicitud como débil muestran menor apertura a la evaluación algorítmica y mayor preferencia por un evaluador humano.

Esta diferencia puede influir antes de recibir una respuesta. El método de evaluación también interviene en la decisión de presentar la solicitud, continuar el proceso o abandonarlo.

La percepción del solicitante cambia su respuesta

Los investigadores utilizan el concepto de fortaleza subjetiva para describir cómo una persona evalúa su solicitud con la información que conoce. En un crédito puede considerar su historial, sus ingresos y la estabilidad laboral. En una oportunidad académica o profesional puede concentrarse en sus calificaciones, experiencia y cumplimiento de requisitos.

Dos personas con antecedentes similares pueden valorar su posición de manera diferente. Una puede reconocer que cumple los criterios principales; otra puede enfocar su atención en una deuda pasada, una pausa laboral o un requisito incompleto. Esa percepción condiciona la forma en que interpreta al evaluador.

El estudio de Qiao Liu, Gerald Häubl y Noah Castelo reunió seis investigaciones con distintos escenarios de solicitud. Los resultados mostraron un mayor efecto disuasorio de la evaluación algorítmica entre quienes se consideraban candidatos débiles.

Ser evaluado cambia la relación con el algoritmo

En las recomendaciones de películas, productos o tratamientos, la tecnología ayuda al consumidor a elegir. Una evaluación coloca al consumidor en otra posición: el sistema clasifica su información y determina el acceso a una oportunidad.

El objetivo también cambia. La persona busca aumentar sus probabilidades de aprobación y presta más atención a las características que atribuye al evaluador. La consistencia puede resultar atractiva para quien cree cumplir claramente los criterios. La posibilidad de explicar una excepción gana valor para quien percibe una debilidad en su expediente.

Esta dinámica amplía la discusión sobre aceptación de algoritmos. La confianza general en la tecnología aporta contexto, pero la posición que el solicitante cree ocupar dentro del proceso explica una parte importante de su reacción.

La flexibilidad explica la preferencia por una persona

Los participantes con solicitudes más débiles valoraron con mayor intensidad la flexibilidad y la indulgencia asociadas con los evaluadores humanos. Esperaban que una persona pudiera considerar circunstancias particulares, escuchar una explicación o ajustar el criterio frente a un caso excepcional.

Una de las pruebas modificó la flexibilidad atribuida al evaluador humano. Cuando esa cualidad se reducía, también disminuía parte de su ventaja entre los solicitantes débiles. El resultado conecta la preferencia con una expectativa específica sobre el proceso.

Esa expectativa describe la percepción del solicitante. La calidad de una evaluación depende de los criterios, los datos, el diseño y la supervisión. Un humano puede aportar contexto y también introducir inconsistencias. Un algoritmo puede aplicar reglas con uniformidad y reproducir sesgos presentes en los datos. La evidencia del estudio se concentra en la conducta previa del consumidor.

La autoexclusión modifica el grupo de candidatos

Quienes se percibían como solicitantes débiles mostraron menor disposición a participar cuando esperaban una evaluación algorítmica. El efecto aparece antes de cualquier aprobación o rechazo y puede cambiar la composición del grupo que llega a la etapa final.

Las personas con trayectorias menos convencionales o circunstancias difíciles de resumir en un formulario pueden retirarse aunque tengan información relevante para su evaluación. La fortaleza subjetiva también puede diferir de la fortaleza real, lo que abre la posibilidad de perder solicitudes viables.

Para las organizaciones, este comportamiento incorpora una métrica adicional. Las tasas de aprobación, precisión y velocidad ofrecen una parte del resultado. Los abandonos después de informar el método de evaluación ayudan a comprender quién decide quedarse fuera.

La transparencia puede mantener abierta la participación

Una comunicación clara puede explicar qué información considera el sistema, cómo se revisan los casos atípicos y qué vías existen para corregir datos o solicitar una revisión. El marco de gestión de riesgos de inteligencia artificial del NIST incluye gobernanza, transparencia y seguimiento de posibles daños durante el ciclo de vida del sistema.

El lenguaje de la interfaz también influye. Las promesas absolutas de objetividad elevan expectativas difíciles de sostener, mientras las descripciones concretas permiten entender qué hace el modelo, dónde intervienen personas y qué opciones conserva el solicitante.

Las organizaciones pueden medir cuatro señales del proceso:

• La tasa de inicio y finalización.
• Los abandonos por etapa.
• Las diferencias entre grupos.
• El uso de las vías de revisión.

Estas señales complementan las auditorías técnicas y de equidad con la experiencia previa de quienes participan.

La evaluación algorítmica comienza a producir efectos desde el momento en que se anuncia. Quien se siente fuerte puede valorar la consistencia; quien duda de su expediente busca espacio para el contexto. Un proceso comprensible, revisable y bien comunicado permite evaluar la tecnología junto con su influencia sobre la participación.