La Unión Europea pronto se convertirá en el primer territorio en contar con su propia normativa para regular el uso de sistemas de inteligencia artificial (IA). Aunque el proyecto está en pleno desarrollo, ya se sabe que uno de los límites que se va a establecer es la prohibición del conocido como social scoring o puntuación de crédito social.
Esto va a impedir que la fiabilidad de una persona o empresa se pueda juzgar en base a su comportamiento social o a ciertos rasgos de personalidad rastreados a través de los sistemas digitales.
¿En qué consiste el social scoring?
Este sistema se ha desarrollado a la vez que han crecido los algoritmos y las herramientas de análisis de datos.
Se encarga de evaluar y calificar el comportamiento y la reputación de una persona, en base a su actividad en redes sociales, sus transacciones financieras, las opiniones emitidas por otros usuarios, etc.
En esencia, lo que hace es asignar a cada persona una puntuación numérica en base a su comportamiento online y a las actividades digitales que lleva a cabo.
En la actualidad, esta calificación ya está siendo utilizada por empresas tech, agencias de calificación crediticia, empleadores, arrendadores, aseguradoras y hasta gobiernos. De forma que una persona puede ser rechazado para acceder a un préstamo, tan solo en base a su puntuación.
Aunque hay quien defiende que esto puede ayudar a instituciones públicas y privadas a tomar decisiones sobre las personas de las que se pueden fiar, los expertos creen que esta práctica lleva aparejado un gran riesgo de discriminación. Sustituyendo el sesgo subjetivo propio de los seres humanos, por un sesgo algorítmico que puede tener consecuencias todavía más graves para quienes se ven afectados por el.
El impacto del social scoring en la economía
A día de hoy, este sistema tiene un uso bastante residual, y los gobiernos empiezan a preocuparse por su regulación.
De llegar a implantarse, tendría importantes efectos en el conjunto de la economía:
Acceso al crédito y a los servicios financieros
Esta puntuación puede utilizarse para determinar la capacidad de una persona para acceder a créditos y servicios financieros. Así, quienes tengan una puntuación más alta, pueden tener mayor facilidad de acceso, o incluso disfrutar de mejores condiciones o de tasas de interés más bajas.
En Estados Unidos se utiliza desde hace tiempo una variante similar conocida como credit score. Una puntuación de crédito que evalúa hasta qué punto una persona es o no de fiar a la hora de acceder a un crédito. Para aquellas personas que han visto caer su puntuación, puede resultar muy complicado obtener financiación bancaria.
Comportamiento del consumidor
Si la puntuación crece con determinadas interacciones o acciones online, los consumidores pueden sentirse más motivados para entablar ciertas relaciones. Por ejemplo, comprar en un establecimiento de más prestigio en lugar de en otro.
Esto, que puede ser positivo para ciertas empresas, supone una vulneración de la libertad de elección de los consumidores, que pueden sentirse coaccionados en cierta medida a tomar una decisión en lugar de otra, con el único objetivo de mejorar su puntuación.
Mercado laboral y contratación
El social scoring aplicado al proceso de contratación puede impactar de forma directa en las oportunidades de desarrollo profesional de las personas.
Mientras que aquellos que tienen puntuaciones más altas podrían contar con una ventaja competitiva a la hora de ser contratados, las personas con menor social scoring pueden verse lastradas a la hora de encontrar un nuevo empleo o de avanzar en su carrera.
Confianza y reputación
En líneas generales, el social scoring tiene potencial para influir en la confianza y la reputación que tiene una persona o una empresa en la sociedad. Fenómeno que puede influir de manera directa para bien o para mal en su progreso.
Críticas al social scoring
La fórmula basada en la puntuación social para juzgar a una persona, ha despertado fuertes críticas por parte de economistas, filósofos, psicólogos y sociólogos, entre otros.
Los especialistas destacan que los sistemas de social scoring no suelen operar de forma transparente. Los usuarios nunca pueden estar del todo seguros sobre cómo se calcula su puntuación y qué datos son los que se emplean para ello. Esto dificulta el poder tener control sobre la propia puntuación.
Aunque la tecnología es, a priori, objetiva, el social scoring puede contener sesgos inherentes que den lugar a decisiones injustas. Por ejemplo, si el algoritmo se basa en datos históricos que reflejen sesgos existentes en la sociedad como el sexismo.
A ello se suma que el uso de datos implica un impacto directo en la intimidad de las personas. Si los datos que emplean las empresas de social scoring acaban en manos de hackers, el daño para los afectados puede ser especialmente grave.
Además de todo lo anterior, la crítica generalizada que se le hace al social scoring, es que puede ser una herramienta que perpetúe la discriminación, penalizando todavía más a quienes ya están en una posición de desventaja socioeconómica. Esto puede crear un ciclo de desigualdad muy difícil de superar.
¿Qué retos plantea el social scoring?
El primero de ellos es la falta de regulación sobre este tema. La normativa de uso de la IA de la Unión Europea también va a ser pionera en esta cuestión, estableciendo límites claros sobre qué datos se pueden recopilar y cómo se pueden utilizar. Pero no permitiendo en ningún caso que esa puntuación social sea la base única y exclusiva para que otros tomen decisiones que puedan afectar a la vida de una persona.
También es importante educar y concienciar a la sociedad sobre los riesgos que supone esta práctica que, si bien puede empoderar a unos, puede comprometer el desarrollo de otros. En este sentido, los expertos destacan la importancia de que los ciudadanos sean conscientes de sus derechos con respecto a sus datos y de cómo pueden proteger su privacidad en línea.
Algunas entidades defienden la necesidad de promover alternativas más éticas. De forma que ciertos datos puedan usarse para ayudar a la toma de decisiones en diferentes ámbitos, pero sin que esto suponga dejar fuera del sistema a quien no se ajusta a ciertos parámetros.