Aunque somos cada vez más conscientes de que nuestra vida digital es cada vez es menos aleatoria, atrapados por decisiones de diseño y empujados por sistemas que quieren que no les abandonemos tan rápido; es posible que lo seamos menos de la gran dependencia que estamos adquiriendo sobre unas líneas de código que poco a poco van tomando decisiones por nosotros y sobre nosotros.
Ya no estamos hablando de aspectos un tanto banales, aunque cada vez lo sean menos, respecto al consumo que hacemos de la información tanto en redes sociales como en otras plataformas diseñadas para su consumo. Este código puede ser cambiado en cualquier momento por las empresas que controlan el producto sobre cuestiones de ego de sus propietarios o para otras cuestiones más lesivas y de manipulación de las masas como se demostró en el caso de Facebook y su acuerdo con Cambridge Analytica.
Cada vez más, los algoritmos intervienen de forma directa en nuestras decisiones y sobre las decisiones que toman sobre nosotros. En algunos casos, los algoritmos tratan de engancharnos para que consumamos un tipo específico de contenido (YouTube y sus vídeos de gatitos), mientras que en otras ocasiones tratan de seguir invitándonos a adquirir un producto aunque ya lo hayamos adquirido (¿a quién no le hace constantemente esto mismo el algoritmo de Amazon?).
Pero, mientras que tal vez te hayas detenido más de la cuenta a ver un vídeo gracioso de un gato persa sin mayor interés que la anécdota o puede que en tu búsqueda de tu próximo móvil hayas visto demasiadas marcas y que Amazon considere que en vez de uno necesitas dos, hay algoritmos que diseñados por las personas inciden en sus vidas y en las decisiones que toman sobre las mismas terceras personas.
El propio Amazon tuvo que enfrentarse a su propia contradicción de su algoritmo de selección de personal que consideró que no era conveniente seleccionar a mujeres en puestos de ingeniero. En cuanto se percató del error, la empresa norteamericana tuvo que retirar su algoritmo debido a la ineficiencia del mismo y a los sesgos sobre los que se había programado. Si la mayoría de los ingenieros son hombres, seguramente se deberá a que las mujeres deben ser malas ingenieras debió de concluir el sistema informático que reclutaba perfiles.
Sin embargo, esta noticia es de 2018 y parece que se ha avanzado poco para tratar de evitar caer en este tipo de errores. Por ejemplo, recientemente los medios de comunicación recogían el caso del Gobierno holandés donde se investigaban a las familias menos favorecidas porque el algoritmo sospechaba que se estaba produciendo un fraude con las ayudas. Este tipo de algoritmos que se están comenzando a utilizar de forma masiva en las administraciones públicas de Europa tratan de cruzar una gran cantidad de datos para detectar la infracción y principalmente a barrios de ingresos humildes. Sin embargo, los criterios que en ocasiones se utilizan para detectar esos fraudes pueden ser discriminatorios como por ejemplo ser madre soltera y también otros que atentan contra la privacidad de las personas de forma mucho más directa.
Por supuesto que no sólo las instituciones públicas están tomando sus decisiones basándose en algoritmos y que pueden tener un impacto significativo en la vida de las personas. El sector privado también lo está haciendo y lo están realizado de forma mucho más acelerada. Un ejemplo es el de la toma de decisiones respecto la valoración crediticia sobre los consumidores donde se han aplicado masivamente y están repercutiendo sobre las vidas de las personas de forma decisiva. En ocasiones, las razones de las valoraciones las desconocen incluso los propios empleados puesto que estos algoritmos son cajas negras donde no queda muy claro las razones por las que se toman ese tipo de decisiones.
De forma progresiva, este tipo de sistemas se van integrando paulatinamente en la toma de decisiones de las empresas y los organismos públicos. Por ejemplo, en EEUU los algoritmos ya son responsables de decidir qué niños pueden entrar en los programas de familias de acogida, qué pacientes recibirán atención médica y qué familias tendrán acceso a una vivienda estable; y estos ámbitos no van a dejar de crecer. El peligro es que la falta de información sobre el funcionamiento de los mismos, la falta de control sobre las razones que se toman estas decisiones sin sesgos de clase o de raza se generalicen y que la igualdad de acceso y de derechos decrezca según nuestras vidas se controlan cada vez más en base al funcionamiento de estos sistemas.
Deja un comentario