Hoy en día, la importancia de analizar grandes volúmenes de datos como modo de lograr una ventaja competitiva sostenible es reconocida como una realidad indiscutible en el mundo empresarial. Esto, que hasta hace relativamente poco se restringía a entornos más académicos e investigadores, ha provocado que la influencia del nuevo ecosistema tecnológico, impulsado por empresas como Alphabet, Amazon o Facebook, se vea reflejada no sólo en el mundo digital sino en muchos otros sectores como la banca o en áreas como el marketing.
Todos estos “nuevos jugadores” se basan en el desarrollo de las capacidades necesarias para analizar los datos que poseen internamente, o que adquieren de manera externa, para generar un conocimiento diferencial que les permita obtener una ventaja competitiva sostenible frente a sus competidores. A su vez, este aumento de actividad está generando un gran impacto social el cual se refleja en muchos de los aspectos cotidianos que todos realizamos cuando, por ejemplo, utilizamos Google Maps para ver la mejor ruta a nuestro trabajo o las recomendaciones automáticas de acuerdo a nuestro perfil a la hora de realizar una búsqueda en Google Search, mejorando así la probabilidad de encontrar aquello en lo que estamos interesados.
Todas estas nuevas aplicaciones a menudo se basan en algoritmos de aprendizaje automático y de reconocimiento de patrones, los cuales tienen la capacidad de aprender a partir de los datos y mejoran su precisión cuanta mayor cantidad de datos se utilicen.
Aunque sin duda existen actualmente muchas ventajas en el uso de algoritmos de aprendizaje automático para el análisis de grandes cantidades de datos en nuestro entorno cotidiano, no todo impacto tiene necesariamente que ser positivo. Recientemente, investigadores de la Universidad de Carnegie Mellon, mostraban en su estudio que en algunos casos los ads visualizados en la herramienta Google Search realizaban una discriminación en base al género proporcionado, el cual puede ser configurado por el usuario a través de Ad Settings. Mostrando así menos ads relacionados con posiciones senior ejecutivas para mujeres que para hombres y causando un impacto social discriminatorio no intencionado. El estudio no determina qué elemento del ecosistema Google -anunciantes, sitios Web o usuarios- es quien introduce este sesgo. Pero sí se puede afirmar que el algoritmo encargado de relacionar al usuario con posibles trabajos de su interés no entiende las implicaciones que puede tener la utilización del género en ese contexto específico, ya que para el ‘V’ y ‘H’ son sólo etiquetas (o 1’s y 0’s) y, por tanto, no se le puede hacer responsable de utilizar esta brecha salarial debida al género, ayudando de este modo a perpetuarla.
Todo esto no sólo hace sino reforzar algo ya conocido desde hace años que es la necesidad de profesionales y expertos en Big Data que ayuden, no sólo a desarrollar nuevas aplicaciones que mejoren la calidad de vida de las sociedades, sino que también tengan en cuenta las implicaciones y el impacto social de cada una de ellas evitando los negativos e indeseados.
