Inicio ArtículosAdministración y empresas Hacia una ética para la ciencia de datos

Hacia una ética para la ciencia de datos

por Redacción

¿Nuestra privacidad y la libertad se ven amenazadas por algoritmos sin nombre? ¿Qué debería estar prohibido?

Por Ignacio Urteaga

El marketing, en su búsqueda de influir en nuestras decisiones, nos lanza mensajes.

Muchos de los receptores no querrán mi producto mientras que otros quizá lo quieran pero no puedan pagarlo. Sólo unos pocos cumplen las dos condiciones. El mensaje enviado a los primeros es pura pérdida.

Para minimizar esa pérdida necesitamos discriminar a los destinatarios, y además, para potenciar el impacto convendrá saber cosas sobre ellos para sintonizarlo así a sus intereses y temores en busca de automatizar todo lo posible sus respuestas.

Existe por lo tanto una relación entre lo que sé de los individuos en los que quiero influir y mi capacidad de inclinar sus decisiones. Y así queda su libertad comprometida con su pérdida de privacidad.

El problema es que cuanto más podemos saber sobre los receptores de nuestra publicidad para focalizar y sintonizar, menos privacidad y libertad les queda.

Cuando avanzamos hacia la más pequeña de las minorías, que es el individuo, podemos saber qué mostrarle a esa persona en concreto para maximizar nuestra influencia. Con un conocimiento parcial nuestro mensaje pierde en efectividad y, por lo tanto, nuestro blanco gana margen de libertad.

Existe por lo tanto una relación entre lo que sé de los individuos en los que quiero influir y mi capacidad de inclinar sus decisiones. Y así queda su libertad comprometida con su pérdida de privacidad.

La polea de transmisión que lleva nuestro conocimiento sobre los individuos a seleccionar los estímulos apropiados para influirlo pasa por los elaborados algoritmos que nos provee la ciencia de datos.

Las organizaciones que dominen estas herramientas tendrán una ventaja competitiva sobre las que no. Esto plantea una competencia que fogonea la acumulación de datos y dispara el uso de algoritmos para extraerles valor.

¿No deberíamos proteger a los ciudadanos de esta amenaza doble a su privacidad y a su libertad?

No es la primera vez que nos encontramos en la historia humana con una tecnología nueva que nos hace sentir amenazados.

Recordamos los libros prohibidos, la censura a los diarios y la manipulación del cine, radio y TV por redireccionamiento arbitrario de recursos. ¿Salió la sociedad servida por estas respuestas?

El problema es que cuanto más podemos saber sobre los receptores de nuestra publicidad para focalizar y sintonizar, menos privacidad y libertad les queda.

Mi sensación es que el efecto fue mucho más reducido que el esperado y pretendido por los que instalaron esas prohibiciones. Incluso tuvo un efecto particularmente negativo. La actividad prohibida en el país se trasladó a otro donde la posibilidad de influir era seguramente menor y los intereses imperantes quizá aún más agudamente contrapuestos.

Avanzar por la senda de la prohibición puede llevarnos con facilidad a ser “procesados por otros” desde los paraísos de datos. Sujetos así a intereses desconocidos libres de todo control.

¿Habrá alternativas?

Si miramos por ejemplo la medicina vemos una reflexión interna entre sus profesionales que permanentemente establece límites a lo que se puede o no hacer.

Convendría entonces ir construyendo desde la base un consenso entre los practicantes de la ciencia de datos, las empresas, las organizaciones educativas y otros grupos de la sociedad civil. Si una razonable mayoría de estos grupos e individuos consiguen generar conciencia, entonces los abusos serán menos frecuentes y nos evitaremos extinguir la industria local expulsando su práctica a otros climas.

Si miramos la marcha de la historia aprendemos también que el temor a las herramientas de comunicación ha sido consistentemente exagerado. ¿Quién teme hoy que la lectura de un libro le cambie su forma de pensar?

Esto puede funcionar mejor o peor. Lo que ya sabemos es que si insistimos en el camino de la prohibición entonces vamos a repetir los fracasos de la inquisición con sus libros prohibidos, o los múltiples regímenes dictatoriales que persiguieron la prensa libre a lo largo de la historia.

Necesitamos entonces estudiar cómo lo hicieron otras profesiones. Cómo construyeron sus consensos; qué incentivos generaron para influir exitosamente en los diversos actores, y qué presiones ejercen sobre sus practicantes para limitar las prácticas contrarias a ese consenso.

Deja un comentario