Para poder responder a estas preguntas primero como especialistas tenemos que saber diferenciar entre el algoritmo y el algoritmo de recomendaciones, ya que a menudo usamos la palabra “algoritmo” como un termino genérico para referirnos al funcionamientos detrás de las redes sociales o plataformas. Entonces que es y como funcionan cada uno:
- El algoritmo (El concepto general): Este simplemente es una secuencia lógica de pasos para resolver un problema o una tarea; este es considerado como una receta de cocina en informática.
- El algoritmo (La especialización): El algoritmo de recomendación es un tipo especifico o un conjunto de ellos muy especifico. Su objetivo no es solo procesar datos sino mediante ellos predecir las preferencia de los usuarios tras un aprendizaje continuo ya que los algoritmos modernos usan Machine Learnig para irse ajustando a si mismos para el disfrute de su usuario.
Sabiendo ya la diferencia de estos dos y teniendo en consideración que son sistemas diferentes pero que uno forma parte del otro podemos abarcar a fondo las incógnitas de este foro.
¿Hasta dónde llega la personalización y dónde empieza la invasión a la privacidad?
La personalización se produce cuando el algoritmo mediante datos que le hemos entregado conscientemente o a través de interacciones directa mejora nuestra experiencia; ejemplo:
- Netflix con su sistema de algoritmo predictivo según los datos que tu le has proporcionado mediante tu interacción con la plataforma en lugar de mostrarte diez mil películas te muestra 10 que probablemente te gusten utilizando técnicas como el filtrado colaborativo que sugiere que si a personas como tu le gusta X película, a ti también te gustara.
En que punto se cruza esa línea de lo personalizado y la invasión de la privacidad. La línea se cruza cuando la personalización pasa de sentirse útil a sentirse vigilada, intrusiva o incontrolable. Esto ocurre específicamente cuando la tecnología utiliza datos no proporcionados explícitamente, cuando se recopila información en espacios privados o mediante espionaje (ej. escuchar conversaciones, rastreo excesivo de ubicación), anticipa comportamientos con demasiada precisión, manipula decisiones o revela información que el usuario no recuerda haber compartido.
En resumen, la personalización se vuelve invasión de la privacidad cuando se viola la expectativa razonable de privacidad del usuario.
¿Compramos lo que queremos o lo que el algoritmo nos dice que necesitamos?
A pesar de que exista esa delgada línea entre lo personalizado y la invasión de privacidad, los productos que van dirigidos a nosotros como usuarios siempre se sustentan mediante una recolección de datos que el algoritmo guarda de nosotros por medio de las interacciones que realizamos en las plataformas y aun que existiera una invasión a nuestra privacidad donde las marcas acceden sin nuestro consentimiento a información que no le hemos dado explícitamente acceso, se mantiene la teoría de que en efecto los productos que compramos aun tenemos decisión de decidir si cómpralos o no, ya que a fin de cuentas el usuario es el que toma la ultima decisión.
Esto teniendo en cuenta ciertos principios éticos que deberían tener las plataformas ya que al estar siempre en constante exposición a contenidos en un mundo digital estos pueden influir en nuestros gustos o puntos de vista.
Pero igual mantiene la postura de la personalización ya que si puede influir en nuestras decisiones pero el algoritmo no va a mostrar productos de futbol a una persona que esta interesada en la cocina al menos que según los datos recopilados de ese usuario ese sea alguno de sus intereses, ya que recordemos que actualmente tenemos tanta información de nosotros en línea que los algoritmos nos conocen mejor que nosotros mismo