Algorithms and autonomy: power and resistance relations in surveillance capitalism
DOI: https://doi.org/10.1590/1807-0191202127128Authors
Abstract
The phenomenon of automated monitoring of private experiences, performed by intelligent algorithms, intended to induce certain behaviors, is conceptualized in the literature as surveillance capitalism. The article add some elements to these theories from the following arguments; the lack of transparency of algorithms makes it impossible to accurately infer their capacity for behavioral modulation; the preference formation is a complex and malleable process, that encompasses strategies of resistance and subversion; for domination to occur, there must be conformity of the dominated, which is not observed from currently normative frameworks; finally, the exercise of power is different from its ability to influence. The conclusion is that it is necessary to regulate the proper functioning of the algorithms as a complement to the protection of personal data.
Resumo
O fenômeno do monitoramento automatizado das experiências privadas, realizado por algoritmos inteligentes, com a intenção de induzir certos comportamentos, é conceituado na literatura como capitalismo de vigilância. O artigo acrescenta alguns elementos a essa teoria a partir dos seguintes argumentos: a falta de transparência dos algoritmos impossibilita inferir com precisão sua capacidade de modulação comportamental; a formação das preferências é um processo complexo e maleável, que abrange estratégias de resistência e subversão; para que a dominação ocorra, é necessário que haja conformidade dos dominados, o que não se observa a partir de marcos normativos em vigência; por fim, o exercício do poder é diferente de sua capacidade de influência. A partir desses pontos, conclui-se que é necessário regular o próprio funcionamento dos algoritmos como complemento à proteção de dados pessoais.
Résumé
Le phénomène de surveillance automatisée des expériences privées, effectué par des algorithmes intelligents, destinés à induire certains comportements, est conceptualisé dans la littérature sous le nom de capitalisme de surveillance. L'article ajouter quelques éléments à cette théorie à partir des arguments suivants; le manque de transparence des algorithmes ne permet pas de déduire avec précision leur capacité de modulation comportementale; la formation de préférences est un processus complexe et malléable, qui englobe des stratégies de résistance et de subversion; pour qu'il y ait domination, il faut qu'il y ait conformité des dominés, ce qui n'est pas observé dans les cadres normatifs en vigueur; enfin, l'exercice du pouvoir est différent de sa capacité d'influence. De ces éléments, on peut conclure qu'il est nécessaire de réglementer le bon fonctionnement des algorithmes en complément de la protection des données à caractère personnel.
Resumen
El fenómeno del monitoreo automatizado de experiencias privadas, realizado por algoritmos inteligentes, destinados a inducir ciertos comportamientos, está conceptualizado en la literatura como capitalismo de vigilancia. El artículo agrega algunos elementos a esta teoría a partir de los siguientes argumentos; la falta de transparencia de los algoritmos hace que sea imposible inferir con precisión su capacidad de modulación de los comportamientos; la formación de preferencias es un proceso complejo y maleable, que abarca estrategias de resistencia y subversión; para que ocurra la dominación, debe haber conformidad de los dominados, lo que no se observa desde los marcos normativos vigentes; finalmente, el ejercicio del poder es diferente de su capacidad de influencia. A partir de estos puntos, se concluye que es necesario regular el funcionamiento adecuado de los algoritmos como complemento de la protección de datos personales.