com colaboração de Juciana Rodrigues e Ricardo Galiardi
A preocupação que a LGPD impacte as empresas e revele os segredos de negócios através de publicização de algoritmos, me fez pensar num tema que pouco vejo menção, a governança algorítmica, ou governança de algoritmos.
O tema é recente e mencionado como: “governança algorítmica” (“algorithmic governance”), “regulação algorítmica” (“algorithmic regulation”), “governo por algoritmos” (“govern by algorithms”) e “governamentalidade algorítmica” (“algorithmic governmentality”), como aponta Machado (2018).
Os algoritmos são parte de nossas vidas e possuem vasta funcionalidades e complexidade com uma infinidade de benefícios em sua aplicação, tanto para o mercado, quanto para o governo e a sociedade em geral. (WERMANN, 2018).
Mesmo com tantos benefícios, existem usos com viés discriminatório e abusivo, para interesses econômicos e políticos pouco legítimos. (SOARES, 2018). Diante disso, Weirmann (2018) acredita que para evitar estas ocorrências:
A governança algorítmica surge como primordial nos procedimentos de coleta, armazenamento e tratamento de dados, principalmente dados pessoais, à medida em que pode servir como norte na busca pelo equilíbrio de fatores envolvidos no que se refere à utilização de dados pessoais, a partir da criação de algoritmos, em um caráter interdisciplinar. (WERMANN, 2018)
Porém, há diversas situações em que máquinas não podem tomar decisões sozinhas, pois os dados que as guiam não podem embasá-las de forma não-enviesada ou levando em consideração as nuances de uma situação particularmente complexa então:
Como podemos esperar que algoritmos sempre acertem ao tomar decisões éticas e morais que seriam desafiadoras para qualquer pessoa?
A governança algorítmica não consiste simplesmente num meio de gerir uma realidade existente, significa estruturar determinada realidade a partir de um esquema que, em suas várias dimensões, estabelece que relações serão computadas, que tipo de vetorialidade será verificada nelas e como serão agenciadas. E, ao administrar a fragmentação, o risco e a homogeneização segregadora, a governança algorítmica as instiga, suprindo uma justificativa para que essa administração seja robustecida. (CASTRO, 2018)
A peculiaridade da governança algorítmica é derivar seu poder normativo diretamente dos que se submetem a ela, visto que os interesses e atividades destes volvem a si na qualidade de padrões a ser seguidos. Até quando os usuários se distanciam desses padrões, tal movimento é recuperado e reincorporado, dando origem a versões corrigidas e readaptadas dos padrões.
Concluindo, este tema é vasto e trarei novas abordagens, como blockchain entre outros, mas empresas que investem em governança de dados, algoritmos, e principalmente em transparência, tem o princípio da boa-fé ao seu lado.
Sugestões são bem-vindas
Referências que valem a consulta:
CASTRO, J.C.L. Redes sociais como modelo de governança algorítmica. Matrizes, V.12 – Nº 2 maio/ago. 2018 p. 165-191
DONEDA, D. ALMEIDA, V.A.F. O que é a governança de algoritmos?.
GONZALEZ, M. O que é a governança de algoritmos?
MACHADO, H. F. de S. Algoritmos, regulação e governança: uma revisão de literatura. Revista de Direito Setorial e Regulatório, Brasília, v. 4, n. 1, p. 39-62, maio 2018.
SEIXAS, M.C. Governança algorítmica
SOARES, G.G.M. Rumo à governança algorítmica – análise sociotécnica dos algoritmos de credit score: o caso chinês [CM1]
WERMANN, L. Governança algorítmica e a proteção de dados pessoais. Trabalho de conclusão de curso de graduação apresentado à Faculdade de Direito da Universidade Federal do Rio Grande do Sul. Orientador: Prof. Dr. Fabiano Menke. Porto Alegre 2018
Fonte da imagem:
https://cio.com.br/e-preciso-evitar-a-ditadura-dos-algoritmos/
Muito Interessante este assunto.