Pequeno ensaio produzido pelo acadêmico Nicolas Rufino dos Santos.
Este paper tem como objetivo apresentar o panorama da complexidade da governança no campo da Inteligência Artificial (IA) a partir dos argumentos propostos por Morin, em sua obra “Introdução ao Pensamento Complexo” (2003) e de Kuhn, em “A estrutura das revoluções científicas” (1987). Serão explicadas, resumidamente, as teses centrais de cada um dos autores e, em seguida, o fenômeno da governança no campo da IA e suas intersecções com as teorias desses autores.
O fenômeno da fragmentação do conhecimento, cujas raízes remontam ao cartesianismo, culminou em observações parciais acerca do próprio conhecimento. Nesse sentido, teorias do saber que seriam capazes de resolverem problemas consideráveis da humanidade não podem se limitar a tratá-las separadamente, tampouco a partir do mero acúmulo de saberes, mas através da transformação de seus princípios e da observação multidimensional da realidade (MORIN, 2003).
Morin (2003) argumenta que a sociedade moderna é composta por uma série de problemas resultantes de pensamentos simples, parciais e fragmentados, de modo que disciplinas acadêmicas demonstram-se incapazes de criarem conexões e correlações entre os elementos. Nesse contexto, o referido autor alerta para a emergência da ciência em priorizar uma abordagem que interligue conceitos e elementos dos sistemas, uma vez que a realidade não constitui-se de modo simples, mas de forma multidimensional e complexa.
Em uma perspectiva similar à de Morin (2003), Khun (1987) enfatiza que o desenvolvimento científico se dá através da superação de paradigmas, que são compreendidas como uma “constelação de crenças, valores, técnicas partilhadas pelos membros de uma comunidade científica” (KHUN, 1987, p. 218). Ao entrarem em crise, estes paradigmas são transformados por outros em uma série histórica marcada por determinados ciclos. O progresso científico, portanto, não é produto de um progresso linear, mas resultante de diferentes fases que envolvem irregularidades e conflitos.
A complexidade do tema da governança no campo da Inteligência Artificial (IA) é nítida e materializa-se por determinados argumentos. Os impactos causados pelo aumento da utilização da IA não se limitam às áreas de inovação tecnológica ou de engenharia, mas atingem os campos político, administrativo e sociológico. Nesse sentido, a governança em IA consiste em uma questão importante para o futuro da Administração Pública (DENHARDT, 2001; UZUN, et al, 2022). Este fenômeno surge como um debate multidisciplinar e abrange políticas públicas, engenharia da computação, filosofia, direito, sociologia e relações internacionais (BOSTROM, et al, 2019; UZUN, et al., 2022). Na verdade, não apenas os problemas da IA são multidisciplinares, como também seus benefícios, que são enormes e atingem áreas como medicina e saúde, transportes, educação, ciência, sustentabilidade e desenvolvimento econômico (DAFOE, 2018).
 |
| Fonte: https://www.admethics.com/the-need-for-governance-in-the-field-of-artificial-intelligence-ai/ |
Há um consenso difundido de que os sistemas de IA precisam ser bem governados para que consigam trabalhar em alinhamento com os valores humanos e sociais a fim de usufruir dos benefícios e controlar seus os riscos. No entanto, a literatura sobre governança da IA ainda é desorganizada. Além disso, este fenômeno no campo da IA está inserido em um panorama mais amplo que envolve governança das empresas, de dados e de Tecnologia da Informação (TI), tornando o estudo ainda mais complexo (MÄNTYMÄKI, et al. 2022).
Independentemente dos conceitos estudados, é certo que o tema da governança em IA tem condicionado os pesquisadores a discussões complexas, de modo que seja impossível desenvolver uma única conceituação universalmente aceita. E independentemente da multiplicidade conceitual, ressalta-se a centralidade do tema nas agendas governamentais, pois ela dialoga diretamente com a qualidade de vida das futuras gerações (UZUN, et al., 2022), de tal modo que tanto governos quanto sociedade civil e setores privados são responsáveis por debaterem sobre a utilização de mecanismos de IA para garantir transparência e accountability para esses sitemas para mitigar os riscos e possíveis desvantagens do uso desses sistemas e, simultaneamente, usufruir do potencial dessa tecnologia (GASSER & ALMEIDA, 2017).
Cabe ressaltar que não somente a governança, como também a ética é objeto de uma complexidade notável de abordagens, bem como constitui-se como um campo de estudos multidisciplinar, complexo e alvo de diferentes interpretações. Por exemplo, Bartneck (2021) define que a ética refere-se aos princípios, julgamentos gerais e normas e, atualmente, é objeto de diferentes escolas de pensamento. Já Resnik (2015) sustenta que a ética é o conjunto de normas que diferenciam comportamentos aceitáveis dos inaceitáveis. Significa dizer que, para que uma teoria ética seja aderente com os problemas atuais, ela precisa constituir-se de forma dinâmica e multidisciplinar. Só assim ela será capaz de abordar determinados problemas específicos no campo da Administração com eficiência.
Ao buscar interligar o fenômeno da governança em IA com a teoria de Morin (2003), podemos reconhecer determinados elementos: (i) a complexidade do fenômeno da governança em IA; (ii) as relações deste tema com outros campos científicos; (iii) as variadas interligações com stakeholders, que apresentam interesses diversos; e (iv) a demanda por um estudo científico integrado que envolva diferentes disciplinas e perspectivas.
Finalmente, uma conexão entre a teoria da revolução científica de Kuhn (1987) com a complexidade da governança na IA consiste nos paradigmas da governança que, com o passar das décadas, são substituídos por novas formas de enxergar este fenômeno. Novos conceitos de governança substituem os antigos e abarcam uma maior quantidade de elementos, complexificando o conceito a partir da interligação com outros elementos. Essa complexificação da governança é o que a qualifica a trazer respostas para as problemáticas que envolvam a IA.
Referências:
BARTNECK, Christopher et al. An introduction to ethics in robotics and AI. Springer Nature, 2021.
BOSTROM, Nick; DAFOE, Allan; FLYNN, Carrick. Public policy and superintelligent AI: a vector field approach. Governance of AI Program, Future of Humanity Institute, University of Oxford. Oxford, UK, 2018.
DAFOE, Allan. AI governance: a research agenda. Governance of AI Program, Future of Humanity Institute, University of Oxford: Oxford, UK, v. 1442, p. 1443, 2018.
DENHARDT, Robert B. The big questions of public administration education. Public Administration Review, v. 61, n. 5, p. 526-534, 2001.
GASSER, Urs; ALMEIDA, Virgilio AF. A layered model for AI governance. IEEE Internet Computing, v. 21, n. 6, p. 58-62, 2017.
KHUN, T. Posfácio. In: KHUN, T. A estrutura das revoluções científicas. São Paulo: Perspectiva, 1987, p. 217-257.
MÄNTYMÄKI, Matti et al. Defining organizational AI governance. AI and Ethics, p. 1-7, 2022.
MORIN, E. Introdução ao pensamento complexo. Lisboa, Instituto Piaget, 2003 (Trechos escolhidos – p. 57 a 76 e p. 85-93).
RESNIK, David B. et al. What is ethics in research & why is it important. December, 2015.
UZUN, Mehmet Metin; YILDIZ, Mete; ÖNDER, Murat. Big Questions of AI in Public Administration and Policy. Siyasal: Journal of Political Sciences, v. 31, n. 2, p. 423-442. 2022.
Nenhum comentário:
Postar um comentário