Nos dias atuais, é praticamente impossível encontrar alguém que não utilize produtos e serviços oferecidos pelas gigantes da tecnologia, conhecidas como “Big Techs”. Empresas como Google, Meta (anteriormente conhecida como Facebook), Apple e outras têm se tornado parte essencial do nosso cotidiano, facilitando inúmeras atividades e muitas vezes sendo rotuladas como “gratuitas”.
No entanto, é importante reconhecer que nada é realmente gratuito nesse contexto. A explicação comum é que pagamos por esses serviços com nossos dados pessoais, os quais essas empresas utilizam para obter lucro, especialmente através de anúncios altamente personalizados. Essa prática ficou conhecida como “capitalismo de vigilância”.
Contudo, a recente evolução da inteligência artificial e a intensa resistência das “Big Techs” a qualquer forma de regulação, como evidenciado no Brasil no confronto com o “PL das Fake News”, revelam que o controle exercido por essas empresas sobre nossas vidas é muito mais complexo do que se imaginava. Muitos indivíduos até mesmo defendem as ações das companhias nesses casos. A busca por regulamentar a inteligência artificial tornou-se um desafio ainda maior do que impor limites razoáveis às redes sociais.
O verdadeiro desejo dessas empresas é obter liberdade não-regulada para substituir instituições sociais em setores como saúde, educação, transporte ou segurança, alegando que suas soluções tecnológicas superariam a “ineficiência” do sistema atual. Ao ocupar espaços tradicionalmente sob cuidado do Estado, elas alcançariam um poder inimaginável, muito maior do que possuem atualmente.
No entanto, é importante salientar que nada é gratuito nesse cenário. Esse custo não será pago apenas com a veiculação de anúncios em nossos dispositivos móveis. Então, como será equilibrada essa equação?
O avanço da inteligência artificial é inevitável e muito bem-vindo, pois apresenta um potencial incrível para proporcionar à sociedade benefícios até então inimagináveis. Entretanto, isso significa que estaremos entregando muitas de nossas escolhas nas mãos das máquinas, que decidirão o que elas consideram ser o melhor para cada um de nós.
Vivemos em uma sociedade permeada por algoritmos, que cada vez mais controlam nossas vidas de maneiras que sequer percebemos. Não temos consciência das regras que norteiam essas decisões em nosso cotidiano. Diante de tanto poder, a falta de transparência das “Big Techs” e a ausência de explicabilidade de seus produtos tornam-se inaceitáveis e perigosas para nossas vidas e para a democracia. É exatamente essa falta de transparência que essas empresas lutam para manter, pois a divulgação detalhada do funcionamento de seus algoritmos significaria perder o controle que exercem sobre os cidadãos.
Essas considerações são aplicáveis aos algoritmos já existentes, que são amplamente conhecidos e controlados pelas “Big Techs”. A inteligência artificial torna esse debate ainda mais importante, uma vez que até mesmo os seus criadores não compreendem completamente as novas estratégias desenvolvidas pelas máquinas para solucionar problemas.
Caso essas empresas alcancem a chamada “inteligência artificial geral”, que ultrapassa as tarefas específicas e se comporta de forma semelhante à mente humana, tomando decisões sobre qualquer assunto, a situação pode se tornar verdadeiramente dramática.
Imagine um sistema desse tipo tomando, com o nosso consentimento, decisões cruciais para a saúde pública. Em nome de aumentar a eficiência, ele pode privilegiar cirurgias com maior probabilidade de sucesso ou mais lucrativas, em detrimento de procedimentos mais complexos ou com menor retorno financeiro. Todos merecem a chance de serem tratados, mesmo aqueles com baixas possibilidades de sucesso. Essa é a visão humana de um médico, enquanto uma máquina que acredita que o fim justifica os meios pode ignorar.
Agora, multiplique esses riscos ao acrescentar à equação a segurança pública, a educação e até mesmo a economia de um país.
