Muita gente acha que o controle social é mera teoria da conspiração, mas o controle social faz parte da história da humanidade. Do controle religioso-teocrático no antigo Egito, na idade média, passando pelo “Pão e Circo” romano, da educação em massa moldando para a disciplina industrial no século XIX, ou a propaganda de Estado no Século XX, a fabricação de consenso, como descrito por Chomsky, chegando ao controle pelo Algoritmo, como detalho no livro “O Panspectron: Como as redes sociais estão moldando a realidade“.
Para além dos eventos históricos, quando estamos falando das técnicas de liderança, gestão de crise, estruturas de controle e comando corporativo, ou até mesmo nos relacionamentos interpessoais, todos são exemplos de controle social.
Controle social é o conjunto de mecanismos, estratégias e práticas utilizadas pela sociedade, instituições e pelo Estado para orientar, regular e limitar comportamentos individuais e coletivos, garantindo a conformidade com regras, normas e valores sociais estabelecidos. Ele pode ocorrer de forma formal, por meio de leis e órgãos públicos, ou informal, através da influência da família, da cultura, da religião e da opinião pública.
Existem ainda formas implícitas de controle social, por estratégias muitas vezes distantes da ética, implementada por interesses de terceiros, através da mídia e das redes sociais. Esta prática trabalha com a subjetividade do indivíduo, moldando sua percepção de realidade em direção aos desejam estes terceiros.
Em meu livro “O Panspectron: Como as redes sociais estão moldando a realidade” descrevo detalhadamente como as redes sociais praticam este controle implícito, que se dá através de muitas técnicas. Em primeiro lugar, as redes sociais permitem criar literalmente uma cópia digital sua, com perfil psicológico, interesses, orientação sexual, forças e fraquezas, um perfil tão preciso que Katarzyna Szymielewicz o chamou de duplo digital.
Além do seu “duplo digital” as redes sociais mapeiam seus relacionamentos e interesses, é desta forma que elas mapeiam o que vai aparecer no seu feed, e quanto mais você interage com a rede, mais alinhado com seus interesses será este conteúdo, este refinamento acaba criando o que Pariser descreve como “síndrome do mundo bom”.
A Síndrome do Mundo Bom é uma “purificação” dos interesses do usuário, dada a forma como ele se relaciona com os algoritmos, e que o afasta de informações que não são compatíveis com seus interesses.
Caribé, João Carlos Rebello. O Panspectron: Como as redes sociais estão moldando a realidade (Portuguese Edition) (p. 25). Kindle Edition.
Com isso as redes sociais controlam a sua percepção de mundo, seu comportamento, e relacionamentos. Com isto as redes sociais aproximam indivíduos que possuem interesses comuns, que acabam compactuando da mesma bolha de unanimidade, criando uma falsa percepção de senso comum, e produzindo comportamentos extremistas. Todo este mecanismo das mediações das redes sociais, por si só ja são um problema sério em termos sociais, mas é o modelo de negócio destas redes que produzem uma verdadeira catástrofe civilizacional. As redes sociais vendem modelos de comportamento em forma de publicidade, e pode-se impulsionar publicidade em qualquer uma destas bolhas de unanimidade, capturando e retroalimentando seus participantes, sendo este um exemplo claro do controle social exercido pelas redes sociais. Sérgio Amadeu descreve este controle social como modulação:
Este não é o único problema social advindo da mediação algorítmica, Sergio Amadeu da Silveira aponta os riscos da modulação, que é a prática da interação do indivíduo com a mediação algorítmica. Ela funciona encurtando a realidade dos indivíduos, reduzindo suas opções, com o propósito de torna-lo um perfil rentável, encurtando assim sua visão de mundo. Quanto mais a plataforma conhece o indivíduo, mais eficiente é a modulação, e as bolhas de unanimidade, que envolvem os novos debates na hipermodernidade conectada. Estas bolhas isolam o indivíduo, e acabam repletas de crenças e ideologias fracas, terreno fértil para a propaganda, manipulação, controle social e polarização.
Caribé, João Carlos Rebello. O Panspectron: Como as redes sociais estão moldando a realidade (Portuguese Edition) (p. 212). Kindle Edition.
As redes sociais não são as únicas ameaças à sociedade hipermoderna conectada, estes indivíduos estão cada vez mais cedendo sua autonomia para aplicativos, seja para escolher uma música, um filme, um livro, um destino, ou até um relacionamento por exemplo, estão minando outras capacidades humanas tais como: senso de direção, memória, capacidade de reconhecer padrões, leituras implícitas de comportamento, e capacidades interpessoais como empatia e sinergia social. Não é por menos que a geração atual, invertendo uma tendência, tem um QI médio inferior ao da geração anterior.
Mas o problema ainda não acabou, agora os indivíduos estão terceirização sua capacidade intelectual para a IA generativa. Diversos modelos de IA generativa disponíveis facilitam muito as tarefas intelectuais do dia a dia em diversos contextos, e acaba sendo viciante.
Assim como seu crítico das redes sociais, mas as utilizo, agora sou crítico da IA generativa e também a utilizo para tarefas maçantes do dia a dia, e tem sido bem útil, até produzo agentes de IA para vendas! Mas sabemos que a diferença entre o remédio e o veneno esta no tamanho da sua dose.
Ainda sigo num estudo preliminar da relação da IA com o indivíduo e a sociedade, que em breve deve virar mais um livro, mas posso apontar alguns pontos:
Em primeiro lugar vejo pessoas acreditando que a IA generativa é um oráculo infalível, o que é um perigo. Estudo desenvolvido por um pesquisador da UFF, produziu uma interação com o Chat GPT, onde a IA generativa traçou inúmeros argumentos em que beber “agua de bateria” seria bom para o estômago. Estas aberrações são delírios de uma IA que foi feita para responder aos prompts, então um prompt mal formulado, pode produzir problemas reais.
Alguns indivíduos utilizam as IAs generativas como ferramenta auxiliar, seja como um LLM que permite consultar uma base de informações previamente construída, permitindo buscas e analises interessantes e úteis para o dia a dia. Mas outros alimentam um LLM com dezenas ou até centenas de artigos acadêmicos, e pedem para a IA produzir um novo texto científico. Além da possibilidade de erro, e do texto horrível em termos acadêmicos, o individuo neste caso esta simplesmente destruindo sua capacidade cognitiva em diversos espectros. Seja pela capacidade de ler e conectar os diversos artigos, produzindo uma linha de raciocínio que dialogue com as suas hipóteses para o artigo em questão, como também não cria uma memória que permita produzir nexo ao conectar informações distintas a longo prazo.
Se para indivíduos com a sua capacidade cognitiva desenvolvida o uso massivo da IA generativa é um problema, imagine para crianças e adolescentes que ainda estão treinando seus cérebros a processarem informação. Com a morte das enciclopédias de papel, a Internet passou a ser uma fonte de informação para este público, que agora terceiriza para a IA generativa a tarefa de produzir uma pesquisa escolar inteira, um resumo de livro paradidático e até mesmo seu dever de casa.
Isto somado aos inúmeros problemas apontados por Jonathan Haidt no livro “A geração ansiosa: Como a infância hiperconectada está causando uma epidemia de transtornos mentais” esta produzindo uma geração inútil, que será incapaz de subsistir por conta própria. Neste cenário podemos enxergar uma geração que dependerá da tecnologia para tudo, até para pensar, e sem nenhuma capacidade de pensar e interagir…
Parece que estamos vendo a morte lenta do pensamento crítico…
A quem interessa uma humanidade estúpida?