Manuel Castells analisa poder e inteligência artificial na pré-abertura da 25ª FIL

Sociólogo espanhol discutiu os efeitos da tecnologia sobre a comunicação, a autonomia dos usuários e as relações de poder. Programação da tarde também abordou os desafios da educação profissional

Foto: Sté Frateschi

A inteligência artificial não surgiu como uma força independente da ação humana, tampouco pode ser compreendida apenas por seus avanços técnicos. Para o sociólogo espanhol Manuel Castells, ela precisa ser examinada a partir das estruturas sociais, econômicas e políticas que orientam seu desenvolvimento. Homenageado como Autor Educação da 25ª FIL - Feira Internacional do Livro de Ribeirão Preto, o pensador participou on-line, neste sábado (29), da pré-abertura do evento, com a conferência “Inteligência Artificial e Sociedade em Rede”.

Mediado pelo professor João Flávio de Almeida, da Universidade de Ribeirão Preto (Unaerp), o encontro reuniu, na Tenda Sesc Senac, reflexões sobre conhecimento, comunicação, soberania tecnológica, impactos ambientais e concentração de poder. Referência internacional nos estudos sobre a era da informação, Castells conduziu o público para além das aplicações mais visíveis da IA e a situou em um ecossistema formado por pesquisadores, universidades, empresas, centros de dados e recursos naturais.

Ao afastar a ideia de que esses sistemas seriam dotados de inteligência autônoma, ressaltou a presença humana em todas as etapas do processo. “São seres humanos que programam agentes capazes de reproduzir, expandir-se e funcionar a partir de critérios também programados por seres humanos. Não é magia”, afirmou.

Segundo Castells, os grandes modelos de linguagem, conhecidos pela sigla LLM, constituem apenas uma parte desse universo. O movimento mais amplo está na criação de agentes especializados, desenvolvidos para executar tarefas e responder a objetivos determinados. Esse avanço continua dependente da produção de conhecimento. “A inteligência artificial necessita da capacidade humana de gerar conhecimento e isso ocorre em dois espaços: nas universidades e nas empresas. Sem pesquisadores, não existe inteligência artificial.”

Dados, recursos e poder

Foto: Sté Frateschi

Castells chamou a atenção para uma dimensão pouco percebida no uso cotidiano das plataformas: a participação dos próprios usuários no aperfeiçoamento dos sistemas. Cada comando ou informação fornecida contribui para o treinamento das máquinas e para a ampliação de sua capacidade de resposta.

“Todos os dias somos os melhores treinadores da inteligência artificial. Nós a treinamos com nossos dados, fornecidos gratuitamente”, observou. A aparente gratuidade dos serviços encobriria, portanto, uma forma de pagamento baseada na entrega contínua de informações. “Quando dizem que não pagamos pelo serviço, pagamos, sim: pagamos com nossos dados.”

A conferência também expôs a materialidade de uma tecnologia muitas vezes percebida como abstrata. Ao citar os estudos da pesquisadora Kate Crawford, Castells lembrou que os sistemas dependem de grandes volumes de energia, água, minerais e infraestrutura computacional. Sua expansão, desse modo, precisa ser analisada também pelos impactos ambientais provocados pelos centros de processamento de dados.

Ao aproximar o debate de conceitos desenvolvidos ao longo de sua obra, o sociólogo definiu a inteligência artificial como uma nova etapa da sociedade em rede e não como a origem de uma organização social inteiramente distinta. Em sua leitura, a tecnologia intensifica estruturas estabelecidas pela digitalização das relações econômicas, culturais, políticas e comunicacionais.

Para o pensador, a inteligência artificial não inaugura uma nova organização social, mas intensifica a lógica das redes que já atravessam a economia, a cultura, a política e a comunicação. “A IA é o acelerador, com esteroides, da estrutura social da sociedade em rede que já havia se constituído”, afirmou.

Essa aceleração também transforma a maneira como as pessoas acessam informações. Depois dos mecanismos de busca e das redes sociais, os agentes de IA passam a intermediar diretamente a relação dos usuários com o conhecimento disponível. Para Castells, essa mudança amplia a capacidade dos sistemas, mas pode reduzir a autonomia individual, uma vez que respostas e conteúdos são organizados por modelos concebidos e controlados por terceiros.

A questão central, nesse processo, é o poder. Castells comparou as relações de poder ao “DNA da sociedade”, por configurarem normas, instituições, leis e políticas. “As relações de poder constroem nossas vidas. Portanto, quem controla as redes controla o poder em todos os âmbitos”, declarou.

O domínio tecnológico, observou, deixou de se restringir ao próprio setor e alcançou áreas como comunicação, segurança, vigilância, transporte e defesa. Forma-se, assim, uma concentração de capital, capacidade tecnológica, informação e influência em um número reduzido de corporações. “A concentração não é apenas tecnológica nem somente de mercado. É uma concentração de informação e de poder.”

Autonomia tecnológica

Outro eixo da conferência foi a diferença entre sistemas de código aberto e fechado. Nos modelos abertos, pesquisadores, empresas e comunidades podem modificar os programas e adaptá-los às próprias necessidades. Nos fechados, as decisões permanecem concentradas nas organizações responsáveis pela tecnologia.

Ao comparar diferentes regiões, Castells observou que os Estados Unidos mantêm a liderança empresarial e financeira do setor, mas concentram boa parte das pesquisas nas grandes corporações. A China, por sua vez, combinou investimentos estatais, participação de universidades e incentivo ao código aberto. Essa estratégia, segundo ele, estimula a circulação do conhecimento e o desenvolvimento de soluções ajustadas a contextos específicos.

O pensador destacou o paradoxo de sistemas fechados predominarem em uma economia identificada com o livre mercado, enquanto o desenvolvimento chinês investe em modelos abertos. “Não é uma questão de ideologia. É porque o código aberto é muito mais eficaz: permite desenvolver capacidades de inovação e adaptação”, analisou.

Na Europa e na América Latina, Castells identificou iniciativas relevantes, mas avaliou que ainda há limitações para a construção de soberania tecnológica. Sem capacidade própria de pesquisa, infraestrutura e desenvolvimento, países e sociedades tornam-se dependentes de agentes programados em outros contextos, de acordo com interesses e valores que nem sempre correspondem às suas necessidades.

A conferência, assim, deslocou o debate sobre o futuro da inteligência artificial do campo das promessas para o das escolhas coletivas. Mais do que acompanhar o surgimento de novos programas, o desafio está em discutir quem desenvolve essas tecnologias, quais valores orientam seus sistemas, que recursos sustentam seu funcionamento e a serviço de quais projetos de sociedade elas serão colocadas.

Educação para o presente

A programação da tarde começou às 14h30, também na Tenda Sesc Senac, instalada na Esplanada do Theatro Pedro II, com o bate-papo “Educação Profissional e Tecnológica”, conduzido pela educadora Lucila Mara Sbrana Sciotti, superintendente de Operações do Senac São Paulo.

Lucila defendeu uma formação que ultrapasse o domínio de competências técnicas e incorpore temas como paz, inclusão, meio ambiente, arte e inteligência artificial. Durante o encontro, apresentou obras da coleção Educar Para, da Editora Senac, como ponto de partida para ampliar o repertório de estudantes e educadores. “Os assuntos transversais estão no cerne da nossa vida social e devem estar integrados a todo e qualquer currículo formal”, afirmou.

Na avaliação da educadora, a formação profissional não deve se limitar às demandas imediatas do mercado de trabalho, mas contribuir para preparar cidadãos capazes de compreender e transformar a realidade. Ao abordar as novas tecnologias, ela também defendeu uma postura crítica: “Educar para a inteligência artificial não pode ser educar para aceitar tudo sem questionar.”

Lucila ressaltou ainda a influência de Paulo Freire na educação brasileira e abordou a importância de seu método de alfabetização de adultos. “Quem está na escola é que vai desenhar o futuro, porque o futuro é feito por quem está atuando no presente”, concluiu.

Com os dois encontros, a tarde de pré-abertura da 25ª FIL aproximou educação e pensamento contemporâneo por meio de uma questão comum: a formação de pessoas capazes de participar criticamente das transformações de seu tempo. A Feira segue até 5 de setembro, com mais de 350 atividades gratuitas em diferentes espaços de Ribeirão Preto.