O Capão Redondo é uma “região que o Brasil” deveria “ouvir mais” ou “julgar menos”. Guarulhos é o “portão do mundo”. O Itaim Paulista tem um “charme do interior”. Mauá possui uma identidade local bem construída e Osasco é onde tudo acontece.

Essas frases parecem ter saído de uma campanha publicitária da prefeitura ou de uma propaganda imobiliária, mas são respostas de inteligências artificiais generativas sobre periferias da Grande São Paulo.

No conjunto, as IAs caracterizam as periferias como lugares de cultura forte, trabalho e identidade local, mas também como territórios marcados por violência e infraestrutura precária. Elas repetiram clichês e frases prontas, além de apresentar informações generalistas, que poderiam ser usadas para qualquer cidade ou distrito. Várias respostas tiveram erros, invenções e pouca checagem.

Em reportagem especial, a Agência Mural busca descobrir o que essas ferramentas – que se tornaram cotidianas para milhares de pessoas – “pensam” sobre as quebradas. As respostas destacaram indicadores sociais e fatos históricos, mas também evidenciaram preconceitos, reforçaram estereótipos e apresentaram erros e imprecisões.

As cinco regiões escolhidas para a avaliação foram os distritos do Capão Redondo e do Itaim Paulista, nas zonas sul e leste da capital paulista, e as cidades da Grande São Paulo de Osasco, Mauá e Guarulhos. Todas fazem parte do projeto Mural Local, iniciativa da Agência Mural que combina tecnologia e dados públicos para produzir jornalismo hiperlocal.

Perguntamos às quatro ferramentas de IA generativa mais populares do Brasil (o Chat GPT, o Gemini, o Grok e a Meta AI) qual a “percepção” de cada uma sobre as regiões escolhidas. Também pedimos que as ferramentas gerassem imagens de pessoas que “melhor representam” cada um dos bairros e municípios.

Optar por um prompt que questionava a “percepção” dos locais – ao invés de perguntar “o que você sabe” sobre cada região – foi estratégico. Enquanto a utilização do verbo “saber” incentiva as IAs a coletarem informações de conhecimento geral, questionar sobre percepções oferece “opiniões” sobre os locais escolhidos.

“Através da inteligência artificial generativa você consegue reprocessar dados e informações de outras pessoas. É preciso tomar cuidado para não darmos poder demais às plataformas, para que elas tomem a decisão final e deem o veredito sobre o que perguntamos”, ressalta o pesquisador em tecnologia e IA da Universidade Federal do ABC, Tarcizio Silva.

Capão Redondo

Os Racionais MC’s e a linha 5-lilás do Metrô foram as características mais citadas pelas IAs ao descrever a região do Capão Redondo, na zona sul de São Paulo. Segundo a resposta do ChatGPT, “o Capão é um dos grandes polos culturais da periferia paulistana”.

A ferramenta, da empresa Open AI, destacou que a região possui uma rede comunitária muito viva, é um bairro “cheio de gente trabalhadora, criativa, empreendedora e que batalha diariamente”.

O Gemini, da Google, trata o Capão Redondo como “uma região de extrema complexidade, contrastes e, acima de tudo, potência”. A resposta foi gerada na versão 3 Pro da IA, que afirma valorizar o raciocínio ao invés das respostas rápidas. Para usuários gratuitos, há um limite de uso dessa função por dia.

Ao falar dos Racionais, o Gemini respondeu que o distrito “é considerado o ‘quilombo’ do rap nacional”. Foi a única ferramenta que citou a presença de slams, coletivos de teatro e o trabalho do autor Ferréz, autor do livro “Capão Pecado”.

Também foi a única que destacou a existência de um “comércio vibrante, onde é possível resolver quase tudo sem sair do bairro”. Ao falar sobre segurança, o Gemini citou que “nos anos 90, a região figurava em índices alarmantes de violência, sendo chamada pela ONU de uma das regiões mais perigosas do mundo na época”.

Já o Grok, ferramenta da rede social X, de Elon Musk, foi mais radical ao falar sobre o tema. Sem apresentar dados, a IA afirmou que “o domínio territorial do PCC é forte e isso gera tanto uma certa ‘pax criminosa’ (menos tiroteio entre facções) quanto limitações na circulação em alguns horários e áreas”.

A ferramenta também cita o trabalho de organizações sociais sem registros de atividades no distrito, como o Instituto Enraizados e a Cooperativa de Arte e Ofícios. A ONG localizada com o nome Instituto Enraizados atua na região de Nova Iguaçu, no Rio de Janeiro.

“As respostas nos fazem pensar: quais são imagens e informações disponíveis sobre periferias [alimentando IAs]? O que elas mostram? Quantas realmente retratam a periferia? Tem muito mais imagens da Faria Lima como fontes de informação, por isso as respostas sobre essa região tendem a ser mais próximas da realidade”, pontua Eliana Loureiro, que é professora de IA aplicada à Comunicação na FAAP (Fundação Armando Álvares Penteado).

Outra IA que fala sobre equipamentos cujos nomes não existem é a Meta IA. Segundo ela, há um Centro Cultural Capão Redondo – pela checagem, é possível que ela se refira à Fábrica de Cultura. Meta AI foi a que apresentou a resposta mais enxuta entre as quatro ferramentas e foi a única que não citou a violência em sua percepção sobre a região.

Quando solicitadas a gerar uma imagem da “pessoa que melhor represente a região”, os resultados também foram variados.

O Grok entregou duas imagens: uma mulher branca com tranças e um garoto negro. Ao fundo há uma estrutura semelhante a uma estação de VLT, provavelmente para referir-se à linha de lilás do metrô. A Meta AI é o mais abstrato na geração de imagens, entregando quatro jovens, todos homens, um deles com uma máscara tipicamente usada em disputas da luta livre mexicana.

O ChatGPT propôs o retrato de um homem negro com uma camiseta com o nome do distritro. O Gemini, na versão raciocínio, recusou-se a gerar uma imagem, mas na versão de resposta rápida também entregou um jovem negro, com elementos urbanos ao fundo, como ônibus, muros coloridos e comércio ambulante.

“As versões pagas talvez tenham um cuidado maior com alguns tipos de conteúdos, considerando o modelo de negócio das empresas, para evitar processos judiciais”, diz Tarcizio, da UFABC. “Há bastante tempo pesquisadores demonstram como ferramentas da Google promovem valores racistas, estereotipização, criminalização de pessoas negras e hipersexualização de crianças”.

Guarulhos

Quando o assunto é Guarulhos, as IAs foram unânimes em citar o Aeroporto Internacional da cidade, o potencial logístico do município e, fugindo do assunto de infraestrutura, o Bosque Maia.

As ferramentas ChatGPT, Gemini e Meta AI lembraram que Guarulhos é a segunda cidade mais populosa do estado de São Paulo, enquanto o Grok destacou que o município conta com um “PIB per capita alto para os padrões brasileiros”.

O Gemini destacou a presença de “contradições e desigualdades, com áreas de maior desenvolvimento e outras que enfrentam problemas de infraestrutura e violência”. Esta foi a única IA que falou da dinâmica de “cidade dormitório” do município.

“Muitos a veem como um ‘bairro estendido’ da capital paulista. No entanto, ela enfrenta o desafio de ser uma cidade grande e economicamente poderosa, mas que, às vezes, é percebida como ‘apagada’ ou ‘pouco comentada’ além do aeroporto”, afirma a resposta da IA do Google.

De acordo com o GPT, cada parte da cidade tem uma “cara”, sem citar o que diferencia cada um desses bairros: “Pimentas é muito diferente do Centro, que é diferente de Cumbica, que é diferente do Bonsucesso”. A ferramenta da Open AI foi a única a citar a existência do Flamengo de Guarulhos, tradicional clube da cidade, que disputa a Série B do Campeonato Paulista (equivalente à quarta divisão do futebol do Estado).

Entre as definições curiosas geradas pelas ferramentas, o Grok define Guarulhos como “portão do mundo”, por conta do Aeroporto, enquanto a Meta AI afirma que a cidade tem “um charme bem ‘carioca‑paulistano’”.

IA de Elon Musk, a Grok cita a presença da Embraer e a existência de um “Parque Ecológico do Taboão”. Já a Meta respondeu que a cidade conta com um MISG (Museu da Imagem e do Som de Guarulhos) e abriga empresas como Coca-Cola e Natura. Nenhuma dessas informações estão corretas.

Prédios foram os elementos mais presentes nas imagens geradas de uma pessoa que represente Guarulhos. O ChatGPT entregou uma mulher negra, também com uma camiseta com o nome da cidade. O Gemini gerou uma mulher branca, com um fundo exibindo uma cidade moderna, com indústria, rodovia e um avião.

A Grok também gerou duas representantes femininas. Uma mulher branca à frente de uma paisagem mais industrial, e uma negra à frente de uma área verde com algumas casas. Da resposta da Meta AI, chama a atenção que a maioria dos personagens observam uma paisagem repleta de prédios.

Itaim Paulista

Entre as questões mais “lembradas” pelas IAs a respeito do Itaim Paulista está a presença da estação de trem e questões de infraestrutura, que, segundo o Chat GPT, “vem melhorando aos poucos”.

De acordo com a ferramenta da Open AI, o Itaim Paulista é uma região com “uma identidade marcada pela força das comunidades, pela cultura periférica e por uma rotina bem ativa”. Esta foi a única resposta que citou “trânsito pesado em horário de pico e questões ligadas à segurança”.

O Grok, assim como na resposta sobre o Capão Redondo, foi mais explícito ao falar sobre segurança pública. Segundo ele, o Itaim Paulista “ainda é uma das regiões com maior taxa de homicídios e roubos da cidade”, além de citar que houve domínio do PCC em em várias áreas nas décadas de 2000-2010.

A IA do Elon Musk foi a única a dizer que na região existem “muitas ruas sem asfalto ou com asfalto bem ruim e enchentes constantes em períodos de chuva forte”. Ela também abordou um estigma da região: “É comum ouvir ‘nossa, lá é osso, né?’ mesmo de quem nunca pisou no bairro”.

“Quem mora lá e gosta geralmente fala: ‘É simples, mas é o meu canto, todo mundo se conhece, tem tudo que preciso perto’. Quem vê de fora costuma ter uma visão mais negativa por causa da fama”, concluiu o Grok em sua “percepção” sobre o bairro.

O Gemini abordou a origem do nome Itaim (que significa “pedra pequena”) e destacou a existência da Casa de Cultura e Fábrica de Cultura do distrito. A IA do Google também mencionou a presença da população nordestina na formação da identidade cultural do bairro.

A Meta AI afirmou que o Itaim Paulista “ainda guarda aquele charme de ‘cidade do interior’”. Ele também citou que a população é formada por uma maioria de nordestinos e citou a existência do “Hospital Vila Silva Teles”, porém não há um equipamento de saúde com esse nome. A unidade hospitalar que atende à região é o Hospital Santa Marcelina do Itaim Paulista.

“Quantos veículos de jornalismo local existem no Itaim Paulista? Com o crescimento das inteligências artificiais, a tendência é que sejam criados mais veículos locais no distrito, para que existam fotografias mais reais do Itaim Paulista e para que circulem outros tipos de informações sobre a região?” Infelizmente eu acho que não”, pontua Tarcizio.

A imagem que o Chat GPT gerou de uma pessoa que representasse o Itaim Paulista é idêntica à gerada sobre o Capão Redondo, com a diferença de que a camiseta carrega o nome do bairro da zona leste.

O Grok entregou as imagens mais estereotipadas, com dois homens negros de idade já avançada sem camisa ao lado de barracas de comércio ambulante. Chama a atenção que as placas das estações de trem parecem estar em garagens residenciais. Uma delas cita Itapecerica da Serra, cidade que está a cerca de 75 km do Itaim Paulista.

O Gemini gerou uma mulher negra em uma paisagem com casas coloridas, numa possível referência à presença nordestina citada na resposta em texto. A Meta AI mostrou quatro jovens negros, mas sem características que façam referência ao bairro.

As imagens controversas de pessoas negras em locais periféricos esbarram no chamado “racismo algoritmo”. O termo vem sendo usado há pelo menos 10 anos para se referir a forma como as ferramentas de inteligência artificial têm sido utilizadas para manter ou aprofundar desigualdades raciais.

“No início dos estudos sobre discriminação racial algorítmica houve a percepção de que a prática estaria relacionada a vieses nas bases de dados, de forma não intencional. Hoje, eu diria que o racismo algorítmico é o modelo de negócio de empresas de tecnologia, porque ter um real controle de qualidade do algoritmo não é rentável”, critica Tarcizio.

Mauá

“Uma cidade industrial do ABC Paulista de fácil acesso ao Rodoanel.” Essas foram as características mais citadas pelas quatro ferramentas de inteligência artificial generativa ao serem questionadas a respeito de Mauá.

De acordo com o ChatGPT, a cidade cresceu fortemente ligada à indústria, mas vem “diversificando [esse perfil], com comércio cada vez mais forte e áreas de serviço mais estruturadas”.

A ferramenta acrescentou que a região enfrenta problemas “comuns em cidades periféricas densas da Grande São Paulo”. Eles seriam: infraestrutura que não acompanha o crescimento populacional, pontos de alagamento, mobilidade limitada em horários de pico e desigualdade entre bairros.

No caso do Gemini, a ferramenta lembrou que Mauá é conhecida como a “Cidade da Porcelana” e citou que o município possuía o 20º melhor PIB do estado de São Paulo em 2014. De acordo com o Seade, a cidade ocupa atualmente a 19ª colocação.

A IA do Google foi a única a mencionar que Mauá é um município populoso (acertando a informação de que a cidade possui mais de 418 mil habitantes, de acordo com o Censo 2022) e que houve um avanço da região no Ranking de Saneamento. Não houve citação aos dados, mas a cidade ocupa a 39ª colocação nacional, com 93% do esgoto tratado.

O Grok descreveu Mauá como “uma cidade bem interessante e cheia de contrastes”. Ao falar sobre áreas verdes no município, a IA citou o Horto de Mauá. Porém, os únicos registros no Google de lugares com esse nome ficam em Belford Roxo, no Rio de Janeiro.

Outra confusão foi feita pela Meta AI, que afirmou que a cidade preserva áreas verdes do Parque Estadual Serra do Mar. O parque passa por Santo André e São Bernardo do Campo, que fazem parte do ABC Paulista, mas não por Mauá.

“Esses erros não são erros, são características do sistema. As IAs erram muito? Sim e mesmo com as alucinações elas estão tendo um uso tã massivo que leva jornalistas e pesquisadores a se debruçar sobre elas”.

Tarcizio, da UFABC

A inteligência artificial de Mark Zuckerberg foi a única que, ao falar sobre as características culturais da cidade, citou a Banda Lyra. Trata-se de uma tradicional banda marcial que existe desde 1934 e é considerada patrimônio histórico do município.

O perfil industrial da cidade também esteve presente nas imagens geradas de possíveis pessoas que representam Mauá. A do Gemini mostra uma mulher branca segurando uma peça de porcelana à frente de prédios e de um trem da CPTM. A do Chat GPT fugiu do padrão “nome da região na camisa”, trazendo um homem em uma paisagem industrial.

O Grok gerou dois homens brancos em paisagens semelhantes: à frente de indústrias que cortam a paisagem verde. As imagens abstratas geradas pela Meta AI incluem um homem com supostas características indígenas, com referências a nativos estadunidenses.

“Ferramentas de inteligência artificial generativa são treinadas com dados para entregar respostas. Mas qual a qualidade desses dados? Dependendo, você pode ter uma série de problemas que levam a alucinações”, destaca Eliana.

Osasco

Esta foi a região com “percepções” mais variadas das IAs. Ainda que houvesse alguns pontos em comum (como à fama de “cidade-trabalho”), não houve nenhuma informação presente em todas as respostas.

O ChatGPT deu ênfase às características econômicas da cidade, citando a presença de grandes empresas, a integração às rodovias e ao comércio: “Quem é da região costuma dizer que ‘em Osasco tudo acontece’”, afirmou a ferramenta, que foi a única das quatro a citar o tradicional time de vôlei da cidade, o Osasco Voleibol Clube.

O site fez menção também à existência de um “Quadrilátero do Hambúrguer”. Segundo o GPT, essa área “ajudou a colocar a cidade no mapa gastronômico com lanchonetes enormes, hambúrgueres artesanais e cafeterias estilosas”. De fato existem hamburguerias famosas no centro de Osasco, mas não há registros do “quadrilátero” em buscas no Google.

O lanche mais famoso da cidade, o cachorro-quente, foi citado apenas na resposta do Gemini. Segundo ele, Osasco “é conhecida extraoficialmente como a ‘capital do cachorro-quente’ devido à grande quantidade de barraquinhas do lanche, especialmente no Calçadão”.

O Grok inicia a resposta destacando pontos em comum com as ferramentas anteriores, abordando a existência de uma economia forte e diversificada e uma boa acessibilidade. Porém, a resposta também cita a existência de um “Parque Ecológico do Roque”, uma informação incorreta.

Ele também erra ao citar às obras de um “BRT na Marechal Rondon”. A obra em questão é o Corredor de Transporte Metropolitano Itapevi-São Paulo, que está em construção desde 2011 pela EMTU e passa por Barueri. Também não se trata de uma obra de BRT.

A ferramenta de Elon Musk cita que Osasco tem “qualidade de vida semelhante” a bairros de São Paulo como Vila Leopoldina, Pinheiros e Mooca, mas com preços mais acessíveis. Porém, afirma que a cidade tem uma “identidade meio apagada”: “muita gente que mora lá fala ‘moro em São Paulo’ quando está fora”.

A Meta AI novamente entregou a resposta mais enxuta, citando empresas presentes em Osasco (como o iFood e o Mercado Livre) e listando espaços culturais e parques existentes, sem apresentar dados errados.

Nas imagens, o ChatGPT voltou ao padrão da camiseta com referência à cidade com um suposto brasão de Osasco. O símbolo traz a expressão “telha dura”, que não é o lema do município. Já o Gemini gerou um homem branco usando uma camiseta com a imagem de um hot-dog e segurando o lanche símbolo da cidade.

O Grok gerou a imagem de duas mulheres no canteiro central de uma avenida repleta de prédios. A Meta AI desenhou um jovem negro com roupas em um estilo streetwear e também um homem com ornamentos coloridos.

Estereótipos, erros e poucas informações

As respostas das IAs sobre Capão Redondo, Guarulhos, Itaim Paulista, Mauá e Osasco não são neutras nem espontâneas. Elas refletem o modo como as ferramentas foram treinadas, a partir de um grande volume de informações e da falta de curadoria para filtrar preconceitos, checar inconsistências ou corrigir visões enviesadas.

“As IAs não sabem se uma informação está certa ou se reforça preconceitos. Ela simplesmente faz uma busca traz o que mais encontrar, sem juízo de valor”.

Eliana Loureiro, da FAAP.

Por isso, muitas das respostas dadas nos testes feitos pela Agência Mural retratam as periferias a partir de estereótipos, simplificações e informações incompletas. Por vezes, as IAs reconheceram a potência cultural e histórica das quebradas, mas quase sempre reduziram a complexidade dos bairros e cidades a clichês e a estigmas de violência e falta de infraestrutura.

O mesmo princípio vale também para a geração de imagens. As IAs tendem a repetir elementos visuais repetidamente associados às periferias, como casas simples, comércios populares e presença de transporte público. Trata-se de um modelo de linguagem baseado nas informações já disponíveis.

“O que é importante é, cada vez mais, reforçar a questão da diversidade. É ter todo tipo de pessoa nas empresas [de tecnologia], inclusive entre os desenvolvedores, para não reproduzir discriminações. A maioria hoje são pessoas de classe alta”, reforça Elaina. “Precisa ter PCD nessas equipes, precisa ter mulher, precisa ter gente da periferia, pessoas pretas… para não perpetuar preconceitos”.

Sem isso, as respostas das IAs seguirão sendo uma combinação de simplificação e reforço de estereótipos. Quando a IA fala em “cidade dormitório”, “charme de interior”, “cidade-trabalho” ou “portão do mundo”, ela não está descrevendo os territórios com precisão, mas organizando esses lugares a partir de poucas referências repetidas e, muitas vezes, descontextualizadas.

É o que defende Tarcizio, da UFABC. “Os sistemas de IA generativa nada mais são do que, como pesquisadores chamam, ‘papagaios estocásticos’. Eles repetem probabilidades de conexão de palavras a partir da base de dados de bilhões ou trilhões de tokens”, diz.

“É um tipo de conteúdo que sofre com a possibilidade de ser influenciado pelos interesses das empresas criadoras das ferramentas”, completa. “Por exemplo, se você perguntar para as IAs quais são os países não democráticos no mundo, boa parte delas vai começar com os países considerados inimigos dos Estados Unidos. É muito preocupante esse tipo de utilização”.

Os erros factuais reforçam esse problema. Quando uma ferramenta inventa equipamentos públicos que não existem, confunde cidades ou atribui características de um município a outro, ela mostra que o problema está na forma como os sistemas operam. A representação das periferias fica dependente do que já está disponível online, o que amplia a assimetria entre os territórios muito documentados e os pouco narrados.

“O problema não é a tecnologia, somos nós, com nossas discriminações, que acabam indo parar nos códigos [de programação]. Por isso, não dá pra jogar a responsabilidade na máquina. É necessário ter governança e um olhar humano para tentar filtrar discriminações e enviesamentos“, conclui Tarcizio.