Gemini, que não deveria falar sobre eleições, diz que Pablo Marçal (PRTB-SP) é figura que se destaca no cenário político e que Fuad Noman (PSD-MG) é 'moderado' e 'pragmático'
Urna eletrônica: IA do Google não respeita regra da própria empresa e responde sobre candidatos da maioria das capitais — Foto: Leo Martins
Porto Velho, Rondônia - Em um pedido para que diga quem é Pablo Marçal (PRTB), a inteligência artificial do Google, o Gemini, diz tratar-se de "figura que tem se destacado no cenário político brasileiro", com uma campanha para as eleições de 2024 marcada "por diversas polêmicas".
Sobre Ricardo Nunes (MDB), a IA afirma que o prefeito busca a reeleição e que "uma das marcas da sua gestão" é o investimento "em obras de infraestrutura", incluindo "a construção de novas escolas". José Luiz Datena (PSDB) é definido como um dos "principais apresentadores de televisão" do país, que "demonstra empatia pelas vítimas de crimes".
Ao traçar um perfil dos candidatos à eleição da maior cidade do país, a inteligência artificial fere uma regra criada pelo próprio Google. Em agosto, a empresa informou que iria importar para o Brasil a mesma política em vigor nos Estados Unidos que impede o robô de tratar de temas eleitorais.
"Nossos usuários dependem de nós para fornecer informações confiáveis e atualizadas sobre tópicos como candidatos, processos de votação e resultados eleitorais — e essa nova tecnologia (a IA generativa) pode cometer erros", afirmou Laurie Richardson, vice-presidente de Confiança e Segurança do Google, em texto sobre a aplicação da decisão nos EUA.
No caso da capital paulista, o filtro funciona para perguntas sobre o perfil de Guilherme Boulos (PSOL) e Tabata Amaral (PSB). Para eles, o Gemini traz a informação padrão que deveria colocar para todos os candidatos: de que não pode ajudar "com respostas sobre eleições e personalidades políticas".
A falha que acontece para a maior cidade do país se repete em ao menos vinte capitais brasileiras, segundo levantamento feito pelo GLOBO. As pesquisas seguiram o mesmo padrão para todas as cidades, com pedido para que a IA trouxesse informações sobre ao menos quatro candidatos. Procurado pela reportagem, o Google não quis comentar.
No Rio de Janeiro, informações sobre Eduardo Paes (PSD), Alexandre Ramagem (PL) e Tarcísio Motta (Psol) são vetadas. Mas o Gemini não recusa traçar um perfil de Cyro Garcia, definido como um "socialismo revolucionário" e "figura respeitada e influente na esquerda brasileira".
O perfil dos candidatos sobre os quais a IA decide ou não falar é diverso. As respostas podem ser negadas ou respondidas para candidatos da esquerda ou da direita, para nanicos e ou para os que lideram as pesquisas. O mesmo acontece em municípios mais ou menos populosos.
Entre os vinte prefeitos que buscam a reeleição, o Gemini se recusa a falar sobre onze, entre eles João Campos (PSB), de Recife, Bruno Reis (União Brasil), de Salvador, e José Sarto (PDT), de Fortaleza. Para aqueles sobre os quais a IA gera conteúdo, o tom costuma ser elogioso.
Cícero Lucena (PP), que lidera as pesquisas em João Pessoa, é tido como um político de "grande popularidade", com uma gestão focada em obras de infraestrutura. A prefeita de Campo Grande, Adriane Lopes (PP), é descrita pelo "compromisso com valores cristãos" e por ser "atenta às demandas da população". A descrição do prefeito de Belo Horizonte, Fuad Noman (PSD), tem adjetivos como "moderado" e "pragmático". "Ele tem enfatizado a importância de uma gestão eficiente e transparente", acrescenta o Gemini.
Mas em alguns casos, a IA omite informações relevantes. Sobre Sebastião Melo (MDB), a inteligência artificial ignora a atuação do prefeito nas enchentes que tomaram Porto Alegre em abril e junho. "Sua gestão tem sido marcada por um diálogo constante com a sociedade civil e por uma busca por consensos em torno das principais questões da cidade", afirma o Gemini.
Já o prefeito de Teresina, Dr. Pessoa (PRD), tem sua biografia gerada pela IA praticamente inteira definida pelo episódio em que ele "protagonizou uma cena chocante ao dar uma cabeçada em um candidato adversário". A agressão aconteceu durante o primeiro debate entre os candidatos à prefeitura da capital piauiense, no início de agosto. "Para além desse episódio, é importante buscar informações mais aprofundadas sobre Dr. Pessoa", afirma o robô, que sugere buscas em sites, mas não fornece maiores informações.
Em pelo menos quatro casos, o Gemini indica o site oficial do candidato. A sugestão aparece para buscas sobre o deputado Professor Júnior Geo (PSDB), de Palmas, Felipe Camozzato (Novo), de Porto Alegre, Marina Helena (Novo), de São Paulo, e Catarina Guerra (União), de Boa Vista.
Perguntas mais específicas sobre a disputa eleitoral (como a chance de um determinado perfil vencer ou os pontos fortes de uma candidatura) não são respondidas. O Gemini também bloqueia conteúdo sobre pesquisas eleitorais e perguntas mais simples como "onde descobrir o local de votação para as eleições de 2024".
Nos perfis de candidatos do Novo, são comuns destaques para a defesa da "liberdade econômica" e da "transparência". Para os candidatos mais a esquerda, aparecem com frequência termos "luta de classes" e "militância".
Outros chatbots de inteligência artificial generativa que operam no Brasil, como o ChatGPT e o Claude, não criaram restrições para conteúdo político ou eleitoral. As ferramentas são conhecidas por gerarem informações que podem ter erros ou imprecisões.
Marco Aurelio Ruediger, diretor da Escola de Comunicação, Mídia e Informação da Fundação Getulio Vargas (FGV ECMI), afirma que a profusão de sistemas de IA generativa ainda deve mudar a forma como as pessoas fazem buscas na internet, em um "jogo de interação" que deve ser tornar mais complexo. Ele destaca que os resultados mostram que "até para o Google" pode ser difícil controlar os filtros das respostas.
— Estamos no prelúdio de uma relação que talvez a gente ainda não consiga entender. Mas certamente haverá uma complexidade maior. [...] Pode se tornar uma questão enorme em poucos anos, até nas eleições de 2026 — afirma o pesquisador.
Os modelos de IA generativa, como o Gemini, costumam coletar enormes quantidades de dados na internet para serem treinados a dar respostas. Fernando Ferreira, doutor em inteligência computacional e pesquisador do NetLab da UFRJ, afirma que a saída (os resultados) desses sistemas são baseados em probabilidade.
Ele lembra que o processo de treinamento desses sistemas envolve duas etapas principais. Primeiro, a IA gera respostas com base em padrões e probabilidades, ou seja, ela calcula a sequência de palavras que faz mais sentido de acordo com o contexto. Depois, passa por uma segunda fase de treinamento, chamada de aprendizado por reforço, em que ela é "ensinada" a ajustar o que responde.
—A dificuldade é essa. Fazer esse alinhamento para absolutamente tudo. Termos mais simples relacionados a eleições podem ser mais fáceis de serem barrados, mas nomes específicos, por exemplo, não. Me parece que falta um mapeamento de quem são os candidatos — avalia Ferreira.
— Minha preocupação é as pessoas usarem esses modelos generativos como fontes de informação. Eles são modelos probabilísticos, e não fontes confiáveis. — acrescenta.
Fonte: O GLOBO
Porto Velho, Rondônia - Em um pedido para que diga quem é Pablo Marçal (PRTB), a inteligência artificial do Google, o Gemini, diz tratar-se de "figura que tem se destacado no cenário político brasileiro", com uma campanha para as eleições de 2024 marcada "por diversas polêmicas".
Sobre Ricardo Nunes (MDB), a IA afirma que o prefeito busca a reeleição e que "uma das marcas da sua gestão" é o investimento "em obras de infraestrutura", incluindo "a construção de novas escolas". José Luiz Datena (PSDB) é definido como um dos "principais apresentadores de televisão" do país, que "demonstra empatia pelas vítimas de crimes".
Ao traçar um perfil dos candidatos à eleição da maior cidade do país, a inteligência artificial fere uma regra criada pelo próprio Google. Em agosto, a empresa informou que iria importar para o Brasil a mesma política em vigor nos Estados Unidos que impede o robô de tratar de temas eleitorais.
"Nossos usuários dependem de nós para fornecer informações confiáveis e atualizadas sobre tópicos como candidatos, processos de votação e resultados eleitorais — e essa nova tecnologia (a IA generativa) pode cometer erros", afirmou Laurie Richardson, vice-presidente de Confiança e Segurança do Google, em texto sobre a aplicação da decisão nos EUA.
No caso da capital paulista, o filtro funciona para perguntas sobre o perfil de Guilherme Boulos (PSOL) e Tabata Amaral (PSB). Para eles, o Gemini traz a informação padrão que deveria colocar para todos os candidatos: de que não pode ajudar "com respostas sobre eleições e personalidades políticas".
A falha que acontece para a maior cidade do país se repete em ao menos vinte capitais brasileiras, segundo levantamento feito pelo GLOBO. As pesquisas seguiram o mesmo padrão para todas as cidades, com pedido para que a IA trouxesse informações sobre ao menos quatro candidatos. Procurado pela reportagem, o Google não quis comentar.
No Rio de Janeiro, informações sobre Eduardo Paes (PSD), Alexandre Ramagem (PL) e Tarcísio Motta (Psol) são vetadas. Mas o Gemini não recusa traçar um perfil de Cyro Garcia, definido como um "socialismo revolucionário" e "figura respeitada e influente na esquerda brasileira".
O perfil dos candidatos sobre os quais a IA decide ou não falar é diverso. As respostas podem ser negadas ou respondidas para candidatos da esquerda ou da direita, para nanicos e ou para os que lideram as pesquisas. O mesmo acontece em municípios mais ou menos populosos.
Entre os vinte prefeitos que buscam a reeleição, o Gemini se recusa a falar sobre onze, entre eles João Campos (PSB), de Recife, Bruno Reis (União Brasil), de Salvador, e José Sarto (PDT), de Fortaleza. Para aqueles sobre os quais a IA gera conteúdo, o tom costuma ser elogioso.
Cícero Lucena (PP), que lidera as pesquisas em João Pessoa, é tido como um político de "grande popularidade", com uma gestão focada em obras de infraestrutura. A prefeita de Campo Grande, Adriane Lopes (PP), é descrita pelo "compromisso com valores cristãos" e por ser "atenta às demandas da população". A descrição do prefeito de Belo Horizonte, Fuad Noman (PSD), tem adjetivos como "moderado" e "pragmático". "Ele tem enfatizado a importância de uma gestão eficiente e transparente", acrescenta o Gemini.
Mas em alguns casos, a IA omite informações relevantes. Sobre Sebastião Melo (MDB), a inteligência artificial ignora a atuação do prefeito nas enchentes que tomaram Porto Alegre em abril e junho. "Sua gestão tem sido marcada por um diálogo constante com a sociedade civil e por uma busca por consensos em torno das principais questões da cidade", afirma o Gemini.
Já o prefeito de Teresina, Dr. Pessoa (PRD), tem sua biografia gerada pela IA praticamente inteira definida pelo episódio em que ele "protagonizou uma cena chocante ao dar uma cabeçada em um candidato adversário". A agressão aconteceu durante o primeiro debate entre os candidatos à prefeitura da capital piauiense, no início de agosto. "Para além desse episódio, é importante buscar informações mais aprofundadas sobre Dr. Pessoa", afirma o robô, que sugere buscas em sites, mas não fornece maiores informações.
Em pelo menos quatro casos, o Gemini indica o site oficial do candidato. A sugestão aparece para buscas sobre o deputado Professor Júnior Geo (PSDB), de Palmas, Felipe Camozzato (Novo), de Porto Alegre, Marina Helena (Novo), de São Paulo, e Catarina Guerra (União), de Boa Vista.
Perguntas mais específicas sobre a disputa eleitoral (como a chance de um determinado perfil vencer ou os pontos fortes de uma candidatura) não são respondidas. O Gemini também bloqueia conteúdo sobre pesquisas eleitorais e perguntas mais simples como "onde descobrir o local de votação para as eleições de 2024".
Nos perfis de candidatos do Novo, são comuns destaques para a defesa da "liberdade econômica" e da "transparência". Para os candidatos mais a esquerda, aparecem com frequência termos "luta de classes" e "militância".
Outros chatbots de inteligência artificial generativa que operam no Brasil, como o ChatGPT e o Claude, não criaram restrições para conteúdo político ou eleitoral. As ferramentas são conhecidas por gerarem informações que podem ter erros ou imprecisões.
Marco Aurelio Ruediger, diretor da Escola de Comunicação, Mídia e Informação da Fundação Getulio Vargas (FGV ECMI), afirma que a profusão de sistemas de IA generativa ainda deve mudar a forma como as pessoas fazem buscas na internet, em um "jogo de interação" que deve ser tornar mais complexo. Ele destaca que os resultados mostram que "até para o Google" pode ser difícil controlar os filtros das respostas.
— Estamos no prelúdio de uma relação que talvez a gente ainda não consiga entender. Mas certamente haverá uma complexidade maior. [...] Pode se tornar uma questão enorme em poucos anos, até nas eleições de 2026 — afirma o pesquisador.
Os modelos de IA generativa, como o Gemini, costumam coletar enormes quantidades de dados na internet para serem treinados a dar respostas. Fernando Ferreira, doutor em inteligência computacional e pesquisador do NetLab da UFRJ, afirma que a saída (os resultados) desses sistemas são baseados em probabilidade.
Ele lembra que o processo de treinamento desses sistemas envolve duas etapas principais. Primeiro, a IA gera respostas com base em padrões e probabilidades, ou seja, ela calcula a sequência de palavras que faz mais sentido de acordo com o contexto. Depois, passa por uma segunda fase de treinamento, chamada de aprendizado por reforço, em que ela é "ensinada" a ajustar o que responde.
—A dificuldade é essa. Fazer esse alinhamento para absolutamente tudo. Termos mais simples relacionados a eleições podem ser mais fáceis de serem barrados, mas nomes específicos, por exemplo, não. Me parece que falta um mapeamento de quem são os candidatos — avalia Ferreira.
— Minha preocupação é as pessoas usarem esses modelos generativos como fontes de informação. Eles são modelos probabilísticos, e não fontes confiáveis. — acrescenta.
Fonte: O GLOBO
Tags:
POLÍTICA