À medida que as falsificações geradas por IA proliferam, o Google planeja contra-atacar – Ars Technica

Na quarta-feira, no Google I/O 2023, o Google anunciar Três novos recursos projetados para ajudar as pessoas a identificar imagens falsas geradas por IA nos resultados de pesquisa, relatórios bloomberg. Os recursos identificarão as origens conhecidas de uma imagem, adicionarão metadados às imagens de IA geradas pelo Google e rotularão outras imagens geradas por IA nos resultados da pesquisa.

Graças aos modelos de sobreposição de imagem de IA, como Midjourney e Stable Diffusion, tornou-se trivial criar grandes quantidades de imagens falsas realistas, que podem não apenas influenciar desinformação e propaganda política, mas também nossa Conceito de registro histórico Onde circulam grandes quantidades de ferramentas de mídia falsa.

Em um esforço para combater algumas dessas tendências, a gigante das buscas introduzirá novos recursos em seu produto de busca de imagens “nos próximos meses”. de acordo com para o Google:

62% das pessoas acreditam que se deparam com desinformação diariamente ou semanalmente, de acordo com 2022 estudo de Poynter. É por isso que continuamos a criar ferramentas e recursos fáceis de usar na Pesquisa Google para ajudar você a identificar informações incorretas on-line, avaliar rapidamente o conteúdo e entender melhor o contexto do que você vê. Mas também sabemos que é igualmente importante avaliar o conteúdo visual que você encontra.

O primeiro recurso, “Sobre esta foto”, permitirá que os usuários cliquem em três pontos em uma imagem nos resultados do Google Fotos, pesquisem com uma imagem ou captura de tela no Google Lens ou deslizem para cima no Google app para descobrir mais sobre o histórico de uma foto, incluindo quando a foto foi indexada (ou imagens semelhantes) foram relatadas pela primeira vez pelo Google, onde a imagem pode ter aparecido pela primeira vez e em outros lugares em que a imagem foi vista na Internet (ou seja, sites de notícias, sociais ou de verificação de fatos).

No final deste ano, o Google diz que também permitirá que os usuários acessem essa ferramenta clicando com o botão direito do mouse ou pressionando longamente uma imagem no Chrome no computador e no celular.

Esse contexto adicional sobre a imagem pode ajudar a determinar sua confiabilidade ou indicar se ela requer um exame mais minucioso. Por exemplo, com o recurso Sobre esta imagem, os usuários podem detectar que uma foto mostrando um falso pouso na lua foi relatada por agências de notícias como tendo sido gerada por inteligência artificial. Ela também pode colocá-lo em Contexto histórico: Esta imagem estava presente no histórico de pesquisa antes que o motivo para falsificá-la aparecesse?

A segunda característica trata do uso crescente de ferramentas de IA na criação de imagens. Quando o Google começar a lançar agregadores de imagens, planeja rotular todas as imagens geradas por suas ferramentas de IA com “tags ou metadados” especiais armazenados em cada arquivo que indiquem claramente seus ativos de IA.

E terceiro, o Google diz que também está colaborando com outras plataformas e serviços para incentivá-los a adicionar rótulos semelhantes às imagens geradas por IA. Midjourney e Shutterstock assinaram a iniciativa; Cada um incluirá metadados em imagens geradas por IA que a Pesquisa de imagens do Google lerá e exibirá aos usuários nos resultados de pesquisa.

Esses esforços podem não ser perfeitos porque os metadados podem ser removidos posteriormente ou potencialmente alterados, mas são uma tentativa notável de resolver o problema dos deepfakes na Internet.

À medida que mais imagens são criadas por IA ou aprimoradas ao longo do tempo, podemos descobrir que a linha entre “real” e “falso” começa a se confundir, afetada pela mudança das normas culturais. Nesse ponto, nossa decisão sobre em que tipo de informação confiar como um reflexo preciso da realidade (independentemente de como ela é gerada) pode depender, como sempre, de nossa crença na fonte. Portanto, mesmo em meio ao rápido desenvolvimento tecnológico, a credibilidade da fonte continua sendo de extrema importância. Enquanto isso, soluções tecnológicas como a do Google podem nos ajudar a avaliar essa credibilidade.