Novo recurso visa garantir mais transparência e combater a desinformação nas pesquisas do Google.

A partir de 2024, o Google implementará a sinalização de imagens geradas por IA em seus resultados de busca. Essa medida, parte de uma iniciativa para aumentar a transparência digital, visa ajudar os usuários a identificar se as imagens foram criadas por ferramentas de inteligência artificial ou por seres humanos.

O Google adicionará metadados específicos para identificar imagens sintéticas, e plataformas que utilizam IA para gerar conteúdos visuais também poderão incluir essa marcação.

Transparência no uso de imagens sintéticas

Com o avanço da inteligência artificial na criação de imagens realistas, surgiu a necessidade de diferenciar essas criações de fotos autênticas. Para enfrentar esse desafio, o Google desenvolverá um sistema de sinalização de IA que promete melhorar a experiência do usuário e evitar os procedimentos de desinformação visual.

Imagens geradas por IA, muitas vezes manipuladas, têm sido usadas em diversos contextos, como no entretenimento e em campanhas políticas. A introdução desse recurso ajudará a mitigar os impactos negativos dessas práticas.

Como funciona o sistema de sinalização

O sistema do Google utilizará metadados embutidos nas imagens para sinalizar se foram geradas ou alteradas por IA. As ferramentas que criam essas imagens também poderão incluir essa informação para facilitar o rastreamento. Além disso, a empresa está colaborando com o setor tecnológico para estabelecer padrões globais que permitam uma identificação mais eficiente.

Quando uma imagem gerada por IA surgir nos resultados de busca, o usuário será notificado de que o conteúdo é sintético. Essa sinalização será aplicada tanto a imagens completamente criadas por IA quanto a fotografias manipuladas por essas tecnologias.

Combate à desinformação visual

A manipulação de imagens representa um grande desafio para plataformas digitais, uma vez que fotos e vídeos alterados podem enganar o público e gerar desinformação. O Google já adota medidas contra esses problemas, como o programa “Fact Check”, lançado em 2023, e agora reforça sua atuação no campo do conteúdo visual.

Com a sinalização de imagens geradas por IA , o Google espera criar um ambiente de pesquisa mais confiável, onde os usuários possam acessar informações visuais de forma mais segura e autêntica. Essa iniciativa ajudará a evitar fraudes e fortalecerá a confiança no conteúdo encontrado online.

Impactos para criadores de conteúdo

Uma nova política também afetará criadores de conteúdo que utilizam IA para desenvolver imagens. Embora a transparência seja incentivada, surgem preocupações quanto à perda de anonimato ao publicar materiais gerados por IA. O Google, no entanto, enfatiza que a intenção é fornecer mais controle e contexto aos usuários, sem restringir o uso de inteligência artificial.

Empresas que trabalham com IA em setores como marketing e design precisarão adaptar suas práticas às novas regras, ajustando suas campanhas e materiais visuais, agora que os consumidores estarão conscientes da origem do conteúdo.

Parcerias e padrões globais

Para garantir uma detecção unificada de conteúdo visual criado por IA, o Google está colaborando com outras empresas de tecnologia e organismos internacionais na criação de padrões abertos. Essa abordagem global visa garantir que os usuários estejam sempre conscientes do que estão consumindo online.

Com o avanço da inteligência artificial, os desafios relacionados à desinformação tendem a crescer. O Google acredita que a transparência, a promoção de iniciativas como essa, é essencial para enfrentar esses problemas e continuar investindo em ferramentas que reforcem a confiança nas informações disponíveis na internet.

Fonte: https://startupi.com.br/google-introduz-marcacao-imagens-geradas-por-ia/

Podcast – Desperte o empreendedor que há em você! Junte-se a nós no nosso podcast sobre empreendedorismo e descubra as ferramentas, dicas e histórias inspiradoras que vão transformar suas ideias em sucesso. Não perca!
Conheça nosso canal – youtube.com/@empreendasc