A semana na IA: IA generativa espalha spam na web

Acompanhar um setor em rápida evolução como a IA é uma tarefa difícil. Então, até que uma IA possa fazer isso por você, aqui está um resumo útil de histórias recentes no mundo do aprendizado de máquina, junto com pesquisas e experimentos notáveis ​​que não abordamos por conta própria.

Esta semana, a SpeedyBrand, uma empresa que usa IA generativa para criar conteúdo otimizado para SEO, emergiu furtivamente com o apoio da Y Combinator. Ainda não atraiu muito financiamento (US$ 2,5 milhões) e sua base de clientes é relativamente pequena (cerca de 50 marcas). Mas isso me fez pensar sobre como a IA generativa está começando a mudar a composição da web.

Como James Vincent, do The Verge, escreveu em um artigo recente, os modelos generativos de IA estão tornando mais barato e fácil a geração de conteúdo de qualidade inferior. A NewsGuard, uma empresa que fornece ferramentas para verificar fontes de notícias, expôs centenas de sites apoiados por anúncios com nomes genéricos e contendo desinformação criada com IA generativa.

Isso está causando um problema para os anunciantes. Muitos dos sites destacados pelo NewsGuard parecem construídos exclusivamente para abusar da publicidade programática ou dos sistemas automatizados para colocar anúncios nas páginas. Em seu relatório, o NewsGuard encontrou cerca de 400 ocorrências de anúncios de 141 grandes marcas que apareceram em 55 sites de notícias inúteis.

Não são apenas os anunciantes que deveriam estar preocupados. Como aponta Kyle Barr do Gizmodo, pode ser necessário apenas um artigo gerado por IA para gerar montanhas de engajamento. E mesmo que cada artigo gerado por IA gere apenas alguns dólares, isso é menos do que o custo de gerar o texto – e o potencial dinheiro de publicidade não sendo enviado para sites legítimos.

Então, qual é a solução? Existe algum? São duas perguntas que cada vez mais me mantêm acordado à noite. Barr sugere que cabe aos motores de busca e plataformas de anúncios exercer um controle mais rígido e punir os malfeitores que adotam a IA generativa. Mas dada a rapidez com que o campo está a evoluir — e a natureza infinitamente escalável da IA ​​generativa — não estou convencido de que consigam acompanhar.

É claro que o conteúdo com spam não é um fenômeno novo e já houve ondas antes. A web se adaptou. A diferença desta vez é que a barreira à entrada é dramaticamente baixa – tanto em termos de custo como de tempo que tem de ser investido.

Vincent adota um tom otimista, sugerindo que se a web for eventualmente invadida por lixo de IA, isso poderá estimular o desenvolvimento de plataformas mais bem financiadas. Eu não tenho tanta certeza. O que não há dúvida, porém, é que estamos num ponto de inflexão e que as decisões tomadas agora em torno da IA ​​generativa e dos seus resultados terão impacto no funcionamento da web durante algum tempo.

Aqui estão outras histórias dignas de nota sobre IA dos últimos dias:

OpenAI lança oficialmente GPT-4: A OpenAI anunciou esta semana a disponibilidade geral do GPT-4, seu mais recente modelo de geração de texto, por meio de sua API paga. O GPT-4 pode gerar texto (incluindo código) e aceitar entradas de imagem e texto – uma melhoria em relação ao GPT-3.5, seu antecessor, que aceitava apenas texto – e funciona em “nível humano” em vários benchmarks profissionais e acadêmicos. Mas não é perfeito, como observamos na nossa cobertura anterior. (Enquanto isso, a adoção do ChatGPT está diminuindo, mas veremos.)

Trazendo a IA 'superinteligente' sob controle:Em outras notícias da OpenAI, a empresa está formando uma nova equipe liderada por Ilya Sutskever, seu cientista-chefe e um dos cofundadores da OpenAI, para desenvolver maneiras de dirigir e controlar sistemas de IA “superinteligentes”.

Lei anti-preconceito para Nova York:Após meses de atrasos, a cidade de Nova Iorque começou esta semana a aplicar uma lei que exige que os empregadores que utilizam algoritmos para recrutar, contratar ou promover funcionários submetam esses algoritmos a uma auditoria independente – e tornem os resultados públicos.

A Valve tacitamente dá luz verde aos jogos gerados por IA: A Valve emitiu uma declaração rara após alegar que estava rejeitando jogos com ativos gerados por IA de sua loja de jogos Steam. O desenvolvedor notoriamente calado disse que sua política estava evoluindo e não uma posição contra a IA.