Notícias

Aug 17, 2023

O futuro chato da IA ​​generativa

Will Knight Esta semana, em sua conferência anual de desenvolvedores I/O em Mountain View,

Will Knight

Esta semana, em sua conferência anual de desenvolvedores de I/O em Mountain View, o Google apresentou um número impressionante de projetos e produtos desenvolvidos ou aprimorados por IA. Eles incluíram uma versão nova e aprimorada de seu chatbot Bard, ferramentas para ajudá-lo a escrever e-mails e documentos ou manipular imagens, dispositivos com IA integrados e uma versão experimental semelhante a um chatbot da pesquisa do Google. Para uma recapitulação completa do evento, completa com comentários perspicazes e espirituosos de meus colegas da WIRED, confira nosso blog ao vivo do Google I/O.

O grande pivô do Google é, obviamente, amplamente alimentado não por algoritmos, mas por IA FOMO generativa.

A aparição em novembro passado do ChatGPT – o chatbot notavelmente inteligente, mas ainda bastante falho da OpenAI – combinado com a Microsoft adicionando a tecnologia ao seu mecanismo de busca Bing alguns meses depois, desencadeou uma espécie de pânico no Google. O ChatGPT provou ser extremamente popular entre os usuários, demonstrando novas maneiras de fornecer informações que ameaçavam o vice-controle do Google no negócio de buscas e sua reputação como líder em IA.

Os recursos do ChatGPT e dos algoritmos de linguagem AI como os que o alimentam são tão impressionantes que alguns especialistas, incluindo Geoffrey Hinton, um pesquisador pioneiro que recentemente deixou o Google, se sentiram compelidos a alertar que podemos estar construindo sistemas que algum dia teremos dificuldade em controlar. O chatbot da OpenAI costuma ser surpreendentemente bom em gerar texto coerente sobre um determinado assunto, resumir informações da web e até mesmo responder a perguntas extremamente complicadas que exigem conhecimento especializado.

E, no entanto, os modelos de linguagem de IA sem restrições também são agentes do caos de língua afiada. Eles fabricarão fatos de bom grado, expressarão preconceitos desagradáveis ​​e dirão coisas desagradáveis ​​ou perturbadoras com a inspiração certa. A Microsoft foi forçada a limitar os recursos do bate-papo do Bing logo após o lançamento para evitar esse comportamento embaraçoso, em parte porque seu bot divulgou seu codinome secreto - Sydney - e acusou um colunista do New York Times de não amar sua esposa.

O Google trabalhou arduamente para atenuar a tendência caótica da tecnologia de geração de texto enquanto preparava o recurso de pesquisa experimental anunciado ontem, que responde a consultas de pesquisa com respostas no estilo de bate-papo, sintetizando informações de toda a web.

A versão mais inteligente de busca do Google é impressionantemente tacanha, recusando-se a usar a primeira pessoa ou falar sobre seus pensamentos ou sentimentos. Evita completamente tópicos que possam ser considerados arriscados, recusando-se a dar conselhos médicos ou oferecer respostas sobre temas potencialmente controversos, como a política dos Estados Unidos.

Lauren Goode

Lauren Goode

Julian Chokkattu

Will Knight

O Google merece reconhecimento por controlar o lado selvagem dos chatbots generativos desse jeito. Mas em meus testes, a nova interface de pesquisa parecia incrivelmente inofensiva em comparação com o ChatGPT ou o próprio chatbot Bard do Google.

À medida que a empresa transfere a tecnologia para mais de seus produtos, talvez a revolução generativa da IA ​​se mostre muito menos divertida do que você poderia esperar do choque inicial e da admiração do ChatGPT, um chatbot que tem um charme ousado. Longe vão os delírios selvagens e imaginações de poderosos bots de IA. Em seu lugar, estão novas maneiras de preencher planilhas, redigir gentilezas por e-mail e encontrar produtos para comprar.

Mesmo que os alertas sobre a IA errante sejam exagerados, será interessante observar como empresas como Google e OpenAI equilibram o desenvolvimento de modelos de linguagem generativa mais poderosos com a necessidade de fazê-los se comportar.

O Google investiu grandes somas e grandes recursos em IA nos últimos anos, com o CEO Sundar Pichai frequentemente apresentando a empresa como "AI first", e a empresa está desesperada para mostrar que pode avançar a tecnologia mais rapidamente do que a OpenAI. Uma mensagem de alto nível do fluxo de anúncios de IA do Google foi que a empresa não vai mais se conter, como fez com o chatbot LaMDA que foi anunciado muito antes de o ChatGPT aparecer, mas não se tornar público.

Em março, alguns grandes nomes da pesquisa de IA assinaram uma carta aberta pedindo uma pausa de seis meses na criação de sistemas de aprendizado de máquina mais poderosos que o GPT-4, que alimenta o ChatGPT. Pichai não era signatário e disse em seu discurso ontem que a empresa está treinando um novo modelo de linguagem mais poderoso chamado Gemini.