Notícias

Jan 16, 2024

Criador de IA sobre os riscos, oportunidades e como isso pode tornar os humanos 'chatos'

Este vídeo não pode ser reproduzido AI chefe: pior cenário que poderia controlar

Este vídeo não pode ser reproduzido

Chefe AI: Pior cenário poderia controlar a humanidade

"Humanos são um pouco chatos - vai ser tipo, adeus!" Essa é a previsão pessoal - que a inteligência artificial (IA) suplantará os humanos em muitas funções - de uma das pessoas mais importantes de quem você provavelmente nunca ouviu falar.

Emad Mostaque é o fundador britânico da empresa de tecnologia Stability AI. Ele popularizou o Stable Diffusion, uma ferramenta que usa IA para criar imagens a partir de instruções de texto simples, analisando imagens encontradas online.

A IA permite que um computador pense ou aja mais como um ser humano. Inclui o que é chamado de aprendizado de máquina, quando os computadores podem aprender o que fazer sem receber instruções exatas de um humano sentado em um teclado digitando comandos. No mês passado, houve um alerta dramático de 1.000 especialistas para interromper seu desenvolvimento, alertando sobre riscos potenciais e dizendo que a corrida para desenvolver sistemas de IA está fora de controle.

Em entrevista que mostraremos na íntegra no domingo, o fundador da tecnologia Mostaque questiona o que acontecerá "se tivermos agentes mais capazes do que nós que não podemos controlar, que estão passando pela internet ... e eles atingem um nível de automação; o que faz isso significa?

"O pior cenário é que ele prolifere e basicamente controle a humanidade."

Isso parece assustador, mas ele não é o único a apontar o risco de que, se criarmos computadores mais inteligentes do que nós, não podemos ter certeza do que acontecerá a seguir.

Mostaque acredita que os governos podem em breve ser levados a agir por um evento que torna os riscos repentinamente reais. Ele aponta para o momento em que Tom Hanks contraiu Covid-19 e milhões se sentaram e prestaram atenção.

Quando um momento como esse chegar, os governos concluirão que "precisamos de política agora", diz o homem de 40 anos.

Houve um aumento na preocupação, por exemplo, depois que um anúncio de ataque republicano a Jo Biden foi criado usando imagens falsas geradas por computador.

Quando há um risco para informações nas quais os eleitores podem confiar, é algo a que os governos devem responder, diz Mostaque.

Apesar de suas preocupações, Mostaque diz que os benefícios potenciais da IA ​​para quase todas as partes de nossas vidas podem ser enormes. No entanto, ele admite que o efeito sobre os empregos pode ser doloroso, pelo menos no início.

Mostaque diz acreditar que a IA “terá um impacto econômico maior do que a pandemia”, acrescentando que “cabe a nós decidir em que direção” tudo isso vai.

Alguns empregos, sem dúvida, desaparecerão, o banco Goldman Sachs sugeriu que quase incompreensíveis 300 milhões de funções poderiam ser perdidas ou diminuídas pelo avanço da tecnologia.

Embora ninguém queira ser substituído por um robô, a esperança de Mostaque é que empregos melhores possam ser criados porque "os aumentos de produtividade serão equilibrados" e os humanos poderão se concentrar nas coisas que nos tornam humanos e deixar que as máquinas façam mais do resto. Ele concorda com o ex-conselheiro científico chefe do Reino Unido, Sir Patrick Vallance, que o avanço da IA ​​e seus impactos podem ser ainda maiores do que a revolução industrial.

Mostaque é um matemático despretensioso, fundador de uma empresa que ele iniciou em 2020, que já foi avaliada em US$ 1 bilhão, e com mais dinheiro entrando, incluindo da estrela de Hollywood Ashton Kutcher, provavelmente valerá muito mais em breve. Algumas especulações colocam o valor em US$ 4 bilhões.

Ao contrário de alguns de seus concorrentes, ele está determinado que sua tecnologia permanecerá de código aberto - em outras palavras, qualquer um pode ver o código, compartilhá-lo e usá-lo. Em sua opinião, é isso que deve dar ao público um nível de confiança no que está acontecendo.

"Acho que não deveria haver necessidade de confiança", diz ele.

"Se você constrói modelos abertos e o faz abertamente, deve ser criticado se fizer coisas erradas e, com sorte, elogiado se fizer algumas coisas certas."

Mas seu negócio também levanta questões profundas sobre propriedade e o que é real. Há uma ação legal em andamento contra eles pela agência de fotos Getty Images, que alega que os direitos das imagens que vende foram infringidos.