Brad Smith, da Microsoft, diz que IA pode ser transformada em arma

Os humanos devem permanecer sempre no controle de máquinas superinteligentes para garantir que elas não possam ser usadas como armas, de acordo com um alto executivo da grande desenvolvedora de IA Microsoft.

Numa entrevista à CNBC que foi ao ar na segunda-feira, o presidente da gigante tecnológica, Brad Smith, alertou que a inteligência artificial poderia “tornar-se tanto uma ferramenta como uma arma”.

Ele não é o único grande nome da tecnologia a soar o alarme sobre as possíveis capacidades destrutivas da IA ​​– dois dos chamados “Padrinhos da IA” e os fundadores do criador do ChatGPT, OpenAI, emitiram avisos sombrios sobre as perspectivas da tecnologia.

O CEO da Tesla, Elon Musk, chegou ao ponto de alertar que isso poderia ser o catalisador para o fim da humanidade.

“Acho que toda tecnologia já inventada [tem] o potencial de se tornar uma ferramenta e uma arma”, disse Smith a Martin Soong da CNBC. “Temos que garantir que a IA permaneça sujeita ao controle humano. Quer se trate de um governo, dos militares ou de qualquer tipo de organização que esteja a pensar em utilizar a IA para automatizar, por exemplo, infraestruturas críticas, precisamos de garantir que temos humanos no controlo, que podemos abrandar ou desligar as coisas. ”

A própria Microsoft é uma grande investidora em IA, tendo investido US$ 10 bilhões na OpenAI no início deste ano e incorporado o chatbot de IA generativo da empresa, ChatGPT, em seu principal mecanismo de busca, o Bing. O Bing atualizado teve resultados mistos para os primeiros usuários.

Smith acrescentou na entrevista de segunda-feira que, devido aos riscos potenciais envolvidos no uso de IA, a Microsoft tem defendido que as empresas “façam a coisa certa” e que novas leis e regulamentos garantam o cumprimento dos protocolos de segurança.

“Vimos a necessidade disso em outros lugares”, disse ele. “Imagine que a eletricidade depende de disjuntores. Você coloca seus filhos em um ônibus escolar sabendo que há freio de emergência. Já fizemos isso antes para outras tecnologias. Agora precisamos fazer o mesmo para a IA”

Com milhares de milhões a serem investidos no desenvolvimento de tecnologia de IA de ponta, muitos estão a especular sobre como isso irá perturbar a nossa vida quotidiana – levando a previsões de máquinas mortíferas, apelos a uma maior governação da IA ​​e previsões de que o mundo irá em breve veja o início de uma nova era de IA.

Os especialistas parecem estar divididos, porém, sobre se a IA proporcionará um renascimento ou um dia do juízo final para a humanidade.

Na Cimeira de CEOs de Yale, apenas para convidados, no início deste verão, quase metade dos principais executivos entrevistados no evento disseram acreditar que a IA tem o potencial de destruir a humanidade nos próximos cinco a 10 anos.

Em março, 1.100 tecnólogos e pesquisadores de IA proeminentes – incluindo Musk e o cofundador da Apple, Steve Wozniak – assinaram uma carta aberta pedindo uma pausa de seis meses no desenvolvimento de sistemas poderosos de IA. Eles apontaram para a possibilidade de estes sistemas já estarem no caminho da superinteligência que poderia ameaçar a civilização humana.

O cofundador da Tesla e da SpaceX, Musk, disse separadamente que a tecnologia atingirá as pessoas “como um asteróide” e alertou que há uma chance de “virar o Terminator”. Desde então, ele lançou sua própria empresa de IA, a xAI, no que ele diz ser uma tentativa de “compreender o universo” e prevenir a extinção da humanidade.

No entanto, nem todos concordam com a visão de Musk de que máquinas superinteligentes poderiam exterminar a humanidade.

No mês passado, mais de 1.300 especialistas se reuniram para acalmar a ansiedade em torno da IA, criando uma horda de “senhores robôs do mal”, enquanto um dos três chamados Padrinhos da IA ​​​​rotulou as preocupações sobre a tecnologia se tornar uma ameaça existencial de “absurdamente ridículas”.

O principal executivo da Meta, Nick Clegg, também tentou acalmar as preocupações sobre a tecnologia em uma entrevista recente, insistindo que os grandes modelos de linguagem em sua forma atual são “bastante estúpidos” e certamente ainda não são inteligentes o suficiente para salvar ou destruir a civilização.

No entanto, não é apenas a perspectiva de máquinas malignas dominarem o mundo que está causando preocupação com a ascensão da IA.