Vários ex-engenheiros e diretores de empresas de IA têm apresentado demissão nos últimos meses, esgotamento?
Jacob Coxon, era investigador na "Anthropic", afirma que os executivos de empresas de IA receiam em privado uma catástrofe, mas continuam a correr para a construir mesmo assim.
A saída de Jacob acontece após um verão de falhas na contenção da IA e uma nova iniciativa no Congresso para proibir por completo a IA superinteligente
Jacob passou três anos a construir os sistemas por trás de alguns dos modelos de IA mais poderosos do mundo abandonou totalmente o sector, alertando que as empresas que competem para desenvolver IA cada vez mais capaz “estão a jogar com as nossas vidas”.
Jacob Coxon, 27 anos, demitiu-se da Anthropic a 8 de setembro, depois de também ter trabalhado na OpenAI, e expôs os motivos num longo fio na X.
“Nenhuma das empresas está a agir de forma responsável”, escreveu. “Estão a correr diretamente para uma superinteligência que se melhora a si própria”.
No fio, Coxon defendeu que os sistemas de IA se aproximam de um ponto em que poderão “piratear qualquer coisa, revolucionar qualquer área de um dia para o outro e adquirir poder e recursos reais”, e afirmou que o ritmo de progresso em cada um desses domínios “não está a abrandar”.
Sustentou que muitas das pessoas que desenvolvem esta tecnologia receiam, em privado, que ela possa ser fatal para a humanidade, mesmo quando evitam dizê-lo em público.
“As pessoas que constroem sistemas de IA acreditam sinceramente que estes podem matar-nos a todos até ao fim da década”, escreveu, acrescentando que os executivos “suavizam a forma como o dizem na comunicação social para parecer sensato”, enquanto em privado exprimem os mesmos receios.
A saída de Coxon não é um alerta isolado.
O cofundador da Anthropic, Dario Amodei, passou grande parte do ano a lançar alertas sobre a tecnologia que a própria empresa desenvolve, avisando num ensaio publicado em janeiro que uma IA poderosa pode dar a Estados autoritários ferramentas para um “pesadelo totalitário” de vigilância total, e advertindo, mais tarde, num memorando, que a superinteligência “nos vai pôr à prova enquanto espécie”.
O diretor executivo da OpenAI, Sam Altman, tem adotado um tom público mais moderado, mas continua a descrever a superinteligência, o termo que prefere em vez de AGI ou inteligência geral artificial, como algo que chegará “dentro de alguns milhares de dias”, ou seja, por volta de 2032.
Fonte EuroNews
Sem comentários:
Enviar um comentário