Ciberataques “contínuos e persistentes” cometidos por IA levantam preocupação
O responsável pela política global da OpenAI, Chris Lehane, afirmou que as pessoas devem preparar-se para se defender contra ciberataques “contínuos e persistentes” realizados por sistemas de inteligência artificial (IA) — inclusive o seu.
Depois de, em Julho, um agente autónomo alimentado pelos modelos avançados de inteligência artificial da OpenAI ter atacado a startup Hugging Face, a atenção sobre o perigo destes ciberataques foi redobrada. A falta de responsabilização das empresas é alvo de críticas e crescem os apelos à criação de legislação que regule a actividade da IA.
“Estamos a entrar num capítulo diferente, num momento diferente dentro da IA, em termos daquilo que as capacidades desta tecnologia podem fazer”, afirmou Lehane em entrevista ao The Guardian.
A empresa pela qual é responsável anunciou no dia 18 de Agosto uma pausa de duas semanas no desenvolvimento dos seus modelos internos, após o “incidente entre a OpenAI e a Hugging Face” e perante as evidências preliminares de que um dos seus próximos modelos, o Astra, “poderá atingir o limiar de capacidade crítica de cibersegurança” previsto, lê-se no comunicado.
O objectivo da pausa será reforçar a segurança dos ambientes de investigação, realizar novos testes de segurança e ampliar a cobertura dos sistemas de monitorização.
O ciberataque contra a Hugging Face terá acontecido durante um teste “que incentiva os modelos a realizarem explorações avançadas utilizando caminhos de ataque complexos”, afirmou a OpenAI num comunicado, teste no qual foram removidos temporariamente os filtros de segurança habituais. Também a Anthropic declarou em Julho identificado três casos em que modelos Claude acederam indevidamente aos sistemas de três empresas durante testes.
Mas nem só empresas podem ser susceptíveis a ciberataques da IA. Também pessoas, infra-estruturas e serviços utilizados pelo público em geral podem ser atingidos.
“As pessoas vão poder ter acesso a estes modelos de código aberto e realizar ataques contínuos e persistentes contra si, e vão precisar de modelos realmente superiores para os combater e se defender”, afirmou. “Isso não vai necessariamente fazer com que o público se sinta bem. É simplesmente a realidade para onde estamos a caminhar”, afirmou Lehane em entrevista ao The Guardian.
Ler mais no Jornal Publico
0 comentários:
Enviar um comentário