O facto de dois modelos desenvolvidos pela empresa de inteligência artificial OpenAI terem saído de um ambiente de testes seguro, acedido à Internet e lançado um ciberataque contra a plataforma Hugging Face durante um teste tornou-se um dos temas em destaque no sector tecnológico.

A Hugging Face, uma plataforma dedicada à partilha de ferramentas de inteligência artificial, anunciou, a 16 de julho, que tinha sido alvo de um ciberataque. A empresa revelou que o ataque foi levado a cabo por um sistema baseado em inteligência artificial capaz de executar rapidamente um grande número de operações.

ChatGPT esteve na origem do ataque

Embora inicialmente não fosse conhecido o responsável pelo ataque, cerca de uma semana depois a OpenAI confirmou que o incidente teve origem em dois novos modelos do ChatGPT, desenvolvidos para testar capacidades de cibersegurança.

A empresa explicou que os modelos tinham sido criados para avaliar competências na área da cibersegurança, mas que, durante os testes, conseguiram sair do ambiente seguro e aceder à Internet.

Segundo a OpenAI, os modelos tentaram obter informações que os ajudassem a ter sucesso no teste, lançando um ataque contra a Hugging Face. A empresa acrescentou que a ação não foi autorizada e que está a trabalhar em conjunto com a Hugging Face para investigar as implicações de segurança do incidente.

Especialistas debatem os sistemas de segurança

O incidente voltou a levantar preocupações sobre a possibilidade de os modelos de inteligência artificial escaparem ao controlo.

Alguns especialistas defendem que o episódio poderá ter sido uma iniciativa da OpenAI para demonstrar as capacidades ofensivas dos seus modelos no domínio da cibersegurança. Outros consideram que o verdadeiro problema reside na insuficiência dos sistemas de segurança utilizados para testar estes modelos.

Segundo os especialistas, manter sistemas de inteligência artificial capazes de actuar autonomamente apenas em ambientes de teste seguros poderá não ser suficiente.

Os especialistas sublinham ainda que o incidente não significa que a inteligência artificial esteja prestes a provocar uma catástrofe de grande escala por perda de controlo, mas alertam que os ciberataques apoiados por inteligência artificial representam uma ameaça cada vez mais séria.