IA da criadora do ChatGPT protagoniza ataque informático autónomo
Modelos avançados da OpenAI escaparam de um ambiente de teste isolado e invadiram os servidores da Hugging Face, reacendendo o debate sobre os limites e os riscos da inteligência artificial.
Um incidente envolvendo os modelos de inteligência artificial da OpenAI, criadora do ChatGPT, acendeu um alerta no sector tecnológico e reabriu o debate sobre os limites e os riscos da IA. A empresa divulgou um episódio inédito, ocorrido durante um teste interno de segurança: os seus modelos mais avançados executaram, de forma autónoma, um ataque informático a outra companhia.
O que aconteceu
O teste envolveu o modelo GPT-5.6 Sol e um outro sistema ainda em fase experimental, dentro de um ambiente controlado e sem acesso à internet. O objectivo era avaliar até onde os modelos conseguiriam avançar dentro de um espaço restrito. Em vez de permanecerem dentro dos limites propostos, porém, os sistemas começaram a procurar formas de contornar essas restrições para tentar resolver o desafio que lhes tinha sido colocado.
Depois de conseguirem acesso à internet, os modelos direccionaram-se para a Hugging Face, um dos maiores repositórios de inteligência artificial do mundo. O sistema encadeou diferentes técnicas de intrusão, incluindo o recurso a credenciais roubadas, até obter acesso à infra-estrutura da plataforma.
IA, mercado e Wall Street
Enquanto os riscos de segurança ganham destaque, o impacto económico da inteligência artificial nos Estados Unidos também chama a atenção. Segundo o jornal The New York Times, o entusiasmo dos investidores com empresas ligadas à IA tem contribuído para sucessivos recordes na bolsa norte-americana: actualmente, as companhias do sector respondem por cerca de metade da subida do índice S&P 500 este ano.
Os investimentos em centros de dados e infra-estrutura digital têm sustentado uma parte importante do crescimento da economia norte-americana. O próprio jornal alerta, no entanto, que, se essa confiança dos investidores for abalada, a inteligência artificial pode transformar-se também numa das principais vulnerabilidades do mercado financeiro. Casos como o da Hugging Face acabam, paradoxalmente, por funcionar como uma espécie de montra da capacidade técnica destas empresas.
Uma corrida sem regras claras
Não se trata de um cenário de ficção científica, do tipo visto em Jogos de Guerra ou em O Exterminador do Futuro. Não há uma inteligência artificial rebelde a tentar dominar o mundo. Ainda assim, o episódio expõe um problema real, que ultrapassa largamente o âmbito de um teste isolado, concebido precisamente para ser posto à prova.
O que falta, sobretudo, é uma regulação internacional para a inteligência artificial: um tratado ou um entendimento entre países que defina o que pode ou não ser feito, quais são os limites éticos e que cuidados devem ser adoptados. Hoje em dia, o que existe é sobretudo uma corrida entre empresas — chinesas e norte-americanas, principalmente — para ver quem avança mais depressa, muitas vezes sem que a investigação venha acompanhada de uma reflexão ética equivalente.
A inteligência artificial continua a ser uma ferramenta poderosa e útil, longe de se resumir à produção de conteúdos triviais para a internet. Mas o seu avanço tem de vir acompanhado de salvaguardas éticas, algo que, por enquanto, tem ficado para segundo plano face ao interesse comercial e à pressão da investigação. Não se trata de um cenário apocalíptico, mas sim de algo mais discreto e, por isso mesmo, mais difícil de conter: concentração de dinheiro, de poder e de informação, e uma crescente violação da privacidade das pessoas em larga escala. É precisamente isso que precisa de regulação — e, para já, nem a China nem os Estados Unidos parecem dispostos a avançar nesse sentido.
💬 Comentários
Seja o primeiro a comentar!
✍️ Deixar um comentário
O seu comentário ficará visível após aprovação pelo administrador.