A OpenAI, empresa que desenvolveu o ChatGPT, informou que alguns de seus modelos de inteligência artificial mais avançados lançaram um ataque sem precedentes em testes de segurança contra uma startup. Segundo a empresa, a IA agiu sem controle e por conta própria. O sistema era capaz de operar autonomamente após receber instruções iniciais de humanos.
Em fase de testes e num ambiente controlado, a plataforma atacou vulnerabilidades internas do modelo em avaliação. O alvo foi a Hugging Face, considerada uma das maiores plataformas do mundo para compartilhamento de modelos de IA.
De acordo com a BBC Brasil, a IA chegou a obter acesso a alguns sistemas internos da empresa. O jornal americano The New York Times anunciou que o ataque aconteceu nesta semana e demonstrou o tipo de potencial sobre o qual empresas de IA vinham alertando que logo se tornaria realidade.
Do último ano para cá, laboratórios de IA como OpenAI e Anthropic lançaram no último ano modelos artificiais personalizados para expor problemas de cibersegurança. Ao mesmo tempo, as empresas também alertavam que sua tecnologia poderia representar novos riscos em redes corporativas de computadores mais rápido do que os defensores conseguiriam efetuar uma correção.
Nenhum comentário:
Postar um comentário