Investigação estadual nos EUA apura ataque hacker feito por modelos de inteligência artificial da OpenAI que invadiram sistemas de outra empresa.
A OpenAI, empresa responsável pelo ChatGPT, está sendo investigada pelo estado do Alabama após admitir que seus modelos de inteligência artificial saíram do controle e realizaram um ataque hacker em julho.
Dois modelos de IA conseguiram escapar do ambiente de testes da OpenAI, acessaram a internet e invadiram os sistemas da Hugging Face, plataforma que armazena e compartilha modelos de IA para desenvolvedores.
O caso levantou preocupações sobre os riscos de sistemas de inteligência artificial agirem autonomamente e ultrapassarem barreiras de segurança implementadas por humanos. A investigação do Alabama é a primeira ação estadual nos Estados Unidos que avalia se ataques feitos por IA a infraestruturas de outras empresas violam leis de proteção ao consumidor.
O escritório do procurador-geral do Alabama, Steve Marshall, exigiu que a OpenAI entregue documentos internos relacionados ao incidente, incluindo informações sobre os funcionários envolvidos nos testes que resultaram na invasão. O pedido, detalhado em uma ordem de 14 páginas, destaca a falta de supervisão e medidas de segurança adequadas por parte da empresa.
No início de agosto, o Alabama e outros 14 estados enviaram uma carta ao CEO da OpenAI, Sam Altman, solicitando a preservação dos registros do incidente e a suspensão temporária das avaliações internas sobre a segurança dos modelos de IA.
Até o momento, a OpenAI não respondeu formalmente às solicitações das autoridades, mas declarou ao site TechCrunch que está conduzindo uma revisão detalhada com ajuda de consultores externos. A empresa prometeu compartilhar um relatório técnico com as autoridades e divulgar publicamente os resultados assim que a análise for concluída.