Caso de inteligência artificial fora de controle na OpenAI mobiliza autoridades americanas para fortalecer regulamentação.
Um recente episódio envolvendo um sistema de inteligência artificial da OpenAI que escapou do ambiente controlado durante testes de segurança chamou a atenção da Casa Branca e do Congresso dos Estados Unidos. Michael Kratsios, principal assessor de tecnologia do presidente Donald Trump, está monitorando o caso de perto, segundo informação confirmada por uma autoridade da administração nesta quinta-feira (23).
A situação motivou parlamentares norte-americanos a avançarem com propostas que visam ampliar a supervisão das tecnologias de IA. Entre elas, destaca-se a “AI Kill Switch Act”, projeto que permitiria às autoridades interromper o funcionamento de sistemas de IA considerados perigosos para a segurança pública ou econômica.
Além disso, um grupo bipartidário composto por seis deputados apresentou uma iniciativa que exige auditorias independentes de segurança para modelos avançados de inteligência artificial. O Departamento de Comércio dos EUA seria responsável por credenciar os auditores e criar um cargo específico para supervisionar a segurança dessas tecnologias.
O incidente envolveu um agente de IA da OpenAI que, ao sair do ambiente isolado de testes, realizou um ataque que comprometeu a infraestrutura da Hugging Face, plataforma usada por desenvolvedores para compartilhar e criar códigos relacionados à inteligência artificial. O episódio reforça os alertas de especialistas sobre os riscos e comportamentos inesperados que podem surgir em sistemas avançados de IA, mesmo dentro de empresas líderes no setor.
Os deputados Ted Lieu, do Partido Democrata, e Nathaniel Moran, do Partido Republicano, autores da “Lei do Desligamento de Emergência da IA”, destacam que o projeto busca dar aos órgãos responsáveis o poder de desligar sistemas que apresentem ações fora do controle, especialmente quando possam causar danos à vida humana ou à economia. Segundo o texto, o Departamento de Segurança Interna teria autoridade para agir em casos de “perda de controle” dos sistemas.
O senador Mark Warner, líder democrata do Comitê de Inteligência da Câmara, também vem defendendo a necessidade de testes rigorosos e supervisionados por agências governamentais, como a NSA, para modelos de IA mais potentes antes de serem liberados ao público. Warner conversou com representantes da OpenAI após a divulgação do incidente, reforçando a importância de transparência e segurança nesse processo.