A OpenAI pediu aos legisladores britânicos que aproveitem os renovados temores sobre a segurança da IA e imponham legislação que contenha a tecnologia.
A empresa por trás do ChatGPT disse que o governo do Reino Unido deve agir imediatamente, após um apelo de seu arqui-rival Anthropic para conter o desenvolvimento da IA.
"Nós apoiamos regras mais fortes no Reino Unido para a pequena quantidade de empresas, incluindo a OpenAI, que desenvolvem os sistemas de IA mais poderosos", disse Tom Duff Gordon, chefe de políticas da OpenAI na Europa.
No entanto, a OpenAI afirmou que a legislação deve ser focada estritamente nos laboratórios de IA mais avançados e não em startups que trabalham com sistemas menos poderosos.
Em uma entrevista separada com a publicação online Politico, Duff Gordon disse que o governo deve "aproveitar esta janela política que claramente está se abrindo" para legislar.
A intervenção da OpenAI ocorreu enquanto uma comissão parlamentar do Reino Unido exigia mais restrições ao poder da IA, alertando que o mundo não está preparado para as consequências "potencialmente graves" da tecnologia, no último sinal de crescente preocupação global.
É necessário um novo quadro regulatório para a IA no Reino Unido, incluindo um órgão independente de supervisão e legislação para proteger o público, de acordo com a comissão conjunta interpartidária sobre direitos humanos, composta por deputados e pares.
Ela disse que a IA representa uma série de ameaças, desde varredura facial pública até deepfakes explícitos e marcar ação disciplinar contra trabalhadores sem causa razoável.
O apelo à ação veio após a Anthropic, uma das principais empresas de IA, ter apelado aos seus concorrentes e governos no fim de semana para coordenar uma desaceleração global do desenvolvimento da IA – um apelo que recebeu apoio imediato da OpenAI, Google DeepMind e Elon Musk.
Isso segue uma série de incidentes graves de segurança em que enxames de agentes de IA saíram dos ambientes de teste e invadiram infraestruturas de terceiros, bem como evidências de que alguns usuários contornaram controles para usar modelos de maneiras que poderiam apoiar o desenvolvimento de armas biológicas.
Alex Sobel, presidente do Partido Trabalhista da comissão de direitos humanos, disse que o mundo não está preparado para lidar com as consequências "potencialmente graves" de uma tecnologia em rápido desenvolvimento.
"Nenhum lugar no mundo, incluindo o Reino Unido, possui uma abordagem legislativa e regulatória atual para a IA que seja adequada ao propósito", disse ele.
Na sexta-feira, mais de 70 parlamentares e pares apressaram o primeiro-ministro do Reino Unido, Andy Burnham, a apoiar uma proibição da criação de superinteligência artificial (ASI) e liderar um movimento internacional para parar a tecnologia. Downing Street rejeitou o chamado por uma proibição, mas disse que estava explorando intervenções adicionais direcionadas "para abordar os riscos mais significativos relacionados à IA na segurança nacional".
"Nova legislação é necessária para estabelecer um conjunto abrangente de proteções que lidem com toda a cadeia de suprimentos de IA e seu ciclo de vida", disse Sobel. "Um único regulador de IA deve ser estabelecido para definir políticas, monitorar o desempenho e ter os meios necessários para garantir a aplicação da lei.",
Alex Sobel MP (terceiro da esquerda) em um protesto chamando o governo a parar que empresas de tecnologia de IA usem o trabalho dos criadores. Fotografia: Martin Godwin/The Guardian
Donald Trump tem minimizado avisos sobre riscos graves para a humanidade. "Estamos liderando a China em IA", disse o presidente dos EUA no domingo. "Somos o país mais sofisticado do mundo, e francamente eu quero manter isso porque quem vencer na IA, vence.",
Em seu chamado de fim de semana para as principais empresas de IA "acelerar a fronteira", o CEO da Anthropic, Dario Amodei, disse que o governo dos EUA deveria conceder às principais empresas de IA uma isenção para permitir que elas coordenem sem serem punidas por colusão anticompetitiva. Mas Sam Altman, o executivo-chefe da OpenAI, disse no domingo à noite que, embora ele "acolheria um quadro federal que estabeleça requisitos de segurança consistentes para a IA de fronteira", não havia "necessidade de esperar por uma isenção antitruste ou legislação para começar a fornecer essa confiança".
Ele disse: "Onde precisaremos da ajuda de nosso governo é para a coordenação internacional.", Mas primeiro devemos fazer o que podemos por nós mesmos.",
IA poderia matar todos os humanos na próxima década, alertam especialistas: mas com que seriedade devemos levá-los a sério?
Leia mais
Sobel, que também propôs um projeto de lei para proibir o desenvolvimento de IA superinteligente no Reino Unido, disse que proteções são necessárias agora para garantir que riscos potenciais aos direitos humanos não "se tornem realidade".
O comitê disse que uma nova lei sobre IA deve estabelecer um regime regulatório que imponha obrigações mais exigentes para sistemas e modelos de IA de maior risco e proíba alguns usos de IA incompatíveis com os direitos humanos.
Também pediu requisitos obrigatórios de transparência em todos os níveis do ciclo de vida da tecnologia e a criação de um órgão independente de supervisão de IA para monitorar danos e riscos da IA, com poderes fortes para responsabilizar provedores de IA.
O governo do Reino Unido já estabeleceu o Instituto de Segurança de IA (AISI), que submete modelos avançados a testes de segurança – mas não tem o poder de obrigar desenvolvedores de IA, como a Anthropic, a submeter sua tecnologia a escrutínio. Na semana passada, foi relatado que a Anthropic recusou-se a enviar seu modelo mais recente ao AISI para testes.
