Sete empresas de IA concordam com salvaguardas após pressão da Casa Branca

Sete empresas líderes de inteligência artificial dos EUA concordaram com garantias voluntárias para o desenvolvimento de tecnologia, anunciou a Casa Branca na sexta-feira, comprometendo-se a lutar por segurança, proteção e confiança, mesmo quando competem pelo potencial de inteligência artificial.

As sete empresas – Amazon, Anthropic, Google, Inflection, Meta, Microsoft e OpenAI – anunciarão formalmente seu compromisso com os novos padrões em uma reunião com o presidente Biden na Casa Branca na tarde de sexta-feira.

O anúncio ocorre enquanto as empresas correm para superar umas às outras com versões de inteligência artificial que fornecem novas ferramentas poderosas para criar texto, imagens, música e vídeo sem intervenção humana. Mas os saltos tecnológicos levantaram temores de que as ferramentas facilitem a disseminação de desinformação e avisos terríveis de “risco de extinção” à medida que os computadores autoconscientes se desenvolvem.

Na quarta-feira, a empresa controladora do Facebook, Meta, anunciou sua ferramenta de IA chamada Llama 2 e disse que divulgaria o código subjacente ao público. Nick Clegg, chefe de assuntos globais da Meta, disse em um comunicado que sua empresa apóia as salvaguardas implementadas pela Casa Branca.

“Estamos muito satisfeitos por assumir esses compromissos voluntários ao lado de outros no setor”, disse o Sr. Clegg. “É um primeiro passo importante para garantir que sandboxes de IA responsáveis ​​estejam em vigor e também cria um modelo para outros governos seguirem.”

As salvaguardas voluntárias anunciadas na sexta-feira são apenas um passo inicial, à medida que Washington e governos de todo o mundo implementam estruturas legais e regulatórias para o desenvolvimento da inteligência artificial. Funcionários da Casa Branca disseram que o governo está trabalhando em uma ordem executiva que vai além do anúncio de sexta-feira e apóia o desenvolvimento de uma legislação bipartidária.

“As empresas que desenvolvem essas tecnologias emergentes têm a responsabilidade de garantir a segurança de seus produtos”, afirmou o departamento em comunicado anunciando os acordos. A declaração disse que as empresas devem “manter os mais altos padrões para garantir que a inovação não ocorra às custas dos direitos e da segurança dos americanos”.

Como parte do acordo, as empresas concordaram em:

• Testes de segurança de seus produtos de IA, em parte por especialistas independentes e compartilhamento de informações sobre seus produtos com governos e outros que tentam gerenciar riscos tecnológicos.

• Garanta que os consumidores possam descobrir o material gerado pela IA aplicando marcas d’água ou outros meios para identificar o conteúdo gerado.

• Relate publicamente as capacidades e limitações de seus sistemas regularmente, incluindo riscos de segurança e evidências de viés.

• Implante ferramentas avançadas de IA para enfrentar os maiores desafios da sociedade, como a cura do câncer e o combate às mudanças climáticas.

• Realize pesquisas sobre os riscos de preconceito, discriminação e invasão de privacidade decorrentes da proliferação de ferramentas de IA.

“O histórico da IA ​​mostra a insidiosidade e a difusão desses riscos, e as empresas estão comprometidas em lançar uma IA que os mitigue”, disse o comunicado do governo Biden na sexta-feira antes da reunião.

É improvável que o acordo diminua os esforços para aprovar legislação e impor regulamentações sobre a tecnologia emergente. Os legisladores em Washington estão correndo para acompanhar os rápidos desenvolvimentos da inteligência artificial. Outros governos estão fazendo o mesmo.

A União Europeia agiu rapidamente no mês passado para considerar o esforço de maior alcance para regular a tecnologia. A legislação proposta pelo Parlamento Europeu imporia limites severos a alguns usos da IA, incluindo o reconhecimento facial, e exigiria que as empresas divulgassem mais dados sobre seus produtos.