Governo dos EUA determina medidas para proteger cidadãos da IA

A Casa Branca determinou que agências federais dos Estados Unidos implementem medidas de proteção ao usar inteligência artificial (IA) para salvaguardar direitos e segurança dos cidadãos, segundo a agência de notícias Reuters.

Para quem tem pressa:

• A Casa Branca exige que agências federais dos EUA implementem medidas de proteção ao usar inteligência artificial (IA), incluindo transparência e avaliação dos impactos sociais, para mitigar riscos como a discriminação algorítmica;
• Agências devem monitorar e avaliar o uso da IA, com ênfase na transparência e na mitigação de riscos, incluindo a divulgação pública de informações sobre as aplicações de IA do governo;
• Iniciativas incluem optar por não usar reconhecimento facial em aeroportos e supervisão humana em decisões diagnósticas na saúde, além de exigências de compartilhamento de testes de segurança para sistemas de IA relacionados à segurança nacional ou pública;
• A administração do presidente Joe Biden tem aumentado a transparência no uso governamental de IA ao contratar especialistas e designar oficiais de IA nas agências, visando também controlar o acesso estrangeiro a dados usados para treinar modelos de IA.

Entre essas medidas de proteção, estão a exigência de transparência e a avaliação dos impactos da IA na sociedade. A meta desta determinação da Casa Branca é mitigar riscos de discriminação algorítmica.

Leia mais:

• Executivos de IA farão lobby com Congresso contra China
• Marco Legal da Inteligência Artificial: entenda os 5 principais pontos
• 14 perguntas e respostas sobre Inteligência Artificial (IA)

Determinações dos EUA sobre IA

Uma diretriz do Escritório de Gerenciamento e Orçamento orienta as agências a monitorar e avaliar a IA, focando na transparência e na mitigação de riscos. Isso inclui avaliações de impacto e estabelecimento de métricas de governança.

Salvaguardas específicas devem ser adotadas pelas agências para regular o uso da IA, com requisitos de divulgação pública detalhada sobre as aplicações de IA pelo governo, visando informar o público sobre o uso governamental da tecnologia.

Em outubro de 2023, o presidente dos EUA, Joe Biden, assinou uma ordem executiva (iniciativa formal do chefe do Executivo com força de lei) para regular o desenvolvimento de IA que possa impactar a segurança nacional ou pública. A ordem exigia que os resultados dos testes de segurança desses sistemas fossem compartilhados com o governo estadunidense antes de seu lançamento.

Outras medidas

Medidas adicionais incluem garantias de que os passageiros possam optar por não usar o reconhecimento facial em aeroportos sem atrasos e a supervisão humana de decisões diagnósticas na área de saúde que utilizam IA.

A administração de Biden expressa preocupações com a IA generativa, que tem potencial tanto para inovação quanto para riscos, incluindo impactos no emprego (Reino Unido que o diga), na estabilidade eleitoral e na autonomia humana.

As agências federais deverão tornar públicos seus inventários de uso de IA, métricas e, quando seguro, seus códigos e dados, promovendo transparência e responsabilidade no uso governamental da IA.

A Casa Branca também tem tomado medidas proativas ao contratar especialistas em IA e exigir que as agências designem oficiais responsáveis pela IA, além de propor regulações para controlar o acesso estrangeiro a dados nos EUA usados para treinar modelos de IA.