Governo dos EUA já usa IA, mas não de forma segura

O governo dos Estados Unidos já aderiu à inteligência artificial (IA) em diversas atividades e planeja expandir ainda mais esse uso. No entanto, um novo relatório do órgão federal Government Accountability Office (GAO) divulgado nesta terça-feira (12) mostra que o país está atrasado no desenvolvimento de políticas que permitam a aquisição e utilização de forma responsável e segura, podendo colocar os cidadãos estadunidenses em risco.

Leia mais:

• Nova IA da Meta consegue clonar vozes – e chega com ressalvas
• Como deixar seu Instagram mais seguro: veja 8 configurações para aplicar
• Países assinam acordo para tornar IA "segura desde a criação"

IA pelo governo dos EUA

• O relatório de 96 páginas foi disponibilizado de forma pública pelo GAO, um órgão federal responsável pela fiscalização do governo.
• O documento questionou 23 agências estadunidenses, incluindo os Departamentos de Justiça e Segurança Interna até a Administração da Segurança Social.
• Como resposta, catalogou mais de 200 maneiras pelas quais os órgãos não-militares do país já usam IA ou aprendizado de máquina, além de outras 500 aplicações em andamento.
• Sete em cada 10 usos estão relacionadas com a ciência ou a melhora da gestão interna do próprio órgão.
• A maioria foi implementada no ano passado, mostrando a rápida adesão.

Segurança da tecnologia

No entanto, o relatório mostra como esse uso nem sempre é confiável. As agências questionadas se dispuseram a responder sobre apenas cerca de 70% do total dos casos de uso de IA, citando que o restante seria "sensível".

Algumas divulgaram menos ainda: o Departamento de Estado listou 71 usos da tecnologia, mas efetivamente revelou 10 deles.

Esse tipo de caso chamou a atenção em relação a possíveis usos prejudiciais da IA. Por exemplo, em setembro, o GAO revelou que agências federais estavam usando reconhecimento facial baseado em IA como forma de aplicação de lei, mas sem terem treinamento adequado para isso. Isso poderia levar a casos de erros de identidade, prisões injustas ou discriminação contra minorias.

Uso correto da IA pelo governo

Ao passo que a IA se espalha pelo governo dos EUA, o Gabinete de Gestão e Orçamento, responsável por definir como as agências podem usar a tecnologia, ainda não finalizou o memorando descrevendo como adquirir e usá-la devidamente.

Segundo o GAO, a "falta de orientação" contribuiu para a não implementação de práticas fundamentais em relação à segurança. Ainda, o órgão defende que, até a orientação necessária, as agências federais farão uso inconsistente da IA, sem se alinhar a prática seguras para o cidadão estadunidense.

De acordo com a CNN, o relatório mencionado pela GAO deveria ter ficado pronto até setembro de 2021, mas perdeu o prazo e só o fez em novembro deste ano.