RFID Journal
A Administração Biden emitiu recentemente recomendações de políticas adotando a abertura em inteligência artificial (IA) enquanto pede monitoramento ativo de riscos em modelos poderosos de IA.
O Relatório da Administração Nacional de Telecomunicações e Informações (NTIA) do Departamento de Comércio sobre Modelos de Base de Uso Duplo com Pesos de Modelo Amplamente Disponíveis recomenda que o governo dos EUA desenvolva novos recursos para monitorar riscos potenciais, mas evite restringir imediatamente a ampla disponibilidade de pesos de modelo aberto nos maiores sistemas de IA.
“O relatório de hoje fornece um roteiro para a inovação responsável em IA e a liderança americana ao abraçar a abertura e recomendar como o governo dos EUA pode se preparar e se adaptar aos potenciais desafios futuros”, disse a Secretária de Comércio dos EUA, Gina Raimondo, em um comunicado à imprensa.
Diretrizes dos EUA
Como parte de uma ordem executiva sobre IA no ano passado, o presidente Joe Biden deu ao Departamento de Comércio dos EUA até julho para conversar com especialistas e retornar com recomendações sobre como gerenciar os potenciais benefícios e riscos dos chamados modelos abertos.
O modelo de código aberto permite que os desenvolvedores desenvolvam e adaptem trabalhos anteriores, ampliando a disponibilidade das ferramentas de IA para pequenas empresas, pesquisadores, organizações sem fins lucrativos e indivíduos. A NTIA foi encarregada de revisar os riscos e benefícios de grandes modelos de IA com pesos amplamente disponíveis e desenvolver recomendações de políticas que maximizem esses benefícios e, ao mesmo tempo, mitiguem os riscos.
“A abertura dos maiores e mais poderosos sistemas de IA afetará a concorrência, a inovação e os riscos nessas ferramentas revolucionárias”, disse o Secretário Assistente de Comércio para Comunicações e Informação e Administrador da NTIA, Alan Davidson.
Debate aberto sobre IA
“O relatório da NTIA reconhece a importância dos sistemas abertos de IA e pede um monitoramento mais ativo dos riscos da ampla disponibilidade de pesos de modelo para os maiores modelos de IA”, continuou Davidson. “O governo tem um papel fundamental a desempenhar no apoio ao desenvolvimento de IA enquanto constrói capacidade para entender e lidar com novos riscos.”
Conforme observado em uma matéria da AP News, esta é a primeira vez que o governo federal se aprofunda em um debate da indústria de tecnologia entre desenvolvedores como o fabricante do ChatGPT, OpenAI, defendendo o fechamento do funcionamento interno de seus modelos para se proteger contra o uso indevido, e outros, como o CEO da Meta Platforms, Mark Zuckerberg, que fizeram lobby por uma abordagem mais aberta que, segundo eles, favorece a inovação.
“A abertura dos maiores e mais poderosos sistemas de IA afetará a concorrência, a inovação e os riscos nessas ferramentas revolucionárias”, observou Davidson.
Supervisão contínua
Para monitorar os riscos emergentes, o relatório pede que o governo dos EUA desenvolva um programa contínuo para coletar evidências de riscos e benefícios, avaliar essas evidências e agir sobre essas avaliações, incluindo possíveis restrições à disponibilidade de pesos de modelo, se necessário. Isso se enquadra em três categorias:
Coletar evidências, que inclui realizar pesquisas sobre a segurança de modelos de IA poderosos e consequentes, bem como seus usos posteriores; dar suporte a pesquisas externas sobre as capacidades presentes e futuras de modelos de base de uso duplo e mitigações de risco; e manter um conjunto de indicadores específicos de risco.
Avaliar evidências que desenvolveriam e manteriam limites dos indicadores específicos de risco para sinalizar uma possível mudança na política; continuar a reavaliar e adaptar benchmarks e definições para monitoramento e ação; e manter capacidades profissionais em domínios técnicos, jurídicos, de ciências sociais e políticas para dar suporte à avaliação de evidências.
Agir com base em evidências. Se uma futura avaliação de evidências levar à determinação de que mais ações são necessárias, o governo pode impor restrições ao acesso a modelos ou se envolver em outras medidas de mitigação de risco conforme considerado apropriado, como restringir o acesso a componentes materiais no caso de preocupações com risco biológico.
“O relatório da NTIA reconhece a importância de sistemas abertos de IA e pede um monitoramento mais ativo dos riscos a partir da ampla disponibilidade de pesos de modelo para os maiores modelos de IA”, afirmou Davidson.
“O governo tem um papel fundamental a desempenhar no apoio ao desenvolvimento da IA, ao mesmo tempo em que constrói capacidade para entender e abordar novos riscos.”