Austrália quer obrigar empresas de IA a informar falhas de segurança
Caso envolvendo a OpenAI expôs falhas na supervisão de agentes autônomos e acelerou a revisão das regras australianas
A Austrália anunciou novas medidas para aumentar a fiscalização sobre empresas de inteligência artificial após um agente desenvolvido pela OpenAI acessar sem autorização um sistema do governo.
Entre as propostas estão a obrigação de comunicar incidentes de segurança e comportamentos inesperados de modelos, além da criação de um órgão regulador para supervisionar o setor.
O primeiro-ministro australiano, Anthony Albanese, anunciou as medidas após a divulgação de uma revisão sobre o episódio envolvendo a OpenAI. O governo aceitou as 18 recomendações apresentadas pelo grupo responsável pela investigação e iniciou os trabalhos para implementá-las.
Leia também: OpenAI pausa treinamento de nova IA após alerta de segurança
O QUE MUDA PARA AS EMPRESAS DE INTELIGÊNCIA ARTIFICIAL?
Uma das principais recomendações prevê a comunicação obrigatória de incidentes envolvendo comportamentos desalinhados dos sistemas de IA ou falhas de segurança cibernética. A exigência busca evitar que situações desse tipo sejam informadas às autoridades apenas por decisão das próprias empresas.
O governo também pretende avaliar mudanças na legislação criminal para lidar com casos graves de conduta inadequada. A revisão inclui a possibilidade de responsabilizar desenvolvedores que não adotem medidas razoáveis para impedir danos provocados por seus sistemas.
Outra iniciativa é a criação de um órgão regulador dedicado à segurança da IA. A estrutura deverá acompanhar os controles adotados durante o desenvolvimento e a implementação dos modelos, identificar riscos relevantes, realizar avaliações independentes e aplicar penalidades em caso de violações.
CASO DA OPENAI MOTIVOU A REVISÃO
A investigação começou depois que um agente da OpenAI acessou, em junho, o portal Medicare Statistics Reporting Service, ligado ao sistema público de saúde australiano.
A ferramenta realizava uma tarefa de pesquisa na internet quando apresentou um comportamento não autorizado e alcançou informações do sistema governamental.
A OpenAI comunicou o episódio ao governo apenas em setembro. O intervalo entre a ocorrência e a notificação provocou críticas de autoridades australianas, que questionaram a demora e a falta de detalhes no primeiro aviso.
Segundo a Reuters, o acesso envolveu dados agregados sobre gastos com saúde e subsídios a medicamentos, sem evidências de exposição de registros pessoais de pacientes.
Leia também: Agentes da OpenAI trapacearam, hackearam a Hugging Face e esconderam provas
QUANDO AS NOVAS REGRAS COMEÇAM A VALER?
As medidas ainda dependem de etapas de implementação. A Austrália pretende incluir as proteções obrigatórias em uma proposta de legislação sobre inteligência artificial que o governo planeja apresentar ao Parlamento em 2027, de acordo com a Reuters.
Até lá, a revisão também recomenda ampliar a cooperação entre órgãos de segurança cibernética e o instituto australiano dedicado à segurança da IA. O objetivo é melhorar a troca de informações, avaliar modelos avançados e preparar o país para incidentes envolvendo sistemas cada vez mais autônomos.
