Governança generativa: construindo confiança na era da IA
Quatro pilares para uma governança robusta, ética e responsável da inteligência artificial
Uma atualização urgente em nossas práticas de governança se faz necessária se desejamos alcançar todo o potencial daquela que tende a ser a maior revolução tecnológica da história
A inteligência artificial, especialmente a IA generativa, domina as discussões nos conselhos corporativos e nos principais eventos de inovação global.
Nesta semana, estive no palco do Web Summit Rio 2024 com Paulo Camara para compartilharmos nossas descobertas e experiências com clientes da Box1824 e da CI&T. Nossa análise revela que o ingrediente crucial para acelerar e desbloquear os benefícios da transformação de IA envolve um novo modelo de governança.
As organizações mais avançadas nessa jornada têm características comuns essenciais, como investimentos substanciais em tecnologia, talento e IA Responsável (IAR).
Contrariamente ao senso comum, a gestão de riscos não inibe, mas, na verdade, estimula a inovação. Especialmente quando falamos de uma tecnologia que carrega hoje perigos proporcionais às oportunidades. Desafios como alucinações, vieses, privacidade, direitos autorais, impacto ambiental e demissões em massa.
A oportunidade que identificamos e compartilhamos reside em enxergar a governança não apenas como uma questão legal, mas como o alicerce da segurança dos stakeholders. Um atributo que se torna ainda mais relevante diante do aumento de insegurança em torno de nossos dados, direitos e até mesmo da própria percepção da verdade e da realidade promovidas pelo acesso universal dessas poderosas ferramentas de IA generativa.
Neste contexto, não é apenas a velocidade de adoção que determinará o sucesso, mas a capacidade de fazê-lo com o mais alto padrão ético e responsável.
Sem a pretensão de esgotar as práticas necessárias, mas de dar início a uma importante conversa, apresentamos quatro pilares que mapeamos para uma governança robusta de IA:
1. Ethicsafe AI by design
Estabelecer políticas, processos e estruturas que garantam a responsabilidade, equidade e sustentabilidade em todas as iniciativas de IA. Envolve desde a implementação de políticas de uso responsável da tecnologia até um conselho de ética de IA.
2. AI-ready workforce
Investir na capacitação de colaboradores para aprender a trabalhar com IA, de maneira ética e responsável, incluindo a curadoria das ferramentas mais seguras, a construção de trilhas de aprendizagem envolvendo IAR e espaços de troca de experiências.
3. AI strategy orchestration
Uma pesquisa da Grammarly revelou que as empresas com estratégias holísticas têm 1,4 vezes mais probabilidade de acelerar a adoção da IA generativa. Para isso, é preciso priorizar casos de uso com maior potencial de impacto e diferenciação, além de implementar feedback loops (experimentação, validação e agilidade) para monitorar as percepções dos usuários de cada iniciativa.
4. AI-first tech & data platform
Uma pesquisa da Ernst Young revelou que quase dois terços (62%) das empresas concordam que sua capacidade de maximizar o valor da IA generativa é dificultada pelas suas estruturas de dados, tecnologia legada ou lacunas de competências essenciais. A grande oportunidade que temos explorado é conseguir fazer essas atualizações de maneira muito mais rápida e econômica, usando um processo de colaboração intensa entre humanos e agentes de IA.
Sabemos que esses quatro pilares podem parecer grandiosos e desafiadores, mas acreditamos na sua implementação gradual
Ao contrário do senso comum, a gestão de riscos não inibe, mas, na verdade, estimula a inovação.
em ciclos de poucos meses – equilibrando centralização com autonomia, investimentos corajosos com monitoramento de impactos precisos, processos de aprendizagem teórica e experimental e sempre envolvendo as pessoas no caminho.
Ressoou profundamente comigo uma uma fala de Reggie Townsend, da SAS, no Painel “What the world need is ethical AI” (O que o mundo precisa é de IA ética) do festival SXSW deste ano: “e sobre ser ‘trustworthy‘. Você não pode forçar ninguém a confiar em você, mas você pode operar de uma maneira que gere confiança.”
A confiança certamente vai emergir como uma das moedas mais valiosas em meio a transformações tecnológicas tão grandiosas e velozes. Para operar de maneira a fomentar confiança nesta nova realidade, você precisará de uma governança robusta sobre suas estratégias e práticas de IA.
