5 perguntas para Sunny Webb, membro do fórum da OpenAI
Na Exceptional Women Alliance (EWA), incentivamos mulheres a dar mentoria umas às outras. Como fundadora, presidente e CEO da organização sem fins lucrativos, tenho o privilégio de entrevistar e compartilhar insights de algumas lideranças que fazem parte do nosso programa de mentoria entre pares.
Apresento a vocês Sunny Webb, uma experiente líder de produtos que combina inovação técnica com inteligência de negócios. Sunny liderou e lançou mais de 50 produtos habilitados por inteligência artificial, além de desenvolver outros produtos tecnológicos complexos para algumas das maiores e mais respeitadas empresas do mundo, incluindo Apple, Accenture, Disney, Philips Healthcare e Microsoft, entre outras.
Ela também é membro do Fórum OpenAI, iniciativa que reúne especialistas, acadêmicos e estudantes para colaborar e debater o presente e o futuro da inteligência artificial.
Fast Company – Como você se interessou por inteligência artificial?
Sunny Webb – Trabalhei com IA e aprendizado de máquina durante toda a minha carreira. Estou bastante animada com as aplicações mais amplas da IA, que eliminam tarefas tediosas da vida e do trabalho.
Comecei a trabalhar com uma empresa stealth (confidencial) que está aplicando aprendizado de máquina para compressão de dados de observação de infraestrutura em nuvem.
No ano passado, pesquisei como a inteligência artificial generativa pode ser projetada e construída para ser confiável. Na minha opinião, a construção de sistemas de IA centrados na confiança é, provavelmente, o tema mais importante hoje em termos de tecnologia e impacto.
Fast Company – Como é possível criar IAs generativas que sejam confiáveis?
Sunny Webb – A IA generativa é uma ferramenta poderosa, que acelera casos de uso criativos. Normalmente, essas ferramentas criam tipos de dados multimodais, como texto, imagens e vídeos. Em um momento no qual deep fakes estão derrubando canais de mídia social, ser capaz de confiar que uma imagem ou vídeo é verdadeiro é importante para o público, especialmente em um ano eleitoral.
Recentemente, liderei um projeto de pesquisa focado em entender as preocupações dos usuários sobre a confiabilidade da IA generativa. A principal solução que os usuários sugeriram para aumentar sua confiança nos resultados foi notificá-los quando compartilhassem informações sensíveis e permitir que escolhessem quais informações a IA generativa pode armazenar.
Isso está alinhado com algo que ouvi recentemente em um evento do qual participou a CTO da OpenAI, Mira Murati, quando ela foi questionada se uma marca d'água em uma imagem gerada por IA generativa seria suficiente para garantir a confiabilidade daquele conteúdo.
Murati explicou que a OpenAI estava considerando um método para que os humanos pudessem identificar componentes de imagens híbridas, ou seja, imagens em parte reais e em parte criadas por IA.
Imagine uma foto criada por IA generativa de Dolly Parton em Marte, com a imagem de Marte identificada como "sintética" e a de Dolly como autêntica. Isso inspiraria confiança, porque estabeleceria uma governança para que os usuários confiem em um vídeo ou imagem.
Acho que esse tipo de informação transparente é uma abordagem para conquistar a confiança dos usuários. Outras alternativas seriam desenvolver designs de interface que impeçam os usuários de compartilhar informações sensíveis e permitir que eles selecionem quais dados serão armazenados.
Fast Company – Podemos confiar na IA generativa hoje?
Sunny Webb – Estamos chegando lá. Incentivo meus amigos e familiares a lerem as políticas de privacidade da IA generativa e os dados de alucinação de qualquer ferramenta que eles usem. É fácil encontrar essas informações no site do fornecedor da tecnologia.
Um bom exemplo de uma empresa que conseguiu construir confiança em seus produtos é a Apple. Neste segundo semestre, eles vão lançar a Apple Intelligence, que incorpora IA generativa no iPhone, iPad e Mac para auxiliar na redação. O anúncio chamou atenção porque o processamento é feito no dispositivo, em vez de ser processado na nuvem.
A inteligência artificial vai proporcionar maneiras de sermos mais humanos, de uma forma que não podemos imaginar hoje.
Quando trabalhei com a Apple enquanto estava na Accenture, tive uma visão dos bastidores de como eles operam. Toda decisão técnica e de negócios da Apple começa com a proteção da privacidade do usuário – sem compromissos ou dúvidas.
Por exemplo, em determinado momento, a Siri foi projetada para não ter acesso às pesquisas anteriores do Apple Maps. Embora isso torne a Siri um pouco mais limitada, os usuários sabem que, quando pegam um produto da Apple, seus dados e comportamentos não serão compartilhados com outro aplicativo para obter lucro.
Fast Company – Quais são alguns dos desafios que a IA generativa enfrenta?
Sunny Webb – Além da confiança? Aumentar a velocidade do processamento multimodal, enquanto filtra alucinações ou erros. E uma má reputação por substituir humanos.
Fast Company – Por que estamos falando sobre IA substituindo humanos?
Sunny Webb – Os líderes das empresas de tecnologia percebem que existem duas maneiras de vencer nesta nova fronteira: velocidade de desenvolvimento e poder de coleta de dados. Às vezes, o poder é obtido disseminando o medo, e alguns dos principais CEOs têm jogado esse jogo de poder ao espalhar mitos sobre como a inteligência artificial pode ser devastadora para a humanidade.
Isso me lembra a chegada da internet. Ninguém poderia prever o quão poderosa ela seria, mas todos entenderam que foi um grande avanço para o compartilhamento de informações.
Da mesma forma, antes do estouro da bolha pontocom, havia uma conversa sobre como as salas de bate-papo destruiriam o tecido social. É a mesma coisa com a IA generativa: ela não vai substituir as pessoas, mas sim proporcionar maneiras de sermos mais humanos, de uma forma que não podemos imaginar no nosso estado atual.
