Apple adota medida de segurança para apps com IA generativa
Empresa coloca restrição de idade em aplicativo de e-mail com recursos do ChatGPT. Seria uma desaceleração da "corrida armamentista" da IA generativa?
Tendo em vista que o LinkedIn está transbordando de profissionais de marketing, e que toda a galera de tecnologia está fazendo um enorme burburinho sobre o ChatGPT – igualzinho a fãs de uma banda de K-pop na grade do show –, é natural que você esteja achando que a mais recente inteligência artificial generativa da OpenAI está prestes a curar o câncer ou descobrir o segredo da vida.
Aliás, a Microsoft está tão empolgada com essa tecnologia que desembolsou US$ 10 bilhões para lançar um sociopata movido a ChatGPT disfarçado de mecanismo de busca.
Parece até que se sua empresa, seu aplicativo ou sua airfryer ainda não está usando IA generativa, então você está por fora. É por isso que me surpreendeu perceber que a empresa de tecnologia número um do mundo está quietinha no canto dela, mexendo no seu iPhone e pedindo à Siri para contar outra piada. Por enquanto...
De acordo com um artigo do Wall Street Journal, a gigante está defendendo que é hora de desacelerar a "corrida armamentista" da IA. Pelo menos um pouco.
ONDE ESTABELECER O LIMITE?
O que aconteceu foi o seguinte: quando uma empresa chamada Blix Inc enviou a versão mais recente de seu aplicativo de e-mail iOS para revisão, a Apple respondeu com “não, aí já é demais”.
a história nos ensinou que, se você deixar uma tecnologia que muda o mundo nas mãos apenas do Vale do Silício, as chances de dar muito errado são grandes.
Aparentemente, a atualização permite gerar texto usando o ChatGPT. Para a Apple, isso é motivo de “preocupação”, já que o aplicativo não incluiu um mecanismo de filtragem de conteúdo adequado que possa impedir a exposição de textos problemáticos.
O co-fundador da Blix, Ben Volach, contou ao WSJ que a Apple acredita que esse novo recurso pode mostrar conteúdo impróprio e, portanto, deveria ser lançado na App Store com uma classificação de limite de idade de 17 anos.
Considerando que o experimento da Microsoft em Sydney, com diretrizes estritas de conduta, está indo muito bem, a posição da Apple faz sentido para mim. Mas Volach pensa o contrário. Ele acredita que a mudança limitará injustamente o alcance do aplicativo, o que acabará prejudicando os negócios da sua empresa.
O fato de a Apple ser a primeira a pisar no freio da IA generativa é um alívio. É um alívio porque, sim, essa tecnologia é sem dúvida incrível e mais cheia de potencial criativo do que um cruzamento genético de Warhol, Kubrick e Bowie sob efeito de LSD. Só que ela também carrega um enorme potencial de destruição.
A postura da Apple nos deixa aliviados porque, de fato, precisamos parar e respirar fundo antes de pensar coletivamente em como regular essa novidade. E porque a história nos ensinou que, se você deixar uma tecnologia que muda o mundo nas mãos apenas do Vale do Silício, as chances de dar muito errado são grandes – basta lembrar, por exemplo, de todos os problemas derivados das redes sociais.
Alguém com poder precisava fazer algo para desacelerar nossa marcha cega em direção a um futuro de IA, mesmo que seja apenas colocar um limite de 17+ em um aplicativo.
SEGUINDO AS REGRAS
Quero acreditar que a Apple está enxergando claramente onde tudo isso pode dar. Afinal, a empresa tem um longo histórico de bloqueio de tendências que considera ruins.
Steve Jobs disse a um repórter que queria oferecer um mundo “livre de pornografia” em seus produtos. Tim Cook, defendendo o monopólio da App Store, argumentou recentemente que, sem o controle da empresa, a loja se tornaria “uma bagunça tóxica”.
Perguntei à Apple por que ela bloqueou o aplicativo de e-mail do ChatGPT e a resposta foi que
a) a empresa está investigando a reclamação do desenvolvedor; e
b) todos os desenvolvedores têm a opção de contestar uma rejeição por meio do processo de apelação no App Review Board.
Não deram nenhuma resposta às minhas outras perguntas, sobre ética e outros conflitos potenciais. A troca de e-mails com Volach – editada pelo WSJ – apenas afirmou que o aplicativo precisava ter a classificação para maiores de 17 anos para ser publicado.
NEM TUDO É O QUE PARECE
Mas as motivações da Apple ficam mais obscuras se nos aprofundarmos um pouco mais e percebermos que aplicativos como o Lensa – que também usa IA generativa – têm um limite de idade de apenas quatro anos na App Store.
Lensa é o aplicativo que conquistou a internet criando retratos gerados por IA e arrecadando dezenas de milhões de dólares em tempo recorde para seu desenvolvedor e para a Apple.
Sim, estamos falando de um aplicativo desenvolvido pela Stable Diffusion, que foi processado pela Getty por usar imagens protegidas por direitos autorais sem permissão. E sim, esse mesmo aplicativo pode acidentalmente produzir fotos de suas usuárias nuas. Imagens íntimas com classificação 4+? Esquisito...
Quando questionada sobre essa incongruência na classificação do Lensa, a Apple não respondeu.
Então, talvez a Apple não esteja tão preocupada em oferecer um ambiente totalmente livre de abusos. Talvez ela seja igual à Microsoft, ao Google e ao resto das empresas de tecnologia. Enquanto os milhões estiverem entrando na conta, está tudo bem.
Sinceramente, ainda não sei dizer qual é o caso. Será interessante assistir até onde a Apple vai com IA além da detecção de problemas de saúde e de adivinhar quando você pode estar tendo um ataque cardíaco. Onde está realmente a ética da empresa?
Espero que a Apple faça algo mais significativo sobre os riscos da inteligência artificial do que carimbar uma classificação de 17+ em um aplicativo de e-mail que a maioria das pessoas nunca ouviu falar.
