Apple Intelligence, e agora?
Nesta semana, 10 de junho de 2024, a Apple anunciou um conjunto de ferramentas e integrações em seus sistemas operacionais chamado de Apple Intelligence. O objetivo aqui claramente foi tentar correr atrás da concorrência, que já estava trabalhando publicamente com grandes modelos de linguagem. O anúncio da integração dos sistemas com LLMs como ChatGPT já era esperado, e a melhora significativa da Siri para pedidos via voz chega até um pouco tarde. Dentre todas as mudanças nos sistemas operacionais anunciadas no evento, em sua grande maioria até cosméticas e de funcionalidades mais tradicionais algumas menores chamaram bastante a atenção, como o Private Cloud Compute.
Primeiro precisamos dizer que nem tudo pode ser executado em um dispositivo como um iPhone ou iPad, mesmo que com um chip M4 ou A17 Pro. Dada a limitação de hardware na plataforma, no que diz respeito também à energia, resfriamento, memória RAM e armazenamento, precisamos de um ambiente um pouco mais com cara de servidor para rodar tarefas mais pesadas. E no evento de hoje, WWDC24, a Apple anunciou uma unidade de computação em nuvem que utiliza chips apple silicon para o processamento privado de Inteligência artificial. O ganho aqui é em todos os sentidos. Os chips Apple Silicon são ultra rápidos, e possuem uma alta eficiência energética. Melhor ainda, desenvolveram uma solução única de SO que mantém somente o necessário para o processamento eficiente e privado, baseada na fundação dos sistemas operacionais macOS e iOS. Este trabalho não é o trabalho de um ano de pesquisa e desenvolvimento. Ele vem desde o iPhone 4, que foi um dos primeiros a utilizar um processador próprio, o A4 (tatatatataravô dos M4…). Com a expertise na construção de chips eficientes, o trabalho aqui foi de adequar o software para o propósito.
É possível então, enxergar inúmeras possibilidades para o futuro. Imagine que várias unidades computacionais desta estão disponíveis online para uso do seu app, como para por exemplo fazer análise de imagens e vídeos. Ou então imagine que a Apple forneça uma quantidade de processamento nessas unidades para outras tasks que não envolvem IA e nos permita rodar aplicações backend de maneira segura, privada e eficiente, somente com o mínimo necessário para comunicação. As possibilidades são infinitas. Claro que com todas estas restrições, impostas na solução lançada, o debugging ficou bastante complicado, mas o propósito aqui nem é este mesmo, por enquanto.
Quer saber mais sobre o Private cloud Compute e como ele funciona? Acesse este link. O que será que uma grande rede com muitos destes nós poderá servir no futuro? Só o tempo dirá….