A falha do Pixel 8 Gemini destaca as falhas de IA do Google no Pixel

O Google deve ser aplaudido pelo que realizou com seus esforços de IA em sua linha de smartphones Pixel. Desde o início, a empresa definiu a linha Pixel por seus recursos de IA, com uma visão clara do rumo que os smartphones estavam tomando e de como a IA poderia aprimorar a experiência do usuário. Seja com a introdução e a subsequente popularização da fotografia computacional ou com recursos inteligentes como a triagem de chamadas, a empresa liderou o caminho de como a IA pode ser usada para tornar os smartphones ainda mais inteligentes.

No entanto, agora está mais do que claro que ela realmente tropeçou, com a notícia surgindo na semana passada de que o Pixel 8, lançado em outubro passado, não é compatível com nenhum dos dois Gemini baseados em IA generativa. Para deixar claro, embora a OpenAI possa ter tirado a liderança da IA do Google, seu software de IA ainda é muito competitivo. O problema aqui está no que o próprio Google descreveu como "limitações de hardware"."

O Pixel 8 é equipado com o mesmo Tensor G3 do Pixel 8 Pro, mas enquanto o último tem 12 GB de RAM, o Pixel 8 tem apenas 8 GB de RAM, o que parece ser a causa do gargalo do sistema nessa ocasião. Isso ainda é um pouco surpreendente, pois o Gemini Nano vem em dois tamanhos de modelo: um com apenas 1,8 bilhão de parâmetros e o outro com 3,6 bilhões de parâmetros. Não está claro qual dos dois modelos está sendo executado no Pixel 8 Pro, mas pelo menos ele pode suportar o primeiro LLM móvel do Google no dispositivo.

No que diz respeito aos modelos de IA no dispositivo, ambos são relativamente modestos, no entanto. A Qualcomm, que acaba de lançar um novo AI Hub com mais de 75 modelos de IA compatíveis com seus chips Snapdragon, destacou que seu Snapdragon 8 Gen 3 pode suportar modelos de IA de até 10 bilhões de parâmetros. Até mesmo o Snapdragon 8 Gen 2 pode suportar modos de IA com até 7 bilhões de parâmetros.

Isso é significativo por dois motivos. Em primeiro lugar, quanto maiores os parâmetros, potencialmente mais sofisticado e preciso será o modelo. Em segundo lugar, ele destaca que não é apenas a RAM do sistema que afeta o Pixel 8, mas o Tensor G3, como já examinamos anteriormente examinamos anteriormenteo senhor está longe de ser o campeão de IA que o marketing do Google nos leva a acreditar. O Google apresentou a série Pixel como sendo toda voltada para a IA e defendeu o Tensor por sua falta de desempenho total, sob a alegação de que o desempenho total é menos importante do que a capacidade de IA.

É claro que a capacidade de IA e o desempenho do chip andam de mãos dadas, especialmente quando se trata do tamanho de grandes modelos de linguagem (LLMs) e grandes modelos multimodais (LMMs). O Google tem conseguido se safar das deficiências de desempenho do Tensor porque, até agora, tem usado modelos de aprendizado de máquina menores. Isso permitiu que a empresa enganasse alguns fãs do Pixel, fazendo-os pensar que seus chips foram, de alguma forma, especialmente "ajustados" para IA e que seu desempenho em benchmarks não importa - novidade - eles importam.

Os LLMs e LMMs exigem toda a capacidade de processamento que um chip tem a oferecer, com o núcleo neural atuando como um acelerador, com a CPU e a GPU totalmente utilizadas para processar modelos de aprendizado de máquina e aprendizado profundo no dispositivo. Quanto mais potente for o chip em todos os aspectos, maior será a capacidade desses modelos de IA com vários bilhões de parâmetros. Não é por acaso que o Snapdragon 8 Gen 3 supera o Tensor G3 em benchmarks e também pode lidar com modelos de IA muito maiores no dispositivo.

Esse é o motivo, como também destacamoso Google foi forçado a transferir uma série de novos recursos de IA generativa disponíveis para os usuários do Pixel 8 Pro para o Google Cloud para processamento fora do dispositivo. O Tensor G3 simplesmente não está "à altura" nem os 8 GB de RAM instalados no Pixel 8.

Ao abandonar os chips Snapdragon da Qualcomm para fabricar seus próprios chips Tensor, o objetivo, segundo o Google, era criar chips que pudessem "acompanhar" com seus esforços de software de IA. Claramente, esse objetivo está em frangalhos, especialmente com esse último fiasco do Pixel 8 Gemini. Apenas cinco meses após seu lançamento, ele não consegue acompanhar o Gemini Nano, embora também venha em um modelo comparativamente pequeno, com 1,8 bilhão de parâmetros. Por outro lado, o Pixel 8 Pro, que, embora seja capaz de executar o Gemini Nano no dispositivo, ainda é forçado a transferir muitos recursos novos de IA generativa para a nuvem.

Ele também zomba do anúncio do Google https://blog.google/products/pixel/software-support-pixel-8-pixel-8-pro/ no lançamento da série Pixel 8, de que os telefones viriam com 7 anos de atualizações de software. Não estamos nem na metade do primeiro ano completo de lançamento e o Pixel 8 não consegue acompanhar o ritmo de seu companheiro estável. Embora seja uma meta louvável, a realidade é que não demorará muitos anos para que as "atualizações" do sistema operacional do Pixel 8 e do Pixel 8 Pro se limitem, em grande parte, a patches de segurança e outros ajustes do sistema. Como a IA é a razão de ser da própria existência da série Pixel, os dois dispositivos não são capazes de lidar adequadamente com os mais recentes recursos de IA do Google, mesmo agora.

O Google fez uma parceria com a Samsung LSI e a Samsung Foundry para seu projeto, desenvolvimento e fabricação. Até agora, esse tem sido seu calcanhar de Aquiles, pois esses chips têm sofrido com ineficiência e superaquecimento devido ao vazamento de corrente e às preocupações com a embalagem. Isso limitou o potencial de desempenho de sua arquitetura subjacente baseada em Arm em termos de desempenho máximo e sustentado.

Entretanto, o aparente sucesso do Exynos 2400 nos modelos Galaxy S24 e Galaxy S24+ graças aos refinamentos dos nós e à utilização de um novo empacotamento fan-out em nível de wafer (FOWLP), é um bom presságio para o Tensor G4. Esse chip será incorporado à futura série Série Pixel 9 no final deste ano, enquanto o Google fornecerá seu primeiro chip totalmente personalizado, o Tensor G5, que será fabricado pela TSMC, mais sofisticada.

Isso, é claro, não é muito reconfortante para os proprietários do Pixel 8. Eles não só perderão os recursos de IA generativa reservados para os proprietários do Pixel 8 Pro, como também não poderão experimentar o Gemini Nano. O Pixel 8 ainda é um sólido telefone de médio porte, mas ele realmente destaca as falhas atuais - e auto-infligidas - da IA do Pixel do Google.