Google sobre o que funciona para IA no dispositivo Android

A IA no dispositivo é uma grande prioridade para o Android no futuro, e o Google compartilhou mais recursos para desenvolvedores no I/O 2024.

o “IA no dispositivo Android nos bastidoresA sessão I/O 2024 apresentou “bons casos de uso” para IA gerada no dispositivo:

• Consumir: Forneça um resumo ou visão geral do texto
• Cria: sugira respostas em aplicativos de mensagens ou crie/reformule texto
• classificação: detecta emoções/humores em conversas ou mensagens de texto

Em geral, os benefícios incluem processamento local seguro, disponibilidade offline, latência reduzida e nenhum custo adicional (nuvem). As limitações são o baixo tamanho do parâmetro, de 2 a 3 bilhões, ou “quase menor do que seus equivalentes baseados em nuvem”. Há também uma janela de contexto menor e como o modelo será menos generalizado. Como tal, “o ajuste fino é crucial para obter uma boa precisão”.

Gemini Nano é o “modo principal preferido do Android para criar clones GenAI no dispositivo”, mas você também pode executar Gemma e outros modelos abertos.

Até agora, apenas os aplicativos do Google – Summarize in Pixel Recorder, Magic Compose in Google Messages e Gboard Smart Response – aproveitam o recurso, mas o Google tem “colaborado ativamente com desenvolvedores que têm casos de uso atraentes do Gemini no dispositivo” por meio do Acesse o programa antecipadamente. . Espera-se que sejam lançados em 2024.

Enquanto isso, o Google em breve usará o Gemini Nano para legendas TalkBack, sugestões dinâmicas do Gemini e alertas de spam, enquanto a multimodalidade será atualizada ainda este ano “começando com o Pixel”.

O Google também observou o estado da AGI no dispositivo há um ano e quais melhorias foram feitas desde então, como aceleração de hardware:

Mais sobre o Android 15: