Este robô “faça você mesmo” fica “chapado” em tempo real

Um entusiasta da comunidade LocalLLaMA do Redd https://old.reddit.com/r/LocalLLaMA/comments/1u9a17y/my_suitcase_robot_gets_high_now_off_a_real_gas/ construiu o que talvez seja a integração de LLM mais inesperada que vimos em todo o ano: um robô em forma de mala chamado Sparky que fica progressivamente mais... incoerente quando exposto à fumaça. Isso não ocorre por meio de nenhum comportamento programado, mas sim ao alimentar dados reais de sensores diretamente nos parâmetros de amostragem do modelo.

O projeto foi publicado pelo usuário do Reddit u/CreativelyBankrupt. Ele utiliza, essencialmente, um sensor de gás MQ-2 (atualmente por US$ 7,99 na Amazon) montado dentro da maleta do robô. A cada 500 milissegundos, o sensor mede o ar ambiente em relação a uma linha de base adaptativa de ar puro e converte a presença de fumaça em um valor de fase entre 0 e 10. Esse valor de fase, então, reajusta a forma como o LLM gera texto em tempo real. Por exemplo, à medida que o nível de fumaça aumenta, a temperatura sobe de 1,0 para cerca de 1,6, o top_p passa de 0,95 para 0,99 e o top_k salta de 64 para 120.

Quando isso ocorre, as opções de palavras do Sparky diminuem, e o robô começa a optar por tokens de menor probabilidade, tornando-se mais ruidoso — pois o amostrador em tempo real está fazendo exatamente o que parâmetros de amostragem elevados fazem a qualquer modelo de linguagem. Cada resposta “alta” é gerada na hora, de modo que não há duas respostas iguais. Um ajuste na persona por fase garante que o comportamento se manifeste (sem que o robô realmente anuncie seu estado).

Há também um feedback físico. O Sparky apresenta olhos caídos, um leve sotaque arrastado na saída de voz e um visor que entra em um efeito completo de fumaça e plasma na fase 10. Ele permanece assim por sete minutos antes de se desvanecer.

O criador é franco quanto aos limites do hardware — o MQ-2 é um sensor de COV, o que significa que incenso ou um cigarro provocariam a mesma resposta que a cannabis, e ele não consegue distinguir entre as fontes de fumaça.

O vídeo tem mais de 1.100 votos positivos no Reddit até o momento da redação deste artigo. Confira abaixo:

My suitcase robot gets high now off a real gas sensor wired straight into the LLM sampler. Smoke raises temperature/top_p/top_k live, so his speech genuinely gets loopier and never repeats.
by u/CreativelyBankrupt in LocalLLaMA