Agentes de IA em Fones de Ouvido, Sempre Atentos para Assistência Sensível ao Contexto

Uma equipe de pesquisadores da Universidade de Michigan e da Universidade de Fudan apresentou o Buddie, um sistema de fones de ouvido com IA de código aberto projetado para melhorar as interações baseadas em voz, incorporando a percepção do contexto.

Buddie utiliza compressão de alta eficiência energética para reduzir o consumo de energia durante a audição contínua. Liderado pelo professor de Engenharia Elétrica e de Computação, Robert Dick, o projeto lançou uma campanha no Kickstarter no dia 23 de dezembro para tornar a tecnologia disponível para consumidores e desenvolvedores.

Buddie combina fones de ouvido e um aplicativo para smartphone para criar uma interface de voz capaz de entender o contexto conversacional. O sistema ouve as conversações para coletar informações de fundo, permitindo que os assistentes de IA forneçam respostas mais precisas. Por exemplo, ele poderia lembrar um nome mencionado recentemente ou resumir tarefas de uma reunião.

De acordo com Dick, a consciência do contexto aborda uma limitação significativa nos sistemas de IA atuais, que muitas vezes exigem que os usuários forneçam repetidamente informações de fundo. Buddie visa agilizar essas interações, permitindo que os assistentes de IA acessem o contexto necessário.

Os earbuds Buddie oferecem a integração da IA na vida cotidiana, transformando o ChatGPT ou outros agentes de IA em um assistente pessoal consciente do contexto. Ao ouvir continuamente, o Buddie fornece aos sistemas de IA o contexto de que precisam para fornecer respostas personalizadas sem exigir que os usuários expliquem repetidamente a sua situação.

Esta interação sem o uso das mãos apoia a comunicação por voz, garantindo que os usuários possam interagir com a IA a qualquer momento, em qualquer lugar. O Buddie inclui earbuds inteligentes e um aplicativo móvel de código aberto para iOS e Android, suportando agentes de IA como o ChatGPT. Serviços premium de terceiros opcionais também estão disponíveis, permitindo que os usuários personalizem sua experiência.

Projetado para trabalho e uso pessoal, Buddie tem como objetivo aumentar a produtividade, transcrevendo e resumindo reuniões, capturando itens de ação e fornecendo dicas rápidas e relevantes durante as conversas.

Por exemplo, se seu chefe menciona uma palavra desconhecida, Buddie rapidamente fornece sua definição. Ele se integra a várias plataformas de reuniões, incluindo Zoom e Microsoft Teams, oferecendo suporte para diversos estilos de comunicação.

Além do ambiente de trabalho, Buddie auxilia na vida cotidiana, aprendendo as preferências do usuário e oferecendo sugestões personalizadas. Ele fornece resumos diários para refletir sobre conquistas, acompanhar tarefas e destacar momentos significativos.

Os pesquisadores afirmam que os fones de ouvido Buddie são projetados para proteger a privacidade do usuário, enquanto fornecem reconhecimento de contexto alimentado por IA. Os dados de áudio são capturados e transmitidos sem fio para o aplicativo de smartphone Buddie, onde são transcritos para texto e deletados em segundos.

As transcrições são criptografadas e armazenadas localmente no dispositivo do usuário, prevenindo o acesso não autorizado. Os dados não são transmitidos para servidores remotos, a menos que sejam explicitamente solicitados pelo usuário. Para aqueles que optam por usar serviços de IA de terceiros

A capacidade de escuta contínua do Buddie também apresenta desafios técnicos, particularmente no consumo de energia. Para resolver isso, os fones de ouvido utilizam técnicas de compressão eficientes em termos de energia para reduzir o esforço sobre as baterias.

A abordagem de código aberto do projeto incentiva usuários e desenvolvedores a explorar novas aplicações, modificar software e contribuir para o seu desenvolvimento. Buddie está disponível a um custo de $40 para os primeiros apoiadores.

No entanto, por mais inovador que seja o design consciente do contexto do Buddie, ele destaca as crescentes preocupações no domínio da cibersegurança. Especialistas em cibersegurança da Morphisec alertam que os atacantes estão cada vez mais aproveitando sistemas de IA generativos para explorar capacidades avançadas como as encontradas em dispositivos conscientes do contexto.

Por exemplo, técnicas de extração de modelos poderiam potencialmente ser usadas para fazer a engenharia reversa de sistemas de IA, imitando seu comportamento para ganhar insights não autorizados ou lançar ataques sofisticados.

A capacidade de escuta contínua do Buddie também levanta questões sobre vulnerabilidades, como ataques de injeção de prompts. Manipulando os prompts de um sistema de IA, os atacantes poderiam forçá-lo a gerar saídas prejudiciais ou não intencionais, conforme relatado pela Morphisec.

Modelos avançados de IA, semelhantes àqueles que possibilitam a funcionalidade sensível ao contexto do Buddie, podem criar prompts adaptativos, contornando filtros para identificar estratégias de ataque bem-sucedidas, diz Morphisec.

Futuras iterações do Buddie visam aprimorar recursos de privacidade, incorporar inteligência a bordo e fornecer opções para a seleção de sistemas de IA com políticas de proteção de dados mais robustas. Por enquanto, o foco permanece em aprimorar as interações baseadas em áudio e entender o potencial da IA sensível ao contexto no uso cotidiano.