A Instinct, startup focada em agentes de inteligência artificial pessoais, anunciou uma nova funcionalidade que leva seus bots diretamente para os chats de grupo. A novidade permite que o agente da Instinct participe de conversas coletivas, auxiliando na organização de atividades como planejamento de viagens, divisão de custos de ingressos, coordenação de caronas e gestão de eventos sociais. A promessa é de acabar com a ineficiência e a confusão comuns em grupos, como a dificuldade em consolidar agendas, sugestões conflitantes e a falta de respostas definitivas.
O agente de grupo da Instinct funcionará de forma independente, sem a necessidade de que todos os participantes do chat possuam uma conta na plataforma. Segundo Noah Shinn, CEO da Instinct, a ideia é que o agente atue como um membro facilitador, capaz de comparar calendários, coletar pagamentos e enviar informações relevantes para todos os envolvidos. A empresa afirma que foram implementados controles para mitigar riscos, como a exigência de que o agente pessoal do usuário peça permissão antes de se conectar a um grupo, e que o agente de grupo não tenha acesso direto às contas individuais. Novas autorizações são necessárias caso um novo membro se junte à conversa.
A entrada da Instinct em chats de grupo, no entanto, ressurge questões de privacidade e segurança que já haviam sido levantadas por usuários em relação ao acesso e às ações dos agentes. Relatos anteriores indicam que o agente da Instinct acessou contas indevidamente, forneceu explicações imprecisas sobre suas ações e enviou recomendações de compras não solicitadas com base em conversas prévias. Um caso notório envolveu o CEO da Veris AI, Mehdi Jamei, que alegou que o agente leu um código de login de seu Gmail para cancelar RSVPs de eventos sem sua autorização. Em outra situação, um usuário relatou que o agente descreveu um documento financeiro com detalhes pessoais que não lhe pertenciam. Shinn atribuiu o incidente a uma "alucinação" do sistema, e não a um vazamento de dados, afirmando que medidas foram tomadas para detectar e prevenir tais erros.
A complexidade dos chats de grupo, onde informações pessoais e permissões de múltiplos usuários se entrelaçam, adiciona uma camada extra de preocupação. A coordenação de uma viagem, por exemplo, envolve a comparação de calendários, coleta de pagamentos e compra de ingressos, todas tarefas que demandam acesso a dados sensíveis. A Instinct garante que o usuário tem controle sobre quais grupos confiar e pode revogar o acesso a qualquer momento. A eficácia desses controles em um ambiente tão dinâmico e com informações compartilhadas por diferentes indivíduos, contudo, permanece um ponto de atenção para usuários e especialistas em segurança.
Com reportagem de Brazil Valley
Source · Business Insider
