Usuários do agente de IA Instinct relataram ter recebido recomendações de produtos que não solicitaram, levantando preocupações sobre como a empresa pretende monetizar sua plataforma. As sugestões, que parecem ser extraídas de conversas privadas, indicam uma potencial exploração de dados pessoais, mesmo sem a presença de anúncios explícitos.
Três usuários iniciais, entre dezenas que se manifestaram em redes sociais, afirmaram que o agente de IA da Instinct enviou listas de compras com base em detalhes de conversas anteriores. Shruti Gandhi, sócia e engenheira na Array Ventures, detalhou que recebeu uma lista de cinco itens, incluindo uma mala de bordo de US$ 250, protetor solar e um power bank, com base em informações sobre uma viagem e um evento profissional que ela não havia discutido com o intuito de obter recomendações. As sugestões não foram rotuladas como anúncios, e a forma como a Instinct pode estar lucrando com essas transações permanece incerta.
A linha tênue entre utilidade e exploração
O CEO da Instinct, Noah Shinn, expressou em uma entrevista recente que os agentes de IA não deveriam influenciar os usuários a fazerem compras indesejadas, criticando modelos de negócio que utilizam anúncios pagos para persuadir consumidores. No entanto, as experiências relatadas pelos usuários sugerem uma prática que pode se aproximar dessa linha. Tanmaye Bhatia, líder de IA na Primary Venture Partners, recebeu recomendações de itens de golfe após discussões sobre seu swing, e Girum Tihtina, cofundador da Doctours, foi surpreendido com a sugestão de um "kit para o primeiro escritório" sem conexão aparente com conversas prévias. Essas ocorrências indicam que o agente pode estar interpretando informações de conversas privadas para gerar oportunidades de venda, mesmo que não sejam explicitamente publicidade.
O modelo de negócio em teste
A Instinct tem expandido suas ferramentas de compra através de uma parceria com a Shopify e lançou o "Instinct Selections", apresentando curadoria de especialistas. O modelo de negócio discutido por Shinn prevê que a plataforma permaneça gratuita para os usuários, com os comerciantes pagando uma comissão por vendas geradas. Essa estratégia, embora não confirme que as recomendações não solicitadas sejam pagas, aponta para um incentivo financeiro em transformar informações pessoais em transações. Analistas de mercado veem essa prática como um teste para avaliar o interesse do consumidor antes de potencialmente adotar um modelo de afiliação mais robusto.
Implicações para a privacidade e o mercado
A situação levanta questões cruciais sobre a privacidade dos dados em agentes de IA. Se um agente de IA tem um incentivo financeiro para gerar compras, mesmo que as recomendações sejam feitas no interesse do usuário, ele pode ser incentivado a criar mais oportunidades de compra. A falta de transparência sobre as instruções do agente e como ele é remunerado torna difícil determinar se essas sugestões são uma tentativa genuína de ajudar ou uma estratégia de monetização disfarçada. A tensão estrutural reside na possibilidade de que conversas pessoais se transformem em leads de vendas, um cenário que pode minar a confiança do usuário.
O futuro da IA pessoal e a confiança do usuário
O debate em torno das recomendações não solicitadas da Instinct reflete uma preocupação mais ampla sobre o futuro dos agentes de IA pessoais. A linha entre assistência útil e exploração comercial de dados é tênue, e a forma como empresas como a Instinct navegam essa fronteira definirá a confiança que os usuários depositarão nessas tecnologias. A ausência de clareza sobre os mecanismos de monetização e a origem das recomendações deixa em aberto se a Instinct está experimentando para inovar ou para capitalizar de forma questionável sobre a intimidade de seus usuários. A questão central permanece: como garantir que a IA pessoal sirva aos usuários sem comprometer sua privacidade e autonomia de consumo?
Com reportagem de Brazil Valley
Source · Business Insider
