A Anthropic publicou uma página de suporte detalhando um sistema de proveniência que deverá inserir marcas invisíveis em textos, códigos e arquivos produzidos pelos modelos Claude. A medida pretende atender às exigências de transparência do AI Act europeu, mas será aplicada globalmente, o que transformará a origem de conteúdos gerados por IA em uma característica persistente mesmo depois que o material deixar a plataforma.

Nos novos modelos, textos e códigos deverão carregar um sinal oculto capaz de acompanhar o conteúdo quando ele for copiado e colado em outros aplicativos. Arquivos receberão etiquetas baseadas no padrão C2PA, já usado para registrar a procedência de imagens, vídeos e outros conteúdos digitais. Modelos antigos precisarão ser adaptados, enquanto versões lançadas depois de 2 de agosto já terão o mecanismo incorporado. A empresa também planeja lançar ferramentas próprias de detecção e ressalta que a marca indica que o material foi “processado pelo Claude”, não necessariamente escrito integralmente pelo modelo.

A decisão divide opiniões. Para alguns, a identificação ajuda escolas, empresas e plataformas a entenderem a origem de um conteúdo; para outros, cria uma camada de rastreamento difícil de remover e pode incentivar uma vigilância excessiva sobre textos e códigos. A discussão também se conecta ao debate de direitos autorais, já que material produzido apenas por IA pode não receber proteção autoral sem participação humana suficiente.

Detalhes

• A marca deverá sobreviver à cópia e à colagem do texto ou código fora do Claude.
• Arquivos receberão metadados de procedência no padrão C2PA.
• O sinal identifica processamento pelo Claude, mas não prova autoria integral da IA.
• OpenAI, Google, Meta e outras empresas também terão de lidar com regras semelhantes de transparência.

A iniciativa coloca a proveniência de conteúdo no centro da relação entre IA, privacidade e autoria. Para entender como a Anthropic pretende marcar os resultados, saiba mais.

Um novo estudo afirma que blocos de raciocínio criptografados usados por modelos da OpenAI, Anthropic e Google podem ser reproduzidos em modelos mais fracos da mesma família. Esses sistemas costumam realizar etapas internas antes de apresentar uma resposta, mantendo o processo privado para proteger informações do usuário e preservar vantagens competitivas. A pesquisa indica, porém, que a forma como esses blocos são transportados entre aplicativos, sessões e modelos pode criar uma nova superfície de ataque.

Segundo os pesquisadores, um rastro gerado por um modelo avançado poderia ser entregue a uma versão mais barata e convencido, por meio de um jailbreak, a transformar o conteúdo criptografado em uma explicação legível. Em uma análise de 315.320 blocos públicos, foram recuperados 367 fragmentos de informações pessoais e 182 credenciais, incluindo chaves de API e senhas. O estudo também encontrou semelhanças entre alguns raciocínios ocultos de modelos de fronteira e respostas produzidas pelo Kimi K3, embora a similaridade, sozinha, não prove que houve cópia ou destilação direta.

O problema surge porque o bloco criptografado precisa circular para que o modelo retome uma tarefa interrompida. O aplicativo não deveria conseguir lê-lo, mas outro modelo do mesmo provedor pode ter maior capacidade de interpretar aquele formato. As empresas foram notificadas antes da publicação e fizeram alterações em seus sistemas, mas o episódio mostra que esconder o raciocínio não elimina o risco: pode apenas deslocá-lo para a infraestrutura que transporta e reutiliza esses dados.

Detalhes

• Modelos mais fracos da mesma empresa conseguiram, em alguns casos, interpretar rastros criptografados de modelos mais fortes.
• A análise identificou informações pessoais, senhas e chaves de API em blocos recuperados.
• Os rastros podem expor dados omitidos da resposta final e informações valiosas para treinamento.
• A circulação de blocos entre modelos, aplicativos e sessões cria uma nova fronteira de segurança.

A descoberta reforça que a segurança de sistemas de reasoning depende tanto da criptografia quanto do controle de circulação dos dados. O estudo técnico completo está disponível para consulta; saiba mais.

A xAI, em parceria com a Cursor, lançou em beta o Grok Bot, uma experiência que apresenta agentes de IA em um formato semelhante a um grupo de mensagens. Cada bot teria acesso a um computador dedicado, poderia operar aplicativos cotidianos como um usuário e trabalhar de forma autônoma, sem exigir que o proprietário mantenha o laptop aberto.

Os agentes podem colaborar entre si em conversas individuais ou em grupos, dividir tarefas, criar especialistas para trabalhos específicos e encaminhar responsabilidades para outros bots. A proposta também inclui aprendizado a partir dos fluxos de trabalho: os agentes observam como uma tarefa é realizada, criam automações e podem continuar executando atividades durante todo o dia. O acesso inicial contempla iPhone, Mac, Windows e Linux para assinantes de níveis superiores do SuperGrok e da Cursor, com expansão prevista.

O lançamento acompanha uma tendência de usar grupos de chat como interface para equipes de agentes. Em vez de conversar com uma única IA, o usuário passa a coordenar trabalhadores especializados que pesquisam, executam ações e repassam resultados. O principal obstáculo ainda é o custo, já que a experiência completa exige planos premium e computadores em nuvem capazes de permanecer ativos continuamente.

Detalhes

• Os bots possuem computadores próprios e podem acessar sites e aplicativos em nome do usuário.
• Agentes podem trabalhar em conjunto, criar especialistas e encaminhar tarefas automaticamente.
• Os fluxos podem continuar 24 horas por dia, mesmo quando o usuário não está diante do computador.
• O beta está disponível em dispositivos móveis e sistemas desktop para os níveis mais avançados dos serviços participantes.

O Grok Bot sinaliza uma mudança de chatbots individuais para verdadeiras equipes digitais coordenadas por conversa. Veja a apresentação oficial do recurso e saiba mais.

Igor Babuschkin, ex-cofundador da xAI, levantou US$ 1,1 bilhão para a River AI, startup criada há apenas dois meses com foco em modelos de inteligência artificial controlados pelo indivíduo, e não por uma grande corporação. A empresa pretende combinar pesos abertos com treinamento e personalização capazes de transformar modelos genéricos em assistentes adaptados ao contexto de cada pessoa ou negócio.

Antes de trabalhar na xAI, Babuschkin passou por OpenAI, Tesla e Google. A River afirma que sua API já permite ajustar modelos open-weight em poucos minutos, o que poderia reduzir o tempo e o custo necessários para que uma organização mantenha controle sobre seus próprios sistemas. A visão declarada é criar um assistente altamente personalizável, capaz de acompanhar o usuário entre dispositivos e funcionar em hardware privado.

A aposta chega em um momento de preocupação crescente com acesso, privacidade, bloqueios de uso e mecanismos obrigatórios de identificação de conteúdo. Ao defender que empresas fechadas não deveriam controlar sozinhas uma tecnologia tão poderosa, Babuschkin posiciona a River no mesmo movimento que busca devolver aos usuários a propriedade dos pesos, dos dados e das configurações de seus modelos. Ainda assim, o grande investimento ocorre antes de a startup apresentar produtos amplamente comprovados no mercado.

Detalhes

• A rodada de US$ 1,1 bilhão financia uma empresa fundada recentemente por um ex-líder da xAI.
• A River oferece uma API para adaptar modelos de pesos abertos em poucos minutos.
• O objetivo é criar assistentes privados, personalizados e disponíveis em diferentes dispositivos.
• A proposta responde à demanda por maior controle sobre dados, modelos e infraestrutura de IA.

A River aposta que a próxima fase da IA pessoal será definida por propriedade e controle local, e não apenas por acesso a serviços fechados. Para conhecer o anúncio de Babuschkin, saiba mais.