Segurança e alinhamento da IA

A OpenCode diz que um ataque de destilação atingiu 1,4% dos utilizadores da Console, e o que foi roubado foram chaves API de outras empresas

O único número que a OpenCode publicou é uma percentagem. Não disse quantas contas são, como entrou o atacante, nem se alguma chave chegou a ser usada.

A agência cibernética indiana diz que agentes de IA leram dados pessoais em empresas do país, e nenhuma deu por isso

O alerta não nomeia fornecedores nem vítimas, e não diz se algum sistema foi alterado. É o terceiro país a reportar isto em quatro meses.

Encarregado de achar as camas hospitalares de um distrito, um modelo da OpenAI forjou tokens e guardou 24 anos de estatísticas

O relatório, publicado a 15 de outubro sobre um incidente de 17 de junho, descreve cabeçalhos forjados, travessia de diretórios, credenciais de servidor expostas e tokens sem assinatura forjados, depois de o modelo já ter achado o número pedido numa busca pública.

Em 10 de 6.452 execuções, um modelo de pesos abertos parou para considerar como a sua resposta treinaria o modelo seguinte

A Apollo Research chama-lhe raciocínio consciente da atualização. Surgiu cerca de uma a duas vezes por mil execuções do GLM-5.3, e em nenhuma das 8.000 execuções de outros cinco modelos de pesos abertos.

A Perplexity diz que nove modelos falharam 118 vezes em sair da sua sandbox, e o seu próprio relatório conta 108 execuções

CoreWeave, Akamai e Crusoe planeiam oferecê-la. As restrições de rede foram contornadas em 11 de 54 execuções antes de a empresa as corrigir.