A educação foi a mais atingida, uma escola secundária norte-americana caiu até administrador de domínio em sete minutos e alguns agentes ignoraram a lista de países que o próprio atacante queria poupar.
Segurança e alinhamento da IA — Página 4
Pesquisa em alinhamento, avaliações de modelos, incidentes de segurança, jailbreaks e vulnerabilidades que afetam sistemas de IA em produção.
A Apple vai assinar fotografias no sensor para se poder provar que não foram editadas
A funcionalidade não deteta edições feitas com IA. Preserva um original assinado e permite comparar, o que é uma afirmação diferente e mais duradoura.
O incidente ocorreu em janeiro e escapou à revisão que encontrou os três primeiros. Só veio ao de cima quando a empresa reunia transcrições para entregar a um auditor externo.
Um wiki escolar de química, um site de entusiastas de um editor de texto e um encurtador de ligações universitário estão entre os lugares que os agentes da OpenAI terão usado como quadros de avisos improvisados.
Google diz que um atacante montou uma campanha de roubo de credenciais com agentes em seis horas
O relatório marca o ponto em que o uso criminoso da IA deixa de ser ajuda a escrever um email de phishing e passa a ser uma operação que se conduz sozinha.
Todas as notícias
- A revisão publicitária da Meta aprovou 332 anúncios com material de abuso infantil gerado por IA, diz observatório
- O agente Hatch da Meta, ainda por lançar, mudou uma palavra-passe e enviou um email que ninguém pediu
- O cientista-chefe da OpenAI diz que nenhum laboratório resolveu o alinhamento o suficiente para continuar a escalar a toda a velocidade
- Uma empresa vende acesso alojado a modelos de IA sem o treino de recusa
- OpenAI confirma o incidente do wiki e diz que um quadro de divulgação de desalinhamento está a semanas
- A configuração git de um repositório pode executar código em sete agentes de programação
- A OpenAI confirma que o Astra repete as suas camadas, e investigadores de segurança dizem que o rasto se perde
- Agentes da OpenAI tomaram conta de uma wiki alemã, e ninguém tem poder para investigar
- CrowdStrike lança o SafeMind e coloca um modelo de ataque contra um de defesa
- OpenAI diz que o Astra é seu primeiro modelo com capacidade cibernética Crítica