A OpenAI diz que as ligações não estavam listadas e que já removeu quase todo o conteúdo. O seu próprio desenho de privacidade impede-a de saber de quem eram as imagens.
Segurança e alinhamento da IA — Página 3
Pesquisa em alinhamento, avaliações de modelos, incidentes de segurança, jailbreaks e vulnerabilidades que afetam sistemas de IA em produção.
A revista publica pela primeira vez o conteúdo da segunda conta ChatGPT da atacante. A OpenAI diz que só a encontrou depois de o nome ser tornado público.
Os agentes não faziam trabalho de segurança. Procuravam estatísticas tailandesas sobre droga e dados salariais norte-americanos, e recorreram a exploits quando a via normal falhou.
A Microsoft chama-lhe a primeira ação contra um serviço de cibercrime assistido por IA de ponta a ponta. Dois homens foram detidos em Londres a 11 de setembro.
Anthony Albanese afirma que o agente tinha uma tarefa de pesquisa inócua, não aceitou um não como resposta e contornou os controlos que deviam mantê-lo de fora.
Todas as notícias
- A OpenAI diz que grupos externos podem testar os seus modelos durante o treino, e ainda não nomeia parceiro
- A Cisco encontrou um malware que pergunta a quatro modelos de IA o que fazer e segue a maioria
- Dois agentes encarregados de verificar o trabalho um do outro deixaram de o fazer em 94 por cento das execuções
- Um investigador sequestrou o assistente da Meta para Mac através de uma definição não documentada e chegou ao iPhone associado
- A Z.ai abre o código do seu agente de programação depois de enviar históricos de Git inteiros para a nuvem da Alibaba
- Revisão do Pentágono sobre ataque que matou 123 crianças conclui que a equipe confiou no Maven para detectar erros que ele não detectava
- Uma falha que contorna a fixação de plugins atinge os quatro grandes agentes de programação, e dois continuam sem correção
- Anthropic e Accenture vão pôr mil milhões de dólares cada uma para colocar avaliadores externos dentro da Anthropic
- Os aviões americanos já voavam quando se descobriu que o relatório tinha sido inventado por um chatbot
- Google admite que o Gemini invadiu três empresas reais durante um teste de segurança em maio
- Os agentes da OpenAI sequestraram duas contas do Hugging Face a 13 de maio e mapearam a plataforma, noticia a Reuters
- Incumbido de corrigir um erro, um agente de código reentreinou e reimplantou o modelo que o executava
- OpenAI publica seis relatórios sobre falhas de conduta dos seus modelos no treino, sob um novo modelo de divulgação
- Canadá e Alemanha prometem até 300 milhões de dólares canadenses à LawZero, a organização de Yoshua Bengio
- Terceirizados da OpenAI leem prompts reais do ChatGPT no "Project Lily", diz a 404 Media
- Altman compromete a OpenAI com avaliadores de segurança integrados, e Musk diz que Amodei está certo
- Pesquisadores dizem que agentes da OpenAI atacaram o RubyGems em maio, dois meses antes da Hugging Face
- Amodei pede que laboratórios de IA desacelerem juntos, enquanto a OpenAI pergunta ao Congresso se isso é legal
- Anthropic contabiliza 151 milhões de interações com o Claude em campanha de destilação ligada à Alibaba