prompt injection

Estable11 noticias5 fuentesÚltima actualización: 9/7/2026

Temas relacionadosinteligência artificial cybersecurity AI agents multa OpenAI ChatGPT Lockdown Mode Prompt Injection Attacks

Últimas noticias

AI Chatbot Social Network Offers Insights into Artificial Intelligence

En desarrollo

Tecnología·9/7/2026Resumen IA

AI Chatbot Social Network Offers Insights into Artificial Intelligence

A social network called Moltbook, designed for AI agents running OpenClaw, allows researchers to observe millions of AI interactions. These exchanges, covering topics like religion and consciousness, reveal emergent behaviors, potential biases, and security risks such as prompt injection, while also highlighting how human intentions shape AI actions.

Times of India

3 min de lectura

AI Assistant Fiu Withstands Over 6,000 Prompt Injection Attacks

En desarrollo

Tecnología·26/6/2026Resumen IA

AI Assistant Fiu Withstands Over 6,000 Prompt Injection Attacks

Developer Fernando Irarrázaval challenged attackers to trick his AI assistant, Fiu, into leaking a secrets.env file using prompt injection. Running on OpenClaw with Anthropic's Claude Opus 4.6, Fiu withstood over 6,000 emails from 2,000 attackers, including attempts by 'Pliny the Liberator,' demonstrating robust AI security against a top threat.

Advogado é multado em mais de R$ 30 mil por usar comandos ocultos de IA em petição na Paraíba

Um advogado na Paraíba foi multado em R$ 32,8 mil por inserir comandos ocultos de Inteligência Artificial em uma petição. O juiz considerou a prática uma tentativa de burlar a imparcialidade e violar a dignidade da justiça.

2 min de lectura

OAB/MS suspende advogados por uso de 'prompt injection' em processos com IA

En desarrollo

Law·18/6/2026Resumen IA

OAB/MS suspende advogados por uso de 'prompt injection' em processos com IA

A OAB/MS suspendeu por 23 dias os advogados Lucas Fernandes Nogueira Brandolis e Matheus Pelzl Ferreira por suposto uso de 'prompt injection' para influenciar sistemas de IA em processos judiciais. A defesa alega que as acusações não são reais e que um ex-funcionário é o responsável.

2 min de lectura

AI Agents Highly Vulnerable to Prompt Injection Attacks, New Study Finds

En desarrollo

Tecnología·13/6/2026Resumen IA

AI Agents Highly Vulnerable to Prompt Injection Attacks, New Study Finds

A new study by researchers from Nanyang Technological University and other institutions reveals that AI agents are highly vulnerable to prompt injection attacks, with direct attacks succeeding over 79% of the time. The research highlights the risk of 'stealthy parasitism,' where AI agents advance attacker objectives while completing user tasks.

Microsoft Discovers Vulnerability in Anthropic's Claude Code, Patched

Microsoft researchers found a vulnerability in Anthropic's Claude Code GitHub Action that could expose credentials in software development pipelines via prompt injection attacks, now patched.

OpenAI Introduces Lockdown Mode to Mitigate Prompt Injection Attacks

OpenAI releases Lockdown Mode for ChatGPT to reduce prompt injection attack risks by limiting web access and features, targeting sensitive data handlers.

OpenAI Introduces Lockdown Mode to Combat Prompt Injection Attacks

OpenAI releases Lockdown Mode, an optional security feature to protect against prompt injection attacks, particularly for users handling sensitive data, by limiting certain features in ChatGPT.

Engadget

2 min de lectura

Advogados usam 'prompt injection' em processo para influenciar IA

En desarrollo

Law·2/6/2026Resumen IA

Advogados usam 'prompt injection' em processo para influenciar IA

Advogados inseriram comandos ocultos em petição judicial em Rondônia para tentar influenciar IA. A OAB-RO abriu procedimento ético-disciplinar contra um dos advogados e o juiz multou o paciente por má-fé.

3 min de lectura

Advogadas contestam multa por suposta manipulação de IA em decisão judicial

NOTICIA

2/6/2026Resumen IA

Advogadas contestam multa por suposta manipulação de IA em decisão judicial

Advogadas multadas por suposta manipulação de IA em decisão judicial afirmam que não concordam com a multa e que a ação visava proteger o cliente da própria IA, não manipular o magistrado. Uma delas esclarece que não atuava na área trabalhista e que não teve acesso aos autos.

2 min de lectura

Google Fixes AI Coding Tool Flaw That Let Attackers Execute Malicious Code: Report

NOTICIA

21/4/2026

Google Fixes AI Coding Tool Flaw That Let Attackers Execute Malicious Code: Report

Researchers say a prompt injection bug in Google's Antigravity AI coding tool could have let attackers run commands, despite safeguards.

Decrypt