OpenAI zufolge sind AI Browser möglicherweise immer anfällig für Prompt Injection

OpenAI zufolge sind AI Browser möglicherweise immer anfällig für Prompt Injection. OpenAI arbeitet AI Browser besser gegen Cyberangriffe Unternehmen Prompt Injections, bei der AI Agenten manipuliert Anweisungen in Webseiten oder E Mails versteckt sind, weiterhin Problem darstellen. Ein Risiko schnell nicht verschwinden Fragen aufwirft, wie sicher AI Agenten im offenen Web können. Das Problem wird, ähnlich und Social Engineering nie vollständig werden. OpenAI beschrieb Montag Sicherheits vorkehrungen Angriffen. Das Unternehmen in ChatGPT Atlas für Sicherheits lücken. 

OpenAI Oktober ChatGPT Atlas Browser auf den Markt und Sicherheits forscher veröffentlichten ihre Demos war, mit wenigen Wörtern zugrundeliegende Architektur verändern Browserverhalten. Brave veröffentlichte erklärt indirekte Eingabe aufforderung systematische Herausforderung darstellt Perplexity. OpenAI ist nicht der erkennt promptbasierte nicht verschwinden werden.

Die riet Cybersicherheits experten Risiko und Auswirkungen Schnell angriffen minimieren könnten gestoppt werden. OpenAI erklärte betrachten von Code als Herausforderung für Sicherheit und müssen Abwehr maßnahmen dagegen verstärken. Die Antwort Ein proaktiver Reaktions zyklus Ergebnisse bei der internen Angriffsstrategien freier Wildbahn ausgenutzt werden. Das unterscheidet Konkurrenten man gegen das Risiko vorgehen müsse, Die Abwehr mechanismen müssen unterzogen werden.

Googles jüngste Arbeiten auf architektonische und politische für agenten basierte Systeme. OpenAI verfolgt LLM basierten Angreifer anderen Ansatz. Dieser Angreifer ist Bot OpenAI trainiert.

Reinforcement eines Hackers spielen sucht AI Agenten Anweisungen einschleusen. Ein großer Spielraum bösartigen Agenten beeinflussen, selbst vorhanden sind. Während OpenAI Schutz  Atlas Nutzer Priorität hat, äußert am Nutzen dieser Investition Browser. Für die bieten agenten basierte Browser

 nicht genügend aktuelles Risiko profil recht fertigen TechCrunch. Das Risiko ist hoch, da wie E-Mail und Zahlungs informationen es Zugriff ist mächtig macht. Dieses Gleichgewicht wird weiter entwickeln sind die Ziel konflikte noch real.