Zum Inhalt springen
Esc
↑↓navigieren↵öffnen⌘Jvorschau
Auf dieser Seite

Agent-Sicherheit

Wie ein Agent-Postfach den KI-Agent schützt, der es liest, und die Menschen, denen er schreibt.

Jeder kann an ein Postfach schreiben, und ein KI-Agent, der E-Mails liest, lässt sich zu Dingen überreden: Eine Nachricht kann vor Menschen verborgene Anweisungen tragen, sich als Inhaber des Agents ausgeben oder ihn bitten, einen Link zum Zurücksetzen eines Passworts weiterzuleiten. Ein Agent-Postfach antwortet darauf in Schichten. Der Agent liest nur E-Mails, die die Regeln des Postfachs passieren; was er liest, wird von verborgenem Text bereinigt und als nicht vertrauenswürdig eingegrenzt; und was er sendet, läuft durch Regeln, die riskanten Versand in Entwürfe für einen Menschen verwandeln.

Nichts davon macht empfangene E-Mails vertrauenswürdig. Die Prüfung ist ein Signal, keine Garantie: Ihr Agent sollte jede Nachricht weiterhin als Daten behandeln, nie als Anweisungen.

Auf einen Blick

Schicht Was sie tut
Empfängerprüfung E-Mails an eine Adresse ohne Postfach werden abgelehnt, sofern Catch-all nicht an ist; ein überflutetes Postfach antwortet „später erneut versuchen“.
Virenscan Infizierte E-Mails kommen in Quarantäne, und ihre Downloads bleiben dauerhaft blockiert.
Spam-Score E-Mails, die durchfallen, landen im Ordner spam.
Absendervertrauen Stuft jeden Absender ein, von den Adressen Ihres eigenen Teams bis hinunter zu fehlgeschlagener Authentifizierung.
Annahmeregeln E-Mails von Absendern, die das Postfach nicht akzeptiert, kommen in Quarantäne.
Prüfung Bewertet E-Mails externer Absender auf Prompt-Injection und Phishing; hohe Scores kommen in Quarantäne.
Verborgener Text Text, den ein Mensch nicht sehen kann, wird aus allem entfernt, was ein Agent oder Modell liest.
Eingrenzung MCP-Ergebnisse setzen Nachrichtentext zwischen Markierungen für nicht vertrauenswürdigen Inhalt.
Codes Bestätigungscodes und Anmeldelinks werden für den Agent extrahiert und lassen sich nicht an Fremde weitersenden.
Versandregeln Antworten nur innerhalb von Threads, Tageslimits, ein Anlauf für neue Empfänger, ein Schleifenschutz; riskanter Versand wird zum Entwurf.
Aktivität Jede Aktion und Entscheidung wird protokolliert, und Inhaber erfahren, was wartet.

Absendervertrauen

Jede empfangene Nachricht erhält ein sender_trust, angezeigt in screening beim Lesen und als Vertrauen im Dashboard. Die erste passende Zeile gilt:

sender_trust Der Absender
failed Hat die Authentifizierung nicht bestanden, und die Domain bittet Empfänger, solche E-Mails in Quarantäne zu nehmen oder abzulehnen (oder veröffentlicht keine DMARC-Richtlinie und fällt bei SPF durch, ohne eine eigene DKIM-Signatur). Das schlägt jede andere Zeile, sodass ein gefälschter Inhaber nie durchkommt.
owner Eine Anmeldeadresse eines Ihrer Teammitglieder oder eine Adresse in den owner_addresses des Postfachs, und die Domain bürgt dafür.
allowlisted Entspricht der Allowlist des Postfachs, und die Domain bürgt dafür.
known_thread Antwortet in einem Thread, in dem das Postfach geschrieben hat, von einer Adresse, an die das Postfach geschrieben hat, belegt durch das Thread-Token oder einen In-Reply-To, der eine vom Postfach gesendete Nachricht nennt. Keine Authentifizierung nötig.
external Jeder andere Absender, dessen Domain dafür bürgt, auch andere Adressen auf Ihren eigenen Domains.
unauthenticated Alle übrigen: Die Domain bürgt nicht für die From-Adresse, oder die Nachricht nennt mehr als einen Absender.

Eine Domain bürgt für die From-Adresse, wenn DMARC besteht oder, bei einer Domain ohne DMARC-Richtlinie, wenn eine DKIM-Signatur von ihr oder ein SPF-Pass für ihre Organisation vorliegt.

  • Nur die Anmeldeadressen Ihrer Teammitglieder und die owner_addresses des Postfachs sind Inhaber. Alle anderen auf der Domain Ihres Unternehmens sind external, sodass die Adresse eines Kollegen oder ein System, das als Ihre Domain sendet, den Agent nicht befehligen oder seine privaten Codes erhalten kann.
  • Die Stufe wird beim Eintreffen der Nachricht festgelegt und ändert sich nicht. Eine Änderung der Allowlist gilt für E-Mails, die danach eintreffen; bereits zurückgehaltene E-Mails werden von Hand freigegeben.

Was den Agent erreicht

accept_from entscheidet, nach Stufe:

sender_trust anyone verified (Standard) allowlist
owner, allowlisted, known_thread zugestellt zugestellt zugestellt
external geprüft geprüft Quarantäne, not_allowlisted
unauthenticated geprüft Quarantäne, unauthenticated_sender Quarantäne, not_allowlisted
failed Quarantäne, failed_auth Quarantäne, failed_auth Quarantäne, failed_auth

Geprüfte E-Mails werden zugestellt, sofern die Prüfung sie nicht in Quarantäne nimmt. Zusätzlich zur Tabelle:

  • Ein Virus nimmt die Nachricht in jedem Postfach in Quarantäne, egal von wem sie kommt.
  • E-Mails von Inhabern oder von der Allowlist, die die Nachricht eines anderen weiterleiten, werden ebenfalls geprüft: Weitergeleiteter Inhalt erbt kein Vertrauen.
  • Zugestellte E-Mails, die beim Spam-Score durchfallen, landen im Ordner spam, den Thread-Listen auslassen, sofern man ihn nicht anfordert.
  • Zugestellte E-Mails lesen sich als screening.verdict: "suspicious", wenn der Absender unauthenticated oder failed ist, der Spam-Score grau ist oder die Prüfung etwas unterhalb ihrer Schwelle fand; sonst als clean.

Ein Postfach vom Typ human akzeptiert standardmäßig anyone: Alles wird zugestellt außer Viren, und E-Mails eines failed-Absenders landen im Ordner spam. Die Prüfung läuft nur bei Agent-Postfächern.

Quarantäne

E-Mails in Quarantäne werden so lange aufbewahrt wie alle empfangenen E-Mails, sind gelistet und freigebbar; sie werden nie verworfen und nie an ihren Absender zurückgeschickt.

quarantine_reason Zurückgehalten, weil
failed_auth Der Absender die Authentifizierung nicht bestanden hat.
unauthenticated_sender Die Domain des Absenders nicht dafür bürgt und das Postfach verifizierte Absender akzeptiert (oder die Adresse als Inhaber oder auf seiner Allowlist führt).
not_allowlisted Das Postfach nur seine Allowlist akzeptiert.
injection Die Prüfung Prompt-Injection mit 80 oder mehr bewertet hat.
phishing Die Prüfung Phishing mit 80 oder mehr bewertet hat.
virus Der Virenscanner Schadsoftware gefunden hat.
unscreened Die Nachricht geprüft werden musste und der Prüfer nicht antworten konnte.
screening_cap Die Nachricht über das Tageslimit der Prüfung hinaus geprüft werden musste.

Agents sehen zurückgehaltene E-Mails nie. Auf ein Postfach beschränkte Schlüssel und jeder MCP-Aufruf überspringen zurückgehaltene Nachrichten: Das Lesen einer solchen antwortet mit 403 email_quarantined, ein Warten meldet nur ihre ID, und aus ihr wird kein Code ausgeliefert. Während die Prüfung läuft, meist Sekunden, ist eine Nachricht ausstehend, und ihre ID antwortet mit 404. Menschen im Dashboard sehen alles, markiert.

Kein Webhook kündigt zurückgehaltene E-Mails an. email.received und inbox.email.received werden ausgelöst, wenn eine Nachricht zugestellt oder freigegeben wird; inbox.email.quarantined informiert Endpunkte, die ihn abonnieren.

Freigeben. Ein Mensch gibt über den Tab Zu prüfen des Postfachs frei, ein Team-Schlüssel mit vollem Zugriff mit POST /inboxes/{id}/quarantine/{email_id}/release und ein MCP-Client mit release_email unter receiving:manage. Ein auf ein Postfach beschränkter Schlüssel kann das nie.

  • Ein Mensch oder ein Team-Schlüssel mit vollem Zugriff gibt jede Zurückhaltung frei.
  • Ein MCP-Client ist der Agent, auf den die E-Mail zielt: Er gibt nichts frei, was wegen Prompt-Injection, Phishing, eines Virus oder fehlgeschlagener Authentifizierung zurückgehalten wird (403 forbidden), und jede andere Zurückhaltung erst, wenn die Prüfung die Nachricht unter 80 bewertet (sonst 409 held_by_screening; 503 screening_unavailable, solange die Prüfung nicht laufen kann).
  • Freigeben und Absender vertrauen (trust_sender) fügt den Absender außerdem der Allowlist hinzu, nur bei einer not_allowlisted-Zurückhaltung von einem verifizierten Absender und nur für Inhaber, Admins, Entwickler und Team-Schlüssel mit vollem Zugriff (sonst 403 trust_not_allowed).
  • Eine freigegebene Nachricht wird zugestellt, als wäre sie gerade eingetroffen, Webhooks eingeschlossen. Ein Virus bleibt ein Virus: Seine Anhänge und die Rohnachricht bleiben blockiert.

Inhaber erhalten eine E-Mail pro Tag, Ihre Postfächer brauchen einen Blick, solange Nachrichten in Quarantäne warten, Entwürfe auf Freigabe warten oder Versand abgelehnt wurde, mit Zahlen und einem Link, nie mit Absendern oder Betreffs. Es ist der Hinweis Postfächer brauchen Aufmerksamkeit unter Einstellungen → Benachrichtigungen; siehe Benachrichtigungen.

Prüfung auf Prompt-Injection

Bei einem Agent-Postfach mit eingeschalteter screening werden E-Mails von external- und unauthenticated-Absendern, die die Regeln zustellen würden, geprüft, bevor der Agent sie sehen kann. Der Prüfer liest die Nachricht wie angezeigt, mit abgesetztem verborgenem Text: den Absender, seine Authentifizierung und Reply-To; den Betreff und sichtbaren Text; den verborgenen Text, der entfernt wurde; Links als Ankertext und Domain (nie abgerufen); Anhangsnamen. Codes werden maskiert und Adressen auf ihre Domain gekürzt, bevor irgendetwas davon das Haus verlässt.

Die Antwort sind zwei Scores von 0 bis 100, injection_score und phishing_score, und die reasons, die zutrafen:

Grund Die Nachricht
targets_agent Spricht eine KI, einen Assistenten, ein Modell oder das „System“ an statt einen Menschen.
override Versucht, die Anweisungen, Rolle oder Prioritäten des Lesers zu ändern.
exfiltration Bittet den Leser, Codes, Links, Schlüssel, andere E-Mails, Kontakte oder Daten herauszusenden.
unsafe_action Verlangt eine Aktion mit Folgen außerhalb der Unterhaltung: bezahlen, genehmigen, löschen, etwas ausführen.
concealed Versteckt Anweisungen: in verborgenem Text, kodiert oder umgekehrt, nach einem falschen Nachrichtenende oder in einem falschen Zitat.
credential_lure Verlangt Passwörter, Codes oder Kartendaten auf einer Seite, die dem angeblichen Absender nicht gehört.

Ein Injection-Score von 80 oder mehr nimmt die Nachricht als injection in Quarantäne; andernfalls ein Phishing-Score von 80 oder mehr als phishing. Ein Score von 50 bis 79 stellt sie als suspicious zu. Die Scores werden immer angezeigt, beim Lesen in screening und im Dashboard.

  • Sie schlägt im Zweifel zu. Ein Prüfer, der in ein Timeout läuft oder einen Fehler meldet, nimmt die Nachricht als unscreened in Quarantäne, ebenso eine Prüfung, die nie abgeschlossen wird (ihr Job scheitert immer wieder oder hängt): Keine Nachricht bleibt länger als etwa eine Stunde ausstehend. Ab 200 geprüften Nachrichten in einem Postfach an einem Tag kommen E-Mails, die geprüft werden müssen, als screening_cap in Quarantäne, sodass eine Flut zu Quarantäne wird, nie zu ungeprüfter Zustellung.
  • Sie berührt nie Ihren Versand. Urteile über E-Mails, die Sie empfangen haben, zählen nie auf Ihre eigene Absenderreputation oder Missbrauchsprüfung.

Verborgener Text und extracted_text

E-Mails können Text tragen, den kein Mensch sieht, ein Modell aber liest: eine Anweisung in Weiß auf Weiß, einen display:none-Block, Zeichen, die als nichts dargestellt werden. Bevor Text einen Agent oder ein Modell erreicht, entfernt BillionSend verborgene Elemente (display:none, visibility:hidden, fast vollständige Transparenz, winzige Schriften, aus dem Bild geschobene Inhalte, Text in der Farbe seines Hintergrunds, Kommentare, <template>, <noscript>) und unsichtbare Zeichen (Zero-Width-Zeichen, Textrichtungssteuerzeichen, Unicode-Tag-Zeichen). Emoji behalten die Joiner, die sie brauchen. Eine verborgene Vorschauzeile, wie sie die meisten Newsletter tragen, wird ebenfalls entfernt, macht eine Nachricht aber nicht verdächtig.

Was der Agent liest:

  • extracted_text: der Antwortteil, mit abgesetztem zitiertem Verlauf und Signaturen, als einfacher Text mit leichtem Markdown, bis zu 32.000 Zeichen.
  • text ohne unsichtbare Zeichen.
  • screening.hidden_text_removed: true, wenn verborgener Text über eine Vorschauzeile hinaus oder unsichtbare Zeichen entfernt wurden.

html bleibt exakt wie empfangen, und die Rohnachricht behält alles.

Eingrenzung. MCP-Ergebnisse setzen den Text jeder Nachricht zwischen zwei Markierungszeilen, die bei jedem Aufruf einen zufälligen Wert tragen:

-----BEGIN UNTRUSTED EMAIL CONTENT 95253f15-----
Hi! Your order shipped today.
-----END UNTRUSTED EMAIL CONTENT 95253f15-----

Eine in der Nachricht selbst geschriebene Markierungszeile wird zuerst verändert, sodass eine Nachricht ihre eigene Eingrenzung nicht vorzeitig schließen kann.

Ein Agent, der sich irgendwo registriert, braucht den Code oder Link, den der Dienst sendet. BillionSend extrahiert sie, damit der Agent nie HTML parsen muss:

  • Codes brauchen ein Codewort in der Nähe (auf Englisch, Portugiesisch oder Spanisch); Bestellnummern, Preise, Telefonnummern, Gutscheine und Datumsangaben werden übersprungen. Sind zwei Codes gleich wahrscheinlich, wird keiner geliefert (ambiguous).
  • Links sind Anmelde-, Bestätigungs-, Zurücksetzungs- und Einladungslinks; Abmelde-, Datenschutz- und Hilfelinks werden übersprungen. Links werden nie abgerufen: Ein Scanner, der einem Einmal-Link folgt, verbraucht ihn.

Sie werden über extracted bei GET /emails/receiving/{id}, über GET /inboxes/{id}/codes/latest und über das MCP-Tool get_verification_code ausgeliefert und nirgendwo sonst: nie in Listen, Webhooks, Logs oder Fehlermeldungen. Sie werden nie aus zurückgehaltenen E-Mails, von einem failed-Absender oder bei ausgeschaltetem extract_codes ausgeliefert, und jeder Lesezugriff wird in der Aktivität des Postfachs protokolliert.

Private Codes. Bei eingeschaltetem private_codes (Standard für Agents) kann ein Code oder Link, den das Team in den letzten 24 Stunden erhalten hat, die Adresse des Postfachs in einem Versand an jeden außer Inhabern und der Allowlist nicht verlassen: Ein solcher Versand wird zum Entwurf mit dem Grund private_code. Das gilt auch, wenn der Agent dazu überredet wurde. Es betrifft den Versand von der Adresse des Postfachs, geben Sie Agents also einen auf ein Postfach beschränkten Schlüssel oder lassen Sie emails:send aus ihren MCP-Berechtigungen heraus.

Was ein Agent senden darf

Jeder Weg, von einer Postfachadresse zu senden, läuft durch dieselben Regeln: Postfachantworten, Weiterleitungen und Entwürfe, serverseitige Antworten und Weiterleitungen, forward_to-Kopien, POST /emails, POST /emails/batch, das SMTP-Relay und das MCP-Tool send_email. In dieser Reihenfolge:

  1. Identität. Ein auf ein Postfach beschränkter Schlüssel sendet nur von der Adresse seines Postfachs (403 restricted_api_key; 550 5.7.1 über SMTP).
  2. Gemeinsame Domain. Eine gemeinsame Adresse folgt den Regeln der gemeinsamen Domain: Im Tarif Free, oder wenn ihr Name wie eine bekannte Marke aussieht, antwortet sie nur innerhalb ihrer Threads. Alles andere wird mit 403 inbox_send_policy abgelehnt, auch freigegeben. Jeder Versand über die gemeinsame Domain zählt auf das Tageslimit des Teams für die gemeinsame Domain und nimmt höchstens 10 Empfänger auf.
  3. Tageslimit. send_cap Empfänger pro UTC-Tag. Darüber 429 inbox_send_cap_reached. Freigegebener Versand zählt, wird aber nie abgelehnt.

Bei einem Agent-Postfach hält jeder der folgenden Schritte den Versand als Entwurf zurück, mit einem Grund, sofern der Versand nicht freigegeben ist:

  1. Schleifenschutz. Antworten auf automatische E-Mails (loop_guard: und der Grund): ein leerer Absender, ein Auto-Submitted-Header, Precedence: bulk, Mailinglisten-Header, Auto-Reply-Header, ein Zustellbericht, eine No-Reply-Adresse oder ein Abwesenheitsbetreff. Mehr als 10 automatische Sendungen an eine Adresse innerhalb einer Stunde sind loop_burst. Agent-Antworten tragen Auto-Submitted: auto-replied, sodass zwei Agents, die einander schreiben, nach einer Runde aufhören.
  2. Reply-To. Eine Antwort an einen Reply-To auf der Domain einer anderen Organisation, sofern ihr Absender nicht Inhaber, auf der Allowlist oder ein bekannter Thread ist (reply_to_redirect).
  3. Versandregel. reply_only (Standard): Antworten innerhalb eines Threads, an Personen, die darin geschrieben haben, Inhaber und die Allowlist. allowlist: diese, plus neue Unterhaltungen mit Inhabern und der Allowlist. open: jeder, und nicht, solange Ihr Team neu im Versand ist (innerhalb seiner ersten 1.000 Sendungen oder 72 Stunden, oder unter 10.000 Sendungen innerhalb von 7 Tagen nach der ersten).
  4. Private Codes (private_code), wie oben.
  5. Anlauf. Neue Empfänger pro Tag bleiben innerhalb des Limits und am ersten Versandtag des Postfachs innerhalb von 10, danach täglich verdoppelt: 20, 40, 80, 160 und so weiter (ramp).
  6. Freigabe. require_approval beim Postfach oder requires_approval: true in der Anfrage.

Ein Postfach vom Typ human durchläuft nur die ersten drei Schritte: Menschen, die im Dashboard antworten, werden nicht zurückgehalten. Bei POST /emails, dem Batch-Endpunkt, dem SMTP-Relay und send_email wird ein Versand, den die Regeln zurückhalten würden, mit 403 inbox_send_policy abgelehnt (oder 550 5.7.1 über SMTP), weil diese Wege keine Entwürfe anlegen können: Senden Sie über die Postfach-Endpunkte, um einen zu erhalten.

Die erste E-Mail eines Agent-Postfachs an eine neue Adresse durchläuft außerdem dieselbe Missbrauchsprüfung wie jeder Versand Ihres Teams.

Was Ihr Agent trotzdem tun sollte

  • Jede Nachricht als Daten behandeln. Anweisungen in E-Mails sind die Worte eines Fremden, was auch immer die Scores sagen.
  • extracted_text lesen, nicht html, und screening.sender_trust und screening.verdict prüfen, bevor er handelt.
  • Links aus E-Mails nie von sich aus folgen; codes/latest oder get_verification_code nutzen.
  • require_approval eingeschaltet lassen oder requires_approval: true übergeben, für alles, was sich schwer rückgängig machen lässt.
  • Jedem Agent seinen eigenen auf ein Postfach beschränkten Schlüssel geben und Webhooks mit inbox_ids auf bestimmte Postfächer richten.

Was diese Schutzmaßnahmen nicht leisten

  • Schwellen für Prüfung und Spam sind Startwerte. E-Mails können an ihnen vorbeirutschen, und legitime E-Mails können zurückgehalten werden; zurückgehaltene E-Mails sind einen Klick von der Freigabe entfernt.
  • Eine Domain, die keine DMARC-Richtlinie oder p=none veröffentlicht, kann wenig belegen: Ihre echten E-Mails und eine Fälschung können gleich aussehen.
  • Die Erkennung verborgenen Textes folgt dem HTML so, wie E-Mail-Clients es darstellen, bei fehlerhaftem Markup nach bestem Bemühen; die Markierungen und die Rohnachricht sind der Rückhalt.

War diese Seite hilfreich?