Laut heise online berät sich Anthropic angeblich mit Anwaltskanzleien. Es geht darum, wie KI-Agenten künftig Konditionen, Gehälter und Verträge für ihre Nutzer aushandeln sollten. Mehr nennt die Meldung nicht, sie ist daher eher ein Hinweis auf eine Richtung als eine Ankündigung.

Was mit KI-Agenten gemeint ist

Ein KI-Agent ist ein Programm, das nicht nur Fragen beantwortet, sondern selbstständig Schritte ausführt. Es kann zum Beispiel Informationen sammeln, Angebote vergleichen und Nachrichten verfassen. Beim Verhandeln würde ein solcher Agent im Auftrag einer Person auftreten und versuchen, ein gutes Ergebnis zu erzielen.

Das wirft Fragen auf, die ein Chatbot bisher kaum berührt. Darf ein Agent verbindliche Zusagen machen? Wer haftet, wenn er etwas Falsches zusagt? Und wie weit reicht seine Vollmacht, wenn der Nutzer nur ein grobes Ziel vorgegeben hat?

Warum Juristen ins Spiel kommen

Verhandlungen sind rechtlich geregelt. Aussagen können Verträge begründen, und täuschende Angaben können Folgen haben. Wenn ein Agent in solchen Situationen handelt, brauchen seine Entwickler Leitplanken. Sie müssen festlegen, was er sagen darf, wann er nachfragen muss und wann ein Mensch die Entscheidung trifft. Der Rat von Kanzleien könnte dabei helfen, solche Regeln an geltendes Recht anzupassen. Ob und wie Anthropic das umsetzt, geht aus der Meldung nicht hervor.

Mehr zum Thema:

Was Leser daraus mitnehmen können

Wer künftig Agenten für Verhandlungen einsetzen will, sollte vorab klären, welche Befugnisse das Werkzeug hat. Sinnvoll ist, verbindliche Abschlüsse an eine ausdrückliche Bestätigung zu knüpfen. Auch lohnt sich der Blick darauf, welche persönlichen Daten der Agent preisgibt, etwa zu Gehaltswünschen oder Budgetgrenzen.

Auf der Gegenseite kann ebenfalls ein Agent sitzen. Dann verhandeln zwei Programme miteinander, und klare Regeln werden noch wichtiger. Bis mehr Details öffentlich sind, bleibt die Meldung ein Signal, dass Anbieter das Thema ernst nehmen und rechtliche Fragen früh einbeziehen wollen.