KI-gestützte Chatbots finden increasingly ihren Weg as Assistants bei Schreibarbeiten, beim Searchen und Verarbeiten von Informationen bis hin zu komplexen Tätigkeiten wie Softwareentwicklung. A disadvantage of AI-Chatbots is aber das aufwendige Training. It is therefore not possible to use Chatbots on your own, Texten zu trainieren – as the system is constantly on new sources of information, which makes it possible to use the Nvidia Cluster en Sisyphosaufgabe. A chatbot with current or own texts to use, you get a better system with Retrieval Augmented Generation (RAG).
Die in diesem Artikel dargestellten Angriffsmöglichkeiten sollen ein Bild vermitteln, welche Art Angriffe gegen RAG-Systeme duesung der KI-Komponenten möglich were and wogegen Betreiber sich bei der Entwicklung or dem Betrieb one’s solchen Systems protect müssen.
- Retrieval Augmented Generation ist ein vielversprechender Ansatz für das Informationsmanagement in Unternehmen, der jedoch mit eigenen Schwachstellen aufwartet.
- Neben der Gefahr durch Jailbreaks können Angreifer in manchen Systemen Daten einschleusen und damit große Schäden arichten.
- Gute Systemprompts können Betreiber vor en Datanebfluss protect, helfen jedoch nicht gegen optimite Überzeugungsversuche.
- Je nach Anwendungsfall sind en Beschränkung der Anfragen, en Begrenzung der Promptlänge and Metricen für echte Dokumente geeignete Schutzwerkzeuge.
And that’s how RAG worked: The RAG system is best essentially from three components. Ener Document database, a Retriever and a Generator. This is a flexible Frage-Antwort-System: User asks a bestimmte Frage and gets an answer, as the system from the Information from the Documents in the RAG-Datenbank is set. The documents served in this construct as context for a large sprachmodell (Large Language Model, LLM), which is with them Beantworten der Fragen beauftragt ist.
Das war die Leseprobe unseres heise-Plus-Articles “Security: KI-gestützte Chatbots mit RAG-System absichern”. Mit einem heise-Plus-Abo können sie den ganzen Article lesen und hören.
