Large Language Models (LLMs) sind leistungsstarke KI-Systeme, die auf der Grundlage riesiger Datensätze trainiert werden. Sie verfügen über mehrere Parameter, um Aufgaben wie das Beantworten von Fragen, das Übersetzen von Sprachen und das Vervollständigen von Sätzen auszuführen. Ihre Stärke liegt in ihrer breiten Generalisierung über verschiedene Themen hinweg und ihrer flüssigen Sprachgenerierung. Es gibt jedoch gewisse Einschränkungen, weshalb hier die Retrieval-Augmented Generation zum Einsatz kommt.
Retrieval-Augmented Generation verbessert große Sprachmodelle, indem vor der Generierung von Antworten z. B. interne Dokumente oder Datenbanken einbezogen werden. PSIqualicision A2 ist ein RAG-basiertes System, das Retrieval-Systeme und KI kombiniert und so genaue und relevante Informationen unter Verweis auf maßgebliche Datenquellen liefern kann.
RAG bietet eine Lösung für Herausforderungen von LLMs
LLMs haben für Benutzer erhebliche Einschränkungen. Erstens können sie halluzinieren und plausible, aber sachlich falsche Antworten generieren, da ihre Ausgaben ausschließlich auf Mustern basieren, die während des Trainings gelernt wurden. Durch die Halluzination wird es schwierig, die von ihnen generierten Informationen Quellen zuzuordnen, was das Vertrauen und die Validierung untergräbt.
Darüber hinaus leiden LLMs unter statischem Wissen, da alles, was nach dem Ende ihres Trainings neu hinzukommt, für sie unzugänglich bleibt, was sie für Echtzeit- oder spezialisierte Abfragen unzuverlässig macht.
Außerdem ist das Training von LLMs sehr kostspielig, da sie mit riesigen Datensätzen gefüttert werden und, um sachlich zu bleiben, von Zeit zu Zeit aktualisiert werden müssen, um ihre Informationen auf den neuesten Stand zu bringen. Diese Einschränkungen stellen ihre Genauigkeit und Nützlichkeit in Frage, insbesondere in hochriskanten, domänenspezifischen oder sich ständig weiterentwickelnden Kontexten.
Um dieses Problem zu lösen, kombiniert das Retrieval-Augmented Generation (RAG)-System die Stärken der Informationsgewinnung und der generativen KI, um genaue, kontextbezogene und dynamische Antworten und Ergebnisse zu liefern. Durch die Integration von externem oder domänenspezifischem Wissen in den generativen Prozess überwinden RAG-Systeme die Einschränkungen großer Sprachmodelle (LLMs), die sich ausschließlich auf ihr vortrainiertes Allgemeinwissen stützen.
Was ist das PSIqualicision A2 RAG-System?
PSIqualicision A2 (Ask & Answer) ist ein RAG-System, das Softwareanwendungen wie Kundenportale, Supportsysteme oder interne Tools mit einer vertrauenswürdigen, dokumentbasierten Konversationsschnittstelle ausstattet. Unter Verwendung des RAG-Paradigmas stellt es sicher, dass der generierte Text in maßgeblichen Materialien wie Produktdokumenten, Benutzerhandbüchern, Konzeptpapieren und Wissensdatenbanken verankert ist.
Wichtige Merkmale von PSIqualicision A2
- PSIqualicision A2 ist ein kostengünstiger Ansatz zur Verbesserung der LLM-Ergebnisse, damit diese in verschiedenen Kontexten relevant, zuverlässig und nützlich bleiben. PSIqualicision A2 ist keine herkömmliche Chatbot-Funktionalität.
- Es erweitert die bereits leistungsstarken Fähigkeiten von LLMs auf bestimmte Domänen oder die interne Wissensdatenbank eines Unternehmens, ohne dass das Modell neu trainiert werden muss.
- Es kann von Benutzern konfiguriert werden, die mit den Geschäftsprozessen der Zielanwendungen vertraut sind, aber keine Datenwissenschaftler sind.
- PSIqualicision A2 ist hinsichtlich des Backend-LLM äußerst flexibel. Derzeit läuft es auf Ollama (einem Open-Source-Modell) und später wird es auf Google Gemini laufen. Je nach Kundenanforderungen kann das zugrunde liegende LLM ausgetauscht werden, was das System äußerst anpassungsfähig macht.
- Schließlich hat PSIqualicision A2 einen klaren Vorteil gegenüber herkömmlichen LLMs, wenn es um die Trainingsgeschwindigkeit geht. Jedes Mal, wenn ein Benutzer ein Dokument hochlädt, muss nur dieses Dokument verarbeitet werden, anstatt das gesamte Modell neu zu trainieren. Dadurch wird die Anreicherung des Systems mit neuem Wissen erheblich einfacher, schneller und kostengünstiger.
Die Kontextfunktion unterstützt die Strukturierung und den Umfang von Daten
In PSIqualicision A2 können Benutzer Dokumente in verschiedene Gruppen hochladen, die als Kontexte bezeichnet werden. Zu Beginn einer Konversation können sie dann auswählen, welche Kontexte einbezogen werden sollen. Auf diese Weise kann das System Dokumente trennen und nur das relevante Wissen in den Umfang einbeziehen.
Anwendungsszenarien für RAG-basiertes PSIqualicision A2
Die meisten PSI-Softwarelösungen sind bereits mit Optimierungen und Entscheidungskomponenten auf Basis von PSIqualicision AI ausgestattet, wie beispielsweise PSIpenta oder PSIcommand.
| Szenario | Beschreibung |
|---|---|
| Chatbot für den Produkt-Support | Ermöglicht es kundenorientierten Anwendungen, technische Fragen zur Produktfunktionalität zu beantworten, indem sie genaue Passagen aus Benutzerhandbüchern abrufen. Jede Antwort enthält Links oder Verweise auf die Originaldokumente. |
| Interaktive technische Dokumentation | Ingenieure und Support-Mitarbeiter fragen nach Wartungsverfahren oder Fehlercodes; A2 antwortet mit genauen Informationen und verweist auf die entsprechenden Abschnitte in Wartungshandbüchern oder Konzeptpapieren. |
| Adaptive Konversationsleitfäden | Benutzer können die Prioritäten der Themen über GUI-Schieberegler anpassen, z. B. indem sie den Schwerpunkt der Konversation zwischen „Sicherheit“, „Benutzerfreundlichkeit“ oder „Leistung“ verschieben, um den Stil oder die inhaltliche Tiefe der Antworten anzupassen. |
| On-the-fly-Umschulung | Durch eingebettete Bestätigungs-/Verwerfungsaufforderungen lernt das System aus Interaktionen, um im Laufe der Zeit Quellen besser zu priorisieren oder Antworten umzuformulieren. |
Veranschaulichendes Beispiel dafür, wie RAG-basiertes PSIqualicision A2 die Benutzerinteraktion verbessern kann
Angenommen, ein Kunde aus der produzierenden Stahlindustrie, fragt:
Wie kann ich die angestrebte Behandlungsdauer für alle Erhitzungen einer bestimmten Stahlsorte ändern?
PSIQualicision A2 würde:
- Den relevanten Abschnitt aus dem Produkthandbuch abrufen (z. B. Kapitel 4, Abschnitt 2).
- Auf der Grundlage dieses Inhalts eine prägnante, klare Zusammenfassung erstellen.
- Einen Verweis wie „Siehe Handbuch: Kapitel 4, Abschnitt 2 – ‚Wärmebehandlungsdauer für verschiedene Stahlsorten‘“ bereitstellen.
- Einen Link oder Verweis anbieten, damit der Benutzer bei Bedarf die vollständige Dokumentation einsehen kann.
Wenn der „Sicherheits“-Schieberegler der Anwendung hoch eingestellt ist, betont das System Sicherheitswarnungen und Kalibrierungstoleranzen. Wenn der Benutzer im Laufe der Zeit Antworten konsequent korrigiert oder akzeptiert, lernt A2, die hilfreichsten Formulierungen oder Quellen auszuwählen.
Vorteile der Verwendung von RAG PSIqualicision A2
- Mit RAG-basiertem PSIqualicision A2 wird sichergestellt, dass die Antworten auf aktuellen, verifizierten Dokumentationen basieren, wodurch Halluzinationen und ungenaue Aussagen minimiert werden.
- Jede Antwort enthält Zitate oder Links zu den relevantesten Quelldokumenten, was die Transparenz erhöht und es den Benutzern ermöglicht, Inhalte zu validieren.
- Mit Schiebereglern für die Themenpriorität können Benutzer den Tonfall und den Fokus der Antworten dynamisch beeinflussen, was kontextsensitive und domänenbewusste Interaktionen ermöglicht.
- PSIqualicision A2 läuft in der Cloud oder vor Ort und gibt dem Kunden die volle Kontrolle über Daten, Schulungen und Compliance. Die Schulung kann in nur wenigen Stunden abgeschlossen werden.
- Kann in PSI-Produkte, Legacy-Anwendungen oder Systeme von Drittanbietern eingebettet werden, ohne dass vorherige PSI-Kenntnisse erforderlich sind, wodurch ein breiter, unerschlossener Markt erschlossen wird.
- Hochladen von Dokumenten in verschiedenen Formaten (Word, PDF, HTML, TXT).
- Kann als SaaS/PaaS/Docker Stack ausgeführt werden.
- Für den internen und externen Gebrauch.
Fazit
PSIqualicision A2 verwandelt technische und Produktdokumentationen in eine dynamische, zuverlässige Konversationsschnittstelle. Durch die Kombination von RAG-basierter Verankerung, anpassbarem Antwortverhalten und sicherer Bereitstellung bietet es Unternehmen ein leistungsstarkes Tool, um:
- Halluzinationen zu minimieren und die Genauigkeit zu erhöhen.
- Transparente, mit Quellen verknüpfte Erklärungen anzubieten.
- Gespräche basierend auf Themenrelevanz und Benutzerbedürfnissen anzupassen.
- Daten innerhalb einer vom Kunden kontrollierten Infrastruktur zu schützen.
- In verschiedenen Anwendungen einzusetzen und damit ein breites Anwendungsspektrum zu eröffnen.
