Warum erfindet KI Dinge und wie prüfen Sie ihre Antworten?
Ein KI-Assistent, der selbstbewusst eine Vertragsklausel, einen Preis oder ein Gerichtsurteil erfindet, lügt nicht absichtlich. Er tut, wofür er gebaut wurde. Wer die Gründe kennt, weiß besser, wann er ihm vertrauen kann und was er prüfen muss.
Warum Halluzinationen entstehen
Ein großes Sprachmodell lernt Muster aus riesigen Textmengen und sagt dann Wort für Wort vorher, was wahrscheinlich als Nächstes kommt. Einen eingebauten Schritt, der einen Satz mit der Wirklichkeit abgleicht, gibt es nicht. War die richtige Antwort in den Trainingsdaten häufig, stimmen wahrscheinliche und wahre Antwort meist überein. Geht es um etwas Seltenes, Aktuelles oder Internes, etwa Ihre eigenen Kunden oder die Preise der letzten Woche, erzeugt das Modell trotzdem den plausibelsten Text.
Verstärkt wird das durch Fragen mit falscher Annahme, Bitten um genaue Zahlen, die das Modell nicht kennen kann, Wissen, das am Trainingsstichtag des Modells endet, und Anfragen, bei denen eine selbstbewusste Antwort mehr zählt als ein ehrliches „Ich weiß es nicht“.
Welche Antworten besonders gefährdet sind
- Genaue Zahlen: Preise, Summen, Prozentsätze, Daten.
- Namen von Personen, Unternehmen und Produkten und wer was gesagt hat.
- Quellen: Zitate, Links, Gesetze, Paragrafen und Gerichtsentscheidungen.
- Alles über Ihr eigenes Unternehmen, was dem Modell nicht gezeigt wurde.
So prüfen Sie KI-Antworten
- Geben Sie ihr die Fakten. Antworten auf Basis Ihrer Datensätze oder Dokumente sind deutlich verlässlicher als Antworten aus dem Gedächtnis.
- Fragen Sie, woher jede Zahl stammt, und öffnen Sie den Datensatz oder die Seite selbst.
- Erlauben Sie in Ihrer Frage ein „Ich weiß es nicht“, damit Raten nicht die einzige Antwortmöglichkeit ist.
- Prüfen Sie zuerst das Riskante: Zahlen, Namen, Daten und Zitate.
- Behandeln Sie rechtliche, steuerliche und medizinische Aussagen als Ausgangspunkt und bestätigen Sie sie über die offizielle Quelle oder eine Fachperson.
Ein kleines Beispiel
Sie fragen einen allgemeinen Chatbot, welche Ihrer Kunden in diesem Quartal verspätet gezahlt haben. Er hat Ihre Rechnungen nie gesehen, also sind alle Namen, die er nennt, Vermutungen. Ein Assistent, der Ihre Rechnungsdaten lesen kann, listet die tatsächlich überfälligen Rechnungen auf, und Sie können jede einzeln öffnen und prüfen.
So geht OrgLines damit um
Der Assistent von OrgLines arbeitet mit den Daten Ihres Arbeitsbereichs, innerhalb der Module Ihres Tarifs und der Bereiche, die Ihre Rolle erlaubt. Er liest die Datensätze und antwortet konkret, und Sie können Preislisten, Vertragsvorlagen und Abläufe in eine Wissensdatenbank aufnehmen, damit er aus Ihren Dokumenten antwortet. Bereitet er eine Änderung vor, sehen Sie genau die betroffenen Datensätze und Felder, und die meisten Änderungen an gemeinsamen Geschäftsdaten werden nur vorgeschlagen, bis ein Mensch sie bestätigt. Im Modus „Sicher“ schaut er nur und erklärt. Unfehlbar wird er dadurch nicht, prüfen Sie also weiterhin.