Hallo KI-Freunde!

Genau wie wir Menschen sind auch KIs nicht perfekt. Manchmal erzählen sie uns Dinge, die zwar sehr überzeugend klingen, aber bei genauerem Hinsehen frei erfunden oder schlichtweg falsch sind. Dieses Phänomen nennt man KI-Halluzinationen.

Was genau sind denn diese "KI-Halluzinationen"?

Stell Dir vor, Du fragst eine KI nach dem Wetter in einer Stadt, die es gar nicht gibt. Statt zu sagen "Diese Stadt kenne ich nicht", könnte die KI Dir mit größter Selbstverständlichkeit eine detaillierte Wettervorhersage für diesen Fantasieort liefern. Das ist eine Halluzination.

Im Grunde bedeutet es:

• Die KI generiert Informationen, die real erscheinen, aber erfunden oder faktisch falsch sind.

• Das Tückische daran: Die KI präsentiert diese falschen Infos oft genauso selbstsicher und überzeugend wie korrekte Fakten. Das macht es für uns Nutzer echt schwer, den Fehler ohne externe Prüfung zu erkennen.

Warum das Ganze ein Problem ist (und nicht nur ein kleiner Fehler)

Man könnte meinen, ein kleiner Fehler hier und da sei nicht so schlimm. Aber KI-Halluzinationen können weitreichende Folgen haben:

• Schlechter Ruf: Wenn Kunden oder Nutzer immer wieder falsche Infos von einer KI bekommen, verlieren sie das Vertrauen – nicht nur in die KI, sondern auch in das Unternehmen, das sie einsetzt.

• Rechtliche Probleme: Falsche Ratschläge im Gesundheitsbereich oder bei Finanzfragen können ernste Konsequenzen haben.

• Mehr Arbeit statt weniger: Statt Prozesse zu vereinfachen, müssen wir Antworten misstrauisch prüfen, was Zeit kostet.

Wieso passiert das überhaupt? Die Ursachen von KI-Halluzinationen

Um zu verstehen, wie man Halluzinationen bekämpfen kann, müssen wir wissen, woher sie kommen. Hier ein paar Hauptgründe:

1. Die Trainingsdaten sind nicht perfekt:

   • Wissenslücken: Fehlen Infos zu einem Thema, füllt die KI die Lücken manchmal mit Fantasie.

   • Schlechte Datenqualität: Das Internet ist voll von unzuverlässigen Infos. Wenn die KI damit lernt, kann das die Antworten beeinflussen.

   • Veraltete Infos: Die meisten KIs haben einen "Wissensstichtag". Aktuellere Ereignisse kennen sie nicht direkt und könnten raten.

   • Verzerrungen (Bias): Vorurteile in den Trainingsdaten kann die KI übernehmen.

2. Die KI will "gefallen": LLMs sind darauf trainiert, flüssige Texte zu schreiben. Manchmal ist ihnen das wichtiger als hundertprozentige Korrektheit.

3. Falsch verstandene Fragen: Unklare Fragen (Prompts) können zu falschen Interpretationen führen.

Was tun Forscher und Entwickler dagegen? Strategien gegen das "KI-Märchenerzählen"

Die gute Nachricht: Das Problem ist bekannt und es wird aktiv an Lösungen gearbeitet! Dazu gehören bessere "Spickzettel" für die KI (Retrieval Augmented Generation), klarere Anweisungen für die KI-Entwicklung (Prompt Engineering auf Systemebene), Selbstkontrollmechanismen und die Fähigkeit der KI, Unsicherheit zu kommunizieren.

Dein Werkzeugkasten: So gehst Du mit KI-Halluzinationen um (und reduzierst sie aktiv!)

Auch Du kannst eine Menge tun, um Halluzinationen zu erkennen und ihre Wahrscheinlichkeit zu verringern:

Wenn Du eine Antwort von der KI bekommst:

1. Gesunder Menschenverstand zuerst: Klingt die Antwort plausibel? Scheint sie zu gut, um wahr zu sein, oder widerspricht sie Deinem Grundwissen? Sei skeptisch!

2. Quellen-Check: Frage die KI direkt nach ihren Quellen. Aber Achtung: Manchmal erfindet sie auch Quellen! Überprüfe genannte Quellen daher immer (z.B. durch eine schnelle Google-Suche).

3. Gegenprüfung: Hol Dir eine zweite Meinung ein. Das kann eine schnelle Internetrecherche sein, das Nachschlagen in einem Fachbuch oder das Fragen einer anderen, vielleicht spezialisierteren KI (falls verfügbar).

4. Wissensgrenzen beachten: Erinnere Dich daran, dass die KI einen Wissensstichtag hat. Bei sehr aktuellen Themen ist Vorsicht geboten.

Wenn Du eine Anfrage an die KI stellst (Prompting):

1. Sei so präzise wie möglich:

   • Klarheit: Formuliere Deine Frage oder Anweisung unmissverständlich. Vermeide vage Begriffe.

   • Kontext geben: Je mehr relevante Hintergrundinformationen Du der KI gibst, desto besser kann sie Deine Absicht verstehen. Beispiel: Statt "Schreib über Paris", besser "Schreib einen kurzen Absatz über die wichtigsten Sehenswürdigkeiten in Paris für Touristen, die zum ersten Mal dort sind."

2. Fordere Belege oder Begründungen: Bitte die KI, ihre Aussagen zu begründen oder Quellen für bestimmte Fakten zu nennen (siehe oben, aber schon beim Fragen einbauen).

3. Erlaube Unsicherheit: Du kannst der KI explizit sagen, dass sie zugeben soll, wenn sie etwas nicht weiß. Zum Beispiel: "Wenn Du Dir bei einer Information nicht sicher bist, gib das bitte an."

4. Zerlege komplexe Aufgaben: Bei umfangreichen oder komplizierten Anfragen ist es oft besser, diese in kleinere Schritte aufzuteilen. So behältst Du den Überblick und kannst Teilergebnisse leichter prüfen.

5. Iteriere und verfeinere: Wenn die erste Antwort nicht passt, formuliere Deinen Prompt um. Experimentiere mit verschiedenen Formulierungen.

Bonus-Tipp: Bei ChatGPT kannst du diese Anweisungen in die individuelle Konfiguration reinpacken, dann berücksichtigt das Programm diese Anweisung automatisch für jeden neuen Chat, ohne das du es jedes Mal mit dazu schreiben musst

Fazit

KI ist ein unglaublich mächtiges Werkzeug, aber wie bei jedem Werkzeug sollten wir lernen, es klug und kritisch einzusetzen. Vertraue nicht blind jeder Antwort, besonders wenn es um wichtige Entscheidungen geht. Hinterfrage, prüfe mit den oben genannten Tipps und sei Dir bewusst, dass auch die cleverste KI mal danebenliegen kann.

Die Entwicklung geht rasant voran, und die KIs werden immer besser darin, Halluzinationen zu vermeiden. Es bleibt spannend!

KI-News der Woche (KW 19)

• Das US Copyright Office stellt die Behauptung der KI-Industrie auf "Fair Use" beim KI-Training in Frage.

• Ein US-Thinktank äußert Bedenken hinsichtlich eines möglichen "Reverse Brain Drain" im chinesischen KI-Sektor.

• Das umstrittene KI-Manipulations-Experiment der Universität Zürich auf Reddit wurde ohne veröffentlichtes Paper abgeschlossen.

• Stanford-Forschung deutet darauf hin, dass sich KI-Agenten mit Erfahrung verbessern.

• Microsoft-Forschung legt nahe, dass GUI-KI-Agenten flexibler sind, während API-KI-Agenten zuverlässiger sind.

• Bytedance steigt mit Agent TARS in den Bereich der multimodalen KI-Agenten ein.

• Google skizziert seine Pläne und Beispiele für generative KI im Gaming.

• Eine Analyse von Artificial Analysis zeigt, dass die Betriebskosten für Googles Gemini 2.5 Flash bei der Nutzung von Denkprozessen 150-mal höher sind als die von Gemini Flash 2.0.

• SoundCloud hat seine Nutzungsbedingungen im Februar 2024 aktualisiert und sich das Recht eingeräumt, hochgeladene Musik zu Trainingszwecken zu verwenden, ein Schritt, der vom KI-Copyright-Aktivisten Ed Newton-Rex kritisiert wurde.

• OpenAI erweitert die Fine-Tuning-Methoden für seine KI-Modelle o4-mini und GPT-4.1.

So, das war’s auch schon wieder für heute!

Danke, dass du dabei warst und ich hoffe, die Mail war deine Zeit wert!

Bis nächsten Sonntag und in der Zwischenzeit sehen wir uns, wie immer, auf Threads!

Viele Grüße!

Barkan von Promptschmiede