Wenn der „KI-Therapeut” keine fachliche Grundlage hat
Der Begriff „KI-Therapeut” erweckt den Anschein von fachlicher Expertise. Die Realität sieht jedoch anders aus: Allgemeine Sprachmodelle wie ChatGPT wurden für vielfältige Anwendungsfälle entwickelt – die gezielte Unterstützung bei psychischen Belastungen gehört nicht dazu. So verfügen sie weder über tiefgehendes psychologisches Wissen noch über Mechanismen zur Krisenerkennung oder professionelle Aufsicht.
Forschungen belegen diese Defizite. Eine Untersuchung von Heston aus dem Jahr 2023 zeigte, dass viele Chatbots erst bei sehr schweren Symptomen professionelle Hilfe empfehlen und Nutzer:innen teilweise sogar ohne Hinweis auf Notfallkontakte blockieren. In einer weiteren Analyse aus 2024, durchgeführt von De Freitas und Kolleg:innen, wurde über die Hälfte der KI-Antworten im Kontext suizidaler Äußerungen als „riskant” eingestuft.
Ein weiteres Problem sind zustimmende Tendenzen – in der Fachsprache auch „Sycophancy” genannt. KI-Systeme neigen dazu, Nutzer:innen gefallen zu wollen und stimmen deren Aussagen deshalb oft übermäßig zu – auch wenn diese dysfunktional oder sogar schädlich sind. Während professionelle Unterstützung darauf abzielt, problematische Denkmuster zu hinterfragen und alternative Perspektiven aufzuzeigen, bestätigen viele Chatbots bestehende Überzeugungen unkritisch. Das kann negative Gedankenspiralen, Vermeidungsverhalten oder negative Glaubenssätze verstärken, statt sie aufzulösen.
Hinzu kommt das Problem sogenannter „Halluzinationen”. Damit sind fachlich falsche, aber überzeugend formulierte Aussagen gemeint, wie sie bei großen Sprachmodellen (LLMs) auftreten können. Im Bereich psychisches Wohlbefinden kann dies bedeuten: erfundene Techniken, fehlerhafte Informationen oder potenziell schädliche Strategien, die als wissenschaftlich fundiert präsentiert werden.
Ein anderer Ansatz: Psychologische Expertise als Ausgangspunkt
HelloBetter basiert auf über 10 Jahren Forschung im Bereich digitale Gesundheitsversorgung und entwickelt seit 2015 wissenschaftlich geprüfte psychologische Online-Therapieprogramme. Sechs dieser Programme sind als Digitale Gesundheitsanwendungen (DiGA) auf Rezept verfügbar und ihre Wirksamkeit ist durch 30 randomisierte kontrollierte Studien dokumentiert. Diese Expertise bildet nun die Grundlage für Ello, einen KI-Begleiter für psychisches Wohlbefinden.
Ein interdisziplinäres Team aus Psycholog:innen, Wissenschaftler:innen und Machine-Learning-Expert:innen entwickelte das System mit klarem Fokus auf drei Säulen: Sicherheit, Datenschutz und psychologische Fundierung.
Vier zentrale Qualitäts- und Sicherheitsmerkmale
Human-in-the-Loop: Ello ist die erste KI-Anwendung für psychisches Wohlbefinden, die ein echtes Human-in-the-Loop-Konzept umsetzt. Nutzer:innen können direkt mit Psycholog:innen aus dem HelloBetter-Team in Kontakt treten. Parallel prüfen und bewerten Fachkräfte kontinuierlich die Gesprächsverläufe und geben Feedback zur Verbesserung von Qualität und Sicherheit.
Krisenerkennung: Integrierte Sicherheitsmechanismen erkennen akute Belastungssituationen, etwa bei Eigen- oder Fremdgefährdung. In solchen Fällen erhalten Nutzende Unterstützung, indem sie auf etablierte Notfallkontakte wie die Telefonseelsorge hingewiesen werden.
Datenschutz nach DiGA-Standards: Im Gegensatz zu allgemeinen Chatbots erfüllt Ello die gleichen Datenschutzanforderungen wie verschreibungsfähige digitale Medizinprodukte. Das heißt: DSGVO-konforme Verarbeitung, Serverstandorte ausschließlich in Europa und keine Weitergabe von Daten an Dritte.
Evidenzbasierte Techniken: Im Unterschied zu allgemeinen Chatbots basiert Ello auf psychologischen Gesprächsführungstechniken und wissenschaftlich geprüften Übungen. Statt schnelle Ratschläge zu geben, unterstützt Ello durch systematische Fragen dabei, Gedanken, Gefühle und Verhaltensweisen besser zu verstehen, wiederkehrende Muster zu erkennen und eigenständig Strategien für mehr Wohlbefinden zu entwickeln.
Ello hilft bei alltäglichen Belastungen wie Stress, Schlafproblemen oder Grübeln, bei Beziehungsthemen oder wenn emotionale Unterstützung gebraucht wird. Das Angebot richtet sich an Erwachsene ab 18 Jahren, die ihr psychisches Wohlbefinden stärken möchten.
Grenzen der Anwendung: Ello ersetzt keine professionelle Hilfe
Wichtig ist die klare Abgrenzung: Ello ist ein Wellness-Tool für alltägliche Herausforderungen – kein Medizinprodukt. Ello ist nicht dafür gedacht, Diagnosen zu stellen, Erkrankungen zu behandeln, zu überwachen, zu verhüten, vorherzusagen, zu prognostizieren oder zu lindern. Bei schweren psychischen Belastungen, akuten Krisen oder Suizidgedanken ist professionelle Hilfe unverzichtbar – zum Beispiel bei der Telefonseelsorge unter 0800 111 0 111 (rund um die Uhr erreichbar).
Verantwortungsvolle Weiterentwicklung durch kontinuierliche Supervision
Wer nach einem „KI-Therapeuten" sucht, landet häufig bei generativen Sprachmodellen, die nicht für sensible psychologische Themen entwickelt wurden. Auch wenn Ello kein Medizinprodukt ist, setzt Ello hier ein Zeichen: Von Grund auf mit psychologischer Fachkompetenz entwickelt, unter ständiger Supervision qualifizierter Fachkräfte und mit höchsten Datenschutzstandards. Nicht als Ersatz für professionelle Hilfe, sondern als niedrigschwellige, sichere Unterstützung bei alltäglichen Herausforderungen.
Entscheidend ist dabei die fortlaufende Weiterentwicklung: Psycholog:innen und Psychotherapeut:innen prüfen regelmäßig Gesprächsverläufe, unterstützen bei der Weiterentwicklung des KI-Systems und stellen sicher, dass dessen Qualität konstant hoch bleibt. Diese professionelle Aufsicht unterscheidet Ello grundlegend von KI-Systemen, die einmal trainiert und dann ohne weitere Kontrolle eingesetzt werden.
Wie hilfreich KI künftig im Bereich psychisches Wohlbefinden sein kann, hängt davon ab, ob Entwicklung und Betrieb diesem Prinzip verantwortungsvoller Integration folgen: Systeme mit klar definierten Grenzen, unter kontinuierlicher professioneller Supervision, mit transparenten Sicherheitsmechanismen. Ello markiert einen ersten wichtigen Schritt in diese Richtung.
Möchtest du Ello kennenlernen? Lade jetzt die App herunter und starte direkt dein erstes Gespräch mit Ello.
