Immer mehr Menschen nutzen KI-Chatbots, um ihr psychisches Wohlbefinden zu fördern. Obwohl diese Systeme leicht zugängliche Unterstützung versprechen, bestehen nach wie vor deutliche Diskrepanzen zwischen den Fähigkeiten der Chatbots und den Erwartungen der Menschen. Dieser Vortrag präsentiert Ergebnisse aus zwei Studien zur Rolle grosser Sprachmodelle (LLMs) bei der täglichen Selbstfürsorge: Die erste untersuchte, wie Einzelpersonen LLMs nutzten und wie Berater diese Praxis wahrnahmen, während die zweite Seelsorger einbezog, die Chatbots für das psychische Wohlbefinden entwickelten und kritisch reflektierten. In beiden Studien wiesen Fachleute sowohl auf das Potenzial als auch auf die derzeitigen Grenzen von KI-Chatbots bei der Unterstützung psychologischer Bedürfnisse hin. Ich werde diese Chancen und Grenzen veranschaulichen und zukünftige Richtungen für die Gestaltung einer sinnvolleren KI-Unterstützung skizzieren.
Joel Wester ist Postdoktorand in der Forschungsgruppe „Human-Centred Computing“ an der Universität Kopenhagen. Anhand qualitativer und quantitativer empirischer Studien untersucht er die Erfahrungen von Menschen mit KI-gestützten Interaktionen und wie das Design die Wahrnehmung der Nutzer prägt.