Forschende fordern klare Regelungen für KI im Bereich mentaler Gesundheit

Forschende fordern klare Regelungen für KI im Bereich mentaler Gesundheit
Künstliche Intelligenz (KI) ist inzwischen in der Lage, Gespräche zu führen, Emotionen nachzuahmen und menschliches Verhalten zu simulieren. Frei verfügbare große Sprachmodelle (Large Language Models, LLMs), die häufig als personalisierte Chatbots oder KI-Charaktere eingesetzt werden, finden zunehmend Anwendung bei Fragen zur mentalen Gesundheit. Diese Entwicklungen eröffnen neue Chancen, sind jedoch gleichzeitig mit erheblichen Risiken verbunden – insbesondere für vulnerable Nutzergruppen. Forschende des Else Kröner Fresenius Zentrums (EKFZ) für Digitale Gesundheit an der TU Dresden und des Universitätsklinikums Carl Gustav Carus fordern daher in kürzlichen Veröffentlichungen eine stärkere regulatorische Aufsicht.


