Zunächst ein bisschen „Captain Obvious“
Zum Thema Datenschutz: Wir reden bei erfolgreichen und mächtigen KI Systemen in den allermeisten Fällen von KI aus den USA. Und zwar von einer instabilen, nicht vertrauenswürdigen USA in der jederzeit ein „Kill Switch umgelegt werden könnte, der ganze (KI) Infrastrukturen für das Ausland lahmlegt. Aktuelles Beispiel ist Anthropic, die ihre zwei neuesten LLMs Fabel und Mythos nach intervention der US Regierung erst mal wieder komplett vom Markt genommen haben.
Und das war jetzt die radikalste Reaktion von Antrophic, was aber, wenn nicht das Abschalten gefordert wird, sondern die Herausgabe von Daten. Mit einer so wirren, instabilen und unethischen Regierung wie im Moment kann so etwas jederzeit passieren oder passiert vielleicht sogar schon.
Zudem kann sich sicher jeder ausmalen, was es für eine laufende Therapie bedeutet, wenn gerade der Therapeut ausfällt, dem man zuvor sein Herz und seinen Geist geöffnet hat.
Und dann sind meine persönlichen Daten plötzlich einem immer autokratischer agiereneden unberechenbaren Staat ausgeliegert, den Recht und Gesetz nur interessiert, wenn es von Nutzen ist.
Die von der EU erlassenen Gesetze und Vorgaben scheinen manchmal hinderlich bei der Entwicklung von LLMs zu sein, bieten aber meiner Einschätzung nach einen guten Rahmen was Datenschutz und ethische Aspekte der KI Entwicklung und Verwendung angehen.
Was aber ebenso schwer wiegt, selbst die „Hersteller“ der LLMs. verstehen nur einen Bruchteil des Mechanismus, der in den Netzen zu entsprechenden Antworten führt. Wir reden also von Systemen, die zwar funktionieren und deren Grundmechanismus man erklären kann, aber wie nun genau es zu bestimmten Antworten kommt, bleibt weitestgehend im Dunkeln. Erste Ansätze zu sogenannter „Explainable AI“ also erklärbarer KI gibt es zwar, aber diese stecken noch sehr in den Kinderschuhen.
Außerdem gilt nach wie vor, es sind stochastische Wahrscheinlichkeitsrechner, die nicht VERSTEHEN, was sie produzieren, sondern mit Wahrscheinlichkeiten auf dem operieren, was ihnen vorher antrainiert wurde. Das wird stark aus dem Internet gezogen, was dann zu Bias und Fehlinformationen führen kann, da wir von einem Internet sprechen, das auch Fehlinformationen beinhaltet und das nicht zu knapp.
Ich habe versucht, die KI als Therapeuten zu sehen, aber bei einer KI, die eher Erwartungen erfüllen will und tendenzielll eine falsche Antwort gar keiner Antwort vorzieht, ist das meiner Ansicht nach hochriskant.Sicher, man kann mit ihr Dialoge führen aber will ich in einer psychisch schlechten Phase wirklich einer Zustimmungsmaschine zuhören?
Außerdem, wer kann mir garantieren, dass die Ratschläge, die die KI mir gibt, nicht einfach Plattitüden aus entsprechenden Selbsthilfe Humbug Seiten sind.
Lange Zeit war ich ein Verfechter der Nutzung von KI für die Wartezeit bis zu einem echten Therapeuten. Dessen bin ich mir nach längerer Beobachtung des „Marktes“ und mit meinen Kenntnissen über die Funktion und den Wahrheitsgehalt dessen, was KI produziert gerade im Mental Health Bereich nicht mehr so sicher und kann nur raten, jeden Ratschlag, den die KI einem gibt, nochmals mit eigener Recherche zu hinterlegen oder genaue Quellenangaben für die Aussagen von der KI zu fordern und ohne Quellen zu ignorieren.