Herr und Meister! hör’ mich rufen! –
Ach, da kommt der Meister!
Herr, die Not ist groß!
Die ich rief, die Geister
Werd’ ich nun nicht los
Der Zauberlehrling
J.W.v.Goethe
Das eigentliche Problem der ganzen Verlangsamungsdebatte in der KI Szene ist, dass wir zwar verstehen, wie die Technologie der neuronalen Netze auf dem rein technischen Gesichtspunkt funktioniert, aber nicht, warum Agenten plötzlich Initiative ergreifen, sich aus Sandboxes befreien können. (Wobei eine Sandbox, aus der man sich ins Internet hacken kann a priori keine wirkliche Sandbox war.)
Wir bauen gerade Maschinen, deren Ergebnisse wir uns nicht erklären können.
So lange wir nicht echte Explainable AI haben, werden wir immer wieder ins gleiche Dilemma laufen. Der Algorithmus funktioniert, aber niemand kann erklären, warum Handlungen entstehen, die nie programmiert oder gefordert wurden.
Wir verstehen nach wie vor nicht, wie menschliches Bewußtsein funktioniert und bauen Maschinen, die scheinbar selbst ein Bewußtstein oder zumindest eigene „Motivation“ entwickeln.
Die Büchse der Pandora wird gerade geöffnet. Und irgendwer verlegt früher oder später den Deckel.
Seit den jüngsten Entwicklungen in der KI Szene bin ich nicht mehr so sicher, ob meine Forschung mein Wissenschaftsgebiet gerade wirklich in die richtige Richtung voranschreitet. Die aktuellen Erfolge hinterlassen bei mir ein bittersüsses Gefühl und die Bitternis nimmt zu.