KI-Lernen aus Gesprächen: Risiko und Belohnung
KI-Modelle lernen derzeit nicht in Echtzeit aus jeder Benutzerinteraktion, eine bewusste Entscheidung zur Priorisierung von Sicherheit und Vorhersagbarkeit gegenüber sofortiger Anpassung durch Nutzerfeedback.
Im Gegensatz zum menschlichen Gehirn, das sich durch Neuroplastizität ständig neu verdrahtet, lernen aktuelle KI-Modelle nicht aus einzelnen Konversationen. Ihre Wissensbasis bleibt nach einer anfänglichen Trainingsphase statisch, was bedeutet, dass jede Interaktion mit einer KI das zugrundeliegende Modell unverändert lässt.
Das menschliche Gehirn verändert seine Verbindungen zwischen Zellen physisch mit jeder Erfahrung, jedem Fehler oder jeder noch so kleinen Peinlichkeit. Künstliche Intelligenz verfügt jedoch nicht über diese kontinuierliche Anpassung. Wie von Inc. Magazine analysiert, verschieben sich die Gewichte, die das Verständnis einer KI von der Welt ausmachen, unabhängig davon, wie viele Personen mit ihr interagieren, nicht.
Obwohl es technisch machbar ist, Echtzeit-Lernen zu implementieren, bei dem sich die KI basierend auf Benutzerantworten anpasst – positive Rückmeldungen belohnt und negative bestraft – birgt dieser Ansatz erhebliche Risiken. Microsofts Tay-Chatbot dient als warnendes Beispiel; er absorbierte schnell toxische Inhalte von Twitter-Nutzern und wurde innerhalb eines Tages offline genommen.
Neben dem Potenzial, schädliche Daten zu absorbieren, stehen direkte Lernsysteme vor Problemen wie dem „katastrophalen Vergessen“, bei dem neue Informationen alte Kenntnisse auslöschen. Die Bereitstellung eines sich ständig aktualisierenden Modells für jeden Benutzer ist aufgrund der Rechenanforderungen derzeit ebenfalls unpraktisch. Das bestehende Design, ein festes Modell mit einer temporären Speicherschicht, ist daher ein wohlüberlegter Kompromiss für Vorhersagbarkeit und Auditierbarkeit.