Was künstliche Intelligenz kann

Mensch, Natur und Technik Klasse 7, 8

Schlau Fassung

Ein KI-System wird trainiert: Es bekommt sehr viele Beispiele und passt seine internen Werte so an, dass es bei neuen Fällen möglichst oft richtig liegt.
Sprachmodelle sagen dabei jeweils das wahrscheinlichste nächste Stück Text voraus. Sie können deshalb erstaunlich gut formulieren – ohne zu prüfen, ob es stimmt.
Ob das Denken ist, wird ernsthaft bestritten. John Searle argumentierte mit dem Chinesischen Zimmer: Wer nach Regeln chinesische Zeichen sortiert, ohne Chinesisch zu können, versteht nichts – auch wenn die Antworten richtig sind.
Dagegen wird eingewandt: Vielleicht ist Verstehen nichts anderes als eine sehr komplizierte Zeichenverarbeitung – auch im Gehirn. Die Frage ist offen.
Praktisch wichtiger sind zwei Punkte: KI hat keine Absichten und übernimmt keine Verantwortung. Beides bleibt bei den Menschen, die sie bauen, einsetzen und benutzen.

Was tun Sprachmodelle im Kern?
Lösung
Sie sagen das wahrscheinlichste nächste Textstück voraus.
Was besagt das Chinesische Zimmer?
Lösung
Regeln zu befolgen ist noch kein Verstehen.
Wer trägt Verantwortung für die Ergebnisse?
Lösung
Die Menschen, die das System bauen und einsetzen.

Stellt einem KI-System drei Fragen, deren Antwort ihr kennt, und prüft die Antworten Satz für Satz.