Darf eine Maschine entscheiden?

Darf eine Maschine entscheiden?

• Maschinen entscheiden längst mit: bei Bewerbungen, Kreditwürdigkeit, Sortierung von Nachrichten, medizinischen Vorschlägen, Notbremsungen im Auto.
• Der Vorteil ist real: Sie sind schnell, ermüden nicht und behandeln gleiche Fälle gleich. Menschen urteilen nach der Mittagspause nachweislich anders.
• Die Einwände wiegen ebenso schwer: Die Systeme sind oft undurchsichtig, sie übernehmen Vorurteile aus den Daten, und sie kennen den Einzelfall nicht – nur das Muster.
• Deshalb gilt in Europa ein Grundsatz: Bei Entscheidungen mit erheblichen Folgen darf niemand einer rein automatisierten Entscheidung unterworfen werden (Art. 22 DSGVO); es muss eine menschliche Prüfung geben.
• Die härteste Frage betrifft die Verantwortung: Eine Maschine kann nicht schuldig sein. Wenn ein automatisches System jemanden schädigt, muss vorher geklärt sein, wer haftet – Hersteller, Betreiber oder Nutzer.
• Ein Bereich gilt weithin als Grenze: Entscheidungen über Leben und Tod. Autonome Waffensysteme werden international deshalb scharf kritisiert.

1. Nenne einen Vorteil maschineller Entscheidungen.
   Lösung

   Sie behandeln gleiche Fälle gleich und ermüden nicht.
2. Nenne zwei Einwände.
   Lösung

   Undurchsichtigkeit und übernommene Vorurteile.
3. Was verlangt Artikel 22 DSGVO?
   Lösung

   Keine rein automatisierte Entscheidung mit erheblichen Folgen – es braucht menschliche Prüfung.

1. Ordnet fünf Entscheidungen auf einer Linie von „darf die Maschine allein“ bis „nie ohne Menschen“ und begründet die Reihenfolge.