CAS Responsible AI

Ihre Frage: Unser KI-Einsatz ist erlaubt – aber ist er auch richtig?

Sie lernen, worüber alle reden, wenn sie von verantwortungsvoller KI sprechen – und bekommen ein einfaches Denkwerkzeug, um zu entscheiden, ob ein KI-Einsatz nicht nur erlaubt, sondern auch richtig ist.

Input (Theorie): Begriffliche Schärfe (verantwortungsvolle vs. «ethische»/«vertrauenswürdige» KI); die sieben Lesarten von «Responsible AI»; normative Ethik-Theorien (Pflichten, Folgen, Haltung); Menschenwürde.

Das tun Sie: Sie wenden das Entscheidungsraster gemeinsam auf einen echten Zweifelsfall an (kollegiale Fallberatung).

Nach diesem Kurstag können Sie:
– verantwortungsvolle KI präzise von «ethischer» und «vertrauenswürdiger» KI unterscheiden;
– erklären, warum Prinzipien allein nicht genügen;
– Ethik-Theorien als Entscheidungshilfe auf ein KI-Dilemma anwenden.

Ihre Frage: Was kann diese KI wirklich – und was rede ich mir nur ein?

Sie verstehen in Alltagssprache, was heutige KI wirklich kann und wo ihre Grenzen liegen – ohne Mathematik – und wählen das Vorhaben, das Sie durch den ganzen Kurs begleitet.

Input (Theorie): Wie heutige KI funktioniert – maschinelles Lernen, Sprachmodelle, generative und selbstständig handelnde KI (ohne Mathematik); die rechtliche KI-Definition.

Das tun Sie: Sie beschreiben Ihr eigenes Vorhaben – mit KI-Unterstützung, die Sie anschliessend kritisch prüfen.

Nach diesem Kurstag können Sie:
– heutige KI (inkl. selbstständig handelnder) und die rechtliche Definition einordnen;
– ein eigenes Vorhaben oder einen Referenzfall wählen und beschreiben.

Sie nehmen mit: Ihr Vorhaben klar beschrieben, mit einem ersten Reifecheck.

Ihre Frage: Wen trifft unser KI-Einsatz – und wie riskant ist er vor dem Gesetz?

Sie klären, welche Werte in Ihrem Vorhaben auf dem Spiel stehen, wen es betrifft – und wie riskant es aus Sicht des EU-KI-Gesetzes ist, das auch viele Schweizer Organisationen betrifft.

Input (Theorie): Werte bewusst gestalten (Design-for-Values); Menschenrechte und Betroffenen-Landkarte; die Risikoklassen des EU-KI-Gesetzes.

Das tun Sie: Sie stufen Ihren Fall ein und begründen die Einstufung vor der Gruppe (Entscheidungs-Simulation).

Nach diesem Kurstag können Sie:
– Werte und Betroffene Ihres Vorhabens bestimmen;
– Ihr Vorhaben nach dem EU-KI-Gesetz einstufen und begründen.

Sie nehmen mit: Eine Werte- und Betroffenen-Landkarte plus die rechtliche Risikoklasse Ihres Vorhabens.

Ihre Frage: Behandelt unsere KI alle fair – und verstehen wir überhaupt, warum sie so entscheidet?

Sie erkennen, wie KI unfair werden kann und wie weit man ihren Entscheidungen «in den Kopf schauen» kann – und wo die Grenzen liegen.

Input (Theorie): Wie Verzerrungen (Bias) entstehen; konkurrierende Fairness-Begriffe; Nachvollziehbarkeit und ihre Grenzen.

Das tun Sie: Sie lassen eine KI eine Einschätzung erstellen und decken deren blinde Flecken selbst auf.

Nach diesem Kurstag können Sie:
– erkennen, wie KI Verzerrungen erzeugt, und zentrale Fairness-Begriffe unterscheiden;
– Möglichkeiten und Grenzen der Nachvollziehbarkeit einschätzen.

Ihre Frage: Woher weiss ich, dass ich den Prüfergebnissen eines Anbieters trauen kann?

Sie erfassen die Risiken Ihres Vorhabens systematisch und lernen, Test- und Prüfergebnisse zu lesen, statt sie glauben zu müssen – inklusive der technischen Seite der Verantwortung.

Input (Theorie): Systematisches Risikoprofil (12 Kategorien); technische Verantwortung – Sicherheit gegen Unfälle vs. gegen Angriffe, Robustheit, nachweisbarer Datenschutz; Prüfergebnisse lesen.

Das tun Sie: Sie erstellen die Risiko-Landkarte für Ihren Fall und lesen gemeinsam echte Prüfberichte.

Nach diesem Kurstag können Sie:
– Risiken systematisch erfassen und priorisieren;
– Vertrauenswürdigkeit als überprüfbare Eigenschaft verstehen (Sicherheit, Robustheit).

Sie nehmen mit: Eine priorisierte Risiko-Landkarte Ihres Vorhabens.

Ihre Frage: Darf ich einer KI eine (Vor-)Entscheidung überlassen, die das Leben von Menschen betrifft?

Sie verstehen, was neu und riskant wird, sobald KI selbstständig handelt – und wann ein Mensch eingreifen können muss. Sie sehen, wie führende Anbieter Verantwortung schon in die Technik einbauen – und welche Nachweise Sie verlangen können.

Input (Theorie): Selbstständig handelnde («agentische») KI und ihre neuen Risiken (versteckte Angriffe, Tempo-Problem); menschliche Kontrolle; gezieltes Testen (Red-Teaming).

Das tun Sie: Sie versuchen in einer Übung selbst, ein KI-System auszutricksen, und leiten Schutzmassnahmen ab.

Nach diesem Kurstag können Sie:
– die neuen Risiken selbstständig handelnder KI einschätzen;
– beurteilen, wann menschliche Kontrolle nötig ist und wie gezieltes Testen hilft.

Ihre Frage: Ich muss Mitarbeitende entlassen, deren Arbeit KI übernimmt – ist das vertretbar?

Sie treten einen Schritt zurück und prüfen ehrlich: Wer profitiert, wer trägt die Lasten – und würde ich diesen KI-Einsatz öffentlich rechtfertigen?

Input (Theorie): KI-Gerechtigkeit und Ungleichheit; digitale Kluft; Demokratie und Deepfakes; Verantwortungslücken; Menschenwürde als Grenze; Ethik-Washing.

Das tun Sie: Sie spiegeln Ihr Vorhaben in der Gruppe und schärfen Ihre roten Linien (kollegiale Fallberatung).

Nach diesem Kurstag können Sie:
– die gesellschaftliche Dimension (Gerechtigkeit, Macht, Demokratie, Ressourcen) beurteilen;
– Verantwortungslücken erkennen und Menschenwürde als Grenze anwenden;
– Ethik-Washing erkennen und den eigenen Einsatz kritisch rechtfertigen.

Sie nehmen mit: Ihr begründetes ethisches Urteil mit klaren roten Linien.

Ihre Frage: Was muss ich rechtlich wirklich tun – und was fordere ich, bevor ich kaufe?

Sie wissen, was das EU-KI-Gesetz und die entstehende Schweizer Regulierung konkret von Ihnen verlangen – und welche Nachweise Sie von Ihren Anbietern einfordern müssen, bevor Sie kaufen.

Input (Theorie): Pflichten des EU-KI-Gesetzes und der entstehenden Schweizer Regulierung (Umsetzung der Europarats-KI-Konvention); Grundrechte-Folgenabschätzung; Nachweise und Anbieter-Prüfung; Governance-Landkarte.

Das tun Sie: Sie üben in einem Rollenspiel, Vorgaben gegenüber einem Anbieter einzufordern und zu beurteilen.

Nach diesem Kurstag können Sie:
– die Pflichten des EU-KI-Gesetzes anwenden und eine Grundrechte-Folgenabschätzung durchführen;
– benennen, welche Nachweise Sie von Anbietern einfordern, und einen Massnahmenplan entwerfen.

Sie nehmen mit: Eine Folgenabschätzung, ein Massnahmenplan und eine Anbieter-Anforderungsliste.

Ihre Frage: Wie wird aus dem Einzelfall ein dauerhaftes Programm – wer entscheidet bei uns was?

Sie machen aus dem Einzelfall ein dauerhaftes Programm: Wer entscheidet was, welche Regeln gelten – und wie reif ist Ihre Organisation heute?

Input (Theorie): Betriebsmodell und anerkannte Management-Standards; ethische Führung; KI-Kompetenz in der Organisation; Reifegrad und Fahrplan.

Das tun Sie: Sie entscheiden in einem Planspiel in verteilten Rollen (Geschäftsleitung, Verantwortliche, Datenschutz, Ethik-Gremium) einen heiklen Fall.

Nach diesem Kurstag können Sie:
– ein Betriebsmodell mit Rollen, Regeln und Reifegrad skizzieren;
– KI-Kompetenz aufbauen und eine Roadmap für die Organisation erstellen.

Sie nehmen mit: Eine Rollen- und Regel-Skizze, eine Reifegrad-Einschätzung und ein Fahrplan.

Ihre Frage: Was bedeutet es für uns alle, wenn KI immer besser wird?

Sie ordnen die grossen Zukunftsfragen rund um KI ein – als Denkanstoss, nicht als Pflichtstoff.

Input (Theorie): Grundsätzliche Zukunftsfragen: moralischer Status von KI, technologische Singularität, Mensch-Roboter-Interaktion.

Das tun Sie: Sie positionieren sich zu einer grundsätzlichen Streitfrage.

Nach diesem Kurstag können Sie:
– die grundsätzlichen Debatten einordnen und kritisch einschätzen.

Ihre Frage: Wie vertrete ich mein Urteil überzeugend vor anderen?

Sie präsentieren Ihr begründetes Urteil zu einer echten Streitfrage aus Ihrem Vorhaben – und nehmen konkrete nächste Schritte mit.

Input (Theorie): Präsentation und strukturiertes Peer-Review; Brücke vom Dossier zur Projektarbeit.

Das tun Sie: Sie stellen Ihre Vertiefungsfrage vor und geben sich gegenseitig Rückmeldung.

Nach diesem Kurstag können Sie:
– Ihre Vertiefungsfrage und Ihr begründetes Urteil präsentieren und vertreten;
– aus dem Dossier Ihre reflektierte Projektarbeit entwickeln.