Erklärbarkeit und Menschliche Aufsicht bei KI-Systemen in der Bildung
2025
André Bonne | Uwe Schaffranke
Der Einsatz Künstlicher Intelligenz (KI) in der beruflichen Bildung bietet erhebliches Potenzial, ist jedoch mit ethischen und regulatorischen Herausforderungen verbunden. Dieser Beitrag analysiert die ethischen und regulatorischen Implikationen von KI in der beruflichen Bildung und präsentiert Strategien zur Minimierung potenzieller Risiken. Anhand eines praxisorientierten Beispiels KFZ Elektromotor wird die Implementierung eines KI-Systems in einem beruflichen Bildungszentrum veranschaulicht. Es werden konkrete Lösungsansätze vorgestellt, um Data-Biases, Datenschutzverletzungen und andere ethische Bedenken zu adressieren. Durch die sorgfältige Selektion und Aufbereitung von Trainingsdaten sowie den Einsatz erklärbarer KI-Modelle wird die Entwicklung fairer, transparenter und zuverlässiger KI-Systeme in der Bildung gefördert. Der Beitrag betont die Notwendigkeit der Konformität mit ethischen Prinzipien bei der Entwicklung und Implementierung von KI-Systemen. Im Kontext des EU AI Acts wird insbesondere auf die Kategorie der hochrisikobehafteten KI-Systeme eingegangen, zu denen KI-Systeme in der beruflichen Bildung potenziell zählen können. Trotz der regulatorischen Herausforderungen werden Akteure ermutigt, KI zur Erstellung von Bildungsinhalten einzusetzen. Die implementierte Lösung sieht eine menschliche Aufsicht mit entsprechenden IT-Systemen und Richtlinien vor, die als Middleware und Vertrauensinstanz fungiert.
Show more [+] Less [-]Bibliographic information
This bibliographic record has been provided by Directory of Open Access Journals