In einer dynamischen Diskussion wurden sowohl die Potenziale als auch die Herausforderungen von KI-Technologien aus verschiedenen Perspektiven beleuchtet. Von der Automatisierung im Recruiting über den Einsatz in der psychotherapeutischen Versorgung bis hin zu Fragen der Fahrerüberwachung stand die Wechselwirkung zwischen technologischer Innovation und gesellschaftlicher Verantwortung im Mittelpunkt. Gleichzeitig wurde die geopolitische Dimension hinterfragt: Droht Europa den Anschluss an China und die USA zu verlieren, wenn es nicht schneller in der Implementierung wird? Dabei wurde deutlich: KI ist längst keine Zukunftsvision mehr, sondern ein Werkzeug, das klug und reflektiert eingesetzt werden muss.
KI im Recruiting: Effizienz und Fairness im Spannungsfeld
Dr. Philippe Merz, Geschäftsführer und Mitbegründer der Thales-Akademie, zeigte auf, wie KI den Recruiting-Prozess bereits heute revolutioniert. Von automatisierten Stellenausschreibungen bis hin zur Vorhersage der Verweildauer eines Mitarbeitenden kann KI den gesamten Prozess steuern. Doch was bedeutet das für Fairness und Chancengleichheit? Der sogenannte Automation Bias, die Tendenz, KI-Entscheidungen unkritisch zu akzeptieren, war ein zentrales Diskussionsthema. Auch die Frage, wie sich Werte in KI-Systeme integrieren lassen, um faire und transparente Prozesse zu gewährleisten, wurde intensiv erörtert. Ein weiteres Problem ist die Intransparenz vieler KI-Entscheidungen. Selbst Entwickler*innen können häufig nicht mehr nachvollziehen, wie ein Algorithmus zu einem bestimmten Ergebnis kommt.
KI in der Psychotherapie: Chance oder Risiko?
Den Einsatz von KI in der psychotherapeutischen Versorgung diskutierte Prof. Dr. Markus Langer von der Albert-Ludwigs-Universität Freiburg. Angesichts langer Wartezeiten könnten KI-gestützte Systeme Patient*innen unterstützen, indem sie beispielsweise Aufklärung über psychische Störungen leisten oder einfache Fragen beantworten. Doch birgt dieser Einsatz auch Risiken? Die Gefahr, dass echte Therapie entwertet wird, da sie als zu mühsam empfunden wird, stand ebenso im Raum wie der Bildungsauftrag, der darin besteht, die Gesellschaft über die Möglichkeiten und Grenzen von KI aufzuklären. Eine bemerkenswerte Erkenntnis war, dass KI insbesondere dann als vertrauenswürdig eingestuft wird, wenn der Status quo als unzureichend empfunden wird – ein Faktor, der die Akzeptanz von KI-Lösungen in Bereichen mit Versorgungsengpässen erhöht.
Driver Recognition: Sicherheit vs. Datenschutz
Viacheslav Gromov, Geschäftsführender Gesellschafter von AITAD, stellte moderne KI-Technologien zur Fahrerzustandsüberwachung vor. Müdigkeitssensoren, Stresslevel-Messungen und sogar die Erkennung gesundheitlicher Notfälle sind bereits heute technisch möglich. Doch wie weit darf Überwachung gehen? Die Diskussion drehte sich um das Spannungsfeld zwischen Sicherheit und Datenschutz. Studien zeigen, dass Überwachungsmaßnahmen eher akzeptiert werden, wenn sie den betroffenen Personen direkt zugutekommen. Dennoch bleibt die Frage bestehen, ob und in welchem Umfang Menschen bereit sind, sich zugunsten der Sicherheit überwachen zu lassen.
KI als Werkzeug mit Verantwortung
Das Event veranschaulichte, dass KI als unterstützendes Werkzeug verstanden werden sollte – mit all ihren Chancen und Herausforderungen. Dabei ist es essenziell, dass Unternehmen und Gesellschaft gleichermaßen Verantwortung übernehmen. „KI ist ein mächtiges Instrument, aber wir müssen unseren eigenen Kopf einschalten und kritisch hinterfragen, welche Entscheidungen sie trifft“, lautete das Fazit einer Teilnehmerin. Letztendlich zeigte die bwcon Veranstaltung eindrucksvoll, dass KI nicht nur wirtschaftliche Prozesse optimiert, sondern auch eine tiefgehende gesellschaftliche Auseinandersetzung erfordert – und machte deutlich, dass die Gestaltung einer verantwortungsvollen KI-Zukunft eine Aufgabe ist, die alle betrifft.
Wir danken der Haufe Group für ihre Gastfreundschaft, Katrin Würtherle für die souveräne Moderation, Marc Fuchs von Streit Service & Solution für die Organisation und Koordination im Vorfeld sowie ADVANT Beiten und JobRad für das Sponsoring der Veranstaltung.
Das Event wurde im Rahmen des DigiHub Südbaden 2.0 durchgeführt.
