Was darf die künstliche Intelligenz?

Dieser Frage stellten sich am Freitag, dem 30.6.2023, die Schülerinnen und Schüler aber auch die Lehrenden an der HTL Grieskirchen. Die Frage sollte aber eigentlich anders lauten: Was dürfen wir als Anwender solcher Programme und was dürfen wir von ihnen erwarten? An diesem Freitag wurden rechtliche, ethische, aber auch technische und gesellschaftliche Fragen zu dem Thema “KI und Datensicherheit” behandelt, das derzeit so viele Menschen beschäftigt.

Das Programm umfasste eine kurze Einführung ins Thema aus technischer und ethischer Sicht, einen Vortrag von Michael Furtlehner (HTL Ing. und Mag.jur.) und einer Abschlussdiskussion. Die Einführung und die Abschlussdiskussion fand in den einzelnen Klassen durch Lehrende der HTL statt. Der Vortrag war für alle gemeinsam in der Aula. 

Aber fragen wir einmal ChatGPT selbst was es dazu zu sagen hat: „KI-Modelle benötigen große Mengen an Daten, um zu lernen und Vorhersagen zu treffen. Als Anwender können Sie Ihre Daten zur Verfügung stellen und so zur Verbesserung von KI-Modellen beitragen. Dies kann beispielsweise durch Teilnahme an Datensammlungsprojekten, das Teilen von Feedback oder das Anbieten von Trainingsdaten erfolgen. Es ist wichtig, kritisch und verantwortungsbewusst mit KI umzugehen. Als Anwender können Sie KI-Systeme und -Anwendungen hinterfragen und ihre Ergebnisse überprüfen. Wenn Sie Bedenken hinsichtlich Datenschutz, Fairness oder Ethik haben, sollten Sie diese ansprechen und nach Lösungen suchen. Es ist entscheidend, die ethischen und rechtlichen Aspekte im Umgang mit KI zu beachten und sicherzustellen, dass der Einsatz von KI im Einklang mit den geltenden Vorschriften und Normen erfolgt.“ Diesen Tipp von ChatGPT haben wir an diesem Freitag aufgegriffen.

In der Einführungsphase wurde von Lehrerinnen und Lehrern mit den Schülerinnen und Schülern diskutiert welche KI-Programme sie kennen und was diese machen. Dabei wurden verschiedene Themen besprochen. Wie kann uns KI helfen: in der Medizin und dem Gesundheitswesen, bei der natürlichen Sprachverarbeitung​ sowie im Finanzwesen und im Handel. Aber auch Themen wie​ Bildung, Umwelt und Nachhaltigkeit wurden besprochen. KI beinhaltet aber auch Gefahrenpotential bzgl. ​ Datenschutz und Privatsphäre aber auch wegen verzerrter Entscheidungsfindung durch Diskriminierung aufgrund von Daten aus alten Datenbeständen.

Ein wichtiges Thema des Vortrages war auch die fehlende Kontrolle über die KI-Netzwerke. Die Menschen schwanken zwischen blindem Vertrauen und Angst bzw. Ignoranz im Verhältnis zu KI. Blindes Vertrauen zeigt sich bei der Navigation im Auto, das oft mit einer Katastrophe endet, Angst und Ignoranz bei der Wissenschaftsskepsis im Zuge der Corona-Krise. Dabei vergessen wir oft, dass unser Leben immer mehr von KI-Systemen beeinflusst wird. Es beginnt vor der Geburt und endet erst nach unserem Tod.

Europa ist mit der DSGVO bereits weiter als viele Länder der Erde: wir haben das Recht, nicht einer automatischen Entscheidungsfindung unterworfen zu sein. Im Vortrag wurde aber auch das Thema Haftung für KI angesprochen: wer haftet für Probleme, die ein KI-System verursacht? Dazu gibt es noch keine gesetzliche Regelung.

Die EU ringt derzeit mit einer KI-Strategie für die Union. Auf der einen Seite verliert die EU immer mehr an Boden im Bereich KI und andere Länder, wie USA und China, gewinnen immer mehr an Bedeutung. Auf der anderen Seite ist die Europäische Union ein Vorreiter bzgl. der Persönlichkeitsrechte im Hinblick auf die Anwendung von KI-Systemen.

Zum Abschluss wurde noch über praktische Probleme mit KI diskutiert, etwa: Darf das Ergebnis von KI-Systemen in einer Diplomarbeit der HTL verwendet werden? Antwort: ja, aber es muss gekennzeichnet werden welches Programm den Text verfasst hat. Oder: warum wissen wir nicht was ein neuronales Netz lernt, wenn wir es doch selbst programmieren? Antwort: das Gewicht der Verbindungen zwischen den Knoten, das anhand der Trainingsdaten festgelegt wird, kennen wir noch nicht. Leider auch die Knoten und die Verbindungen selbst auch nicht.

Zum Abschluss noch einmal ChatGPT auf die Frage, ob wir vor KI Angst haben müssen: „Die Frage, ob wir vor künstlicher Intelligenz (KI) Angst haben sollten, ist ein kontroverses Thema, das unterschiedliche Meinungen hervorruft. Angst vor KI ist nicht unbedingt gerechtfertigt, solange wir die Entwicklungen im Auge behalten, für einen verantwortungsvollen Umgang sorgen und die Technologie zu unserem Vorteil einsetzen. Die Schaffung von Richtlinien, die Förderung von Forschung und Entwicklung sowie eine breite öffentliche Diskussion tragen dazu bei, die Chancen von KI zu nutzen und gleichzeitig mögliche Risiken zu minimieren.“ 

Was wir hiermit getan hätten!

Autor: Peter Anzenberger 

Fotos von: Bastian Aichinger, 2C