KI-Systeme vs. KI-Modelle

Ein KI-Modell ist der mathematische Kern eines KI-Systems. Es handelt sich um einen trainierten Algorithmus, der Daten verarbeitet, Muster erkennt und Vorhersagen trifft. Ein KI-System hingegen umfasst nicht nur das Modell, sondern auch die gesamte Software- und Hardware-Umgebung, die es ermöglicht, das Modell zu nutzen – einschließlich Benutzeroberfläche, Datenverarbeitung und Schnittstellen zu anderen Systemen. Wenn im Rahmen der Themenseite von einem KI-Tool oder (KI-gestützten) Chatbot die Rede ist, ist damit ein KI-System gemeint.

Generative KI

Generative KI ist eine spezielle Form von Künstlicher Intelligenz, die eigenständig neue Inhalte wie Texte, Bilder, Code oder Audio erzeugen kann. Sie basiert auf großen Sprachmodellen (Large Language Models; LLM) oder Bildmodellen, die Muster aus bestehenden Daten lernen und darauf aufbauend neue, plausible Ergebnisse generieren. Beispiele für generative KI sind KI-gestützte Chatbots wie ChatGPT, Gemini oder Claude für Texte und Code-Erstellung oder DALL·E und Midjourney für Bilder.

Statistische Programmiersprachen

Statistische Programmiersprachen sind speziell für die Analyse, Verarbeitung und Visualisierung von Daten entwickelte Programmiersprachen. Sie ermöglichen u. a. statistische Berechnungen, die Erstellung von Visualisierungen und die Automatisierung datenbezogener Prozesse. Die Nutzung generativer KI kann den Einstieg in die Entwicklung solcher Code-Skripte deutlich erleichtern. Entscheidender als tiefgehende Programmierkenntnisse ist dabei die Fähigkeit, dem KI-Tool die gewünschten Berechnungen, Änderungen an der Tabellenstruktur oder den Aufbau einer Visualisierung präzise und klar in natürlicher Sprache zu vermitteln. Für dieses sogenannte “Prompt Engineering” stellen wir auf der Unterseite Best Practice: Code-Entwicklung mit generativer KI anhand konkreter Anwendungsfälle zahlreiche Tipps bereit.

In der Praxis haben sich für entsprechende Einsatzzwecke vor allem die Programmiersprachen Python und R etabliert:

Python ist eine universelle Programmiersprache, die sich durch spezialisierte Bibliotheken – also Zusatzmodule mit Funktionen für bestimmte Aufgabenbereiche – wie pandas, numpy oder matplotlib zu einer leistungsstarken statistischen Programmiersprache erweitern lässt. R hingegen wurde speziell für statistische Analysen und grafische Darstellungen entwickelt und bietet eine Vielzahl integrierter Funktionen für die Datenanalyse.

Auf der vorliegenden Themenseite liegt der Fokus auf Python, die vorgestellten Ansätze und Best Practices lassen sich jedoch grundsätzlich auch auf R übertragen. In der Regel genügt es hierzu, dem Chatbot zu Beginn der Konversation ausdrücklich mitzuteilen, dass man in einer R-Umgebung arbeitet.

Um letztlich den mit KI-Unterstützung erstellten Python- oder R-Code ausführen und bearbeiten zu können, benötigen Sie ein entsprechendes Tool mit Benutzeroberfläche. Anwendungen wie Google Colab und Jupyter Notebook sind zwei Beispiele, auf die wir auch im Rahmen der Themenseite eingehen.

KI-Tools sind kein rechtsfreier Raum. Seit August 2024 hat die EU mit dem KI-Gesetz (Europäisches Parlament 2023) erstmals ein Regelwerk zum Umgang mit KI verabschiedet. Für die kommunale Nutzung, insbesondere im Zusammenhang mit der Verarbeitung personenbezogener Daten, ist weiterhin die DSGVO maßgebend. Zu einem datenschutzkonformen Einsatz von KI-Systemen finden sich zahlreiche Leitfäden im Internet. Exemplarisch sei hier die Orientierungshilfe der Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (Datenschutzkonferenz 2024) genannt.

Da kommerzielle KI-Tools meist alle Eingaben der Nutzer*innen auf externen, mitunter außereuropäischen Servern speichern und verarbeiten, sollten sich Kommunen intern auf Nutzungsszenarien und Verhaltensregeln verständigen sowie sich über Möglichkeiten zum Abschluss von Auftragsverarbeitungsverträgen oder ähnlichen datenschutzfreundlichen Regelungen der Anbieter informieren, bevor KI-Systeme genutzt werden. Je nach Tarif und Anbieter kann auch eine (kostenpflichtige) Option zur Verfügung stehen, über die sich ausschließen lässt, dass die eingegebenen Daten dauerhaft gespeichert und zum Training der KI-Modelle genutzt werden. Ergänzend gilt: Solange keine abweichenden Regelungen getroffen wurden, sollten grundsätzlich keine personenbezogenen Daten in KI-Systeme eingegeben werden. Für die meisten Aufgaben im Bildungsmonitoring ist dies ohnehin nicht erforderlich.

Eigene KI-Systeme, wie sie in München und Hamburg genutzt werden, bieten die größtmögliche Kontrolle in den Bereichen Datenschutz und Sicherheit – sind aber mit erheblichem Aufwand verbunden, was die Bereitstellung und Wartung der technischen Infrastruktur, die Schulung von Mitarbeitenden oder die kontinuierliche Überprüfung und Einhaltung rechtlicher Vorgaben betrifft. Stehen diese Ressourcen nicht zur Verfügung, gibt es trotzdem Mittel und Wege, datenschutzkonform mit KI-Tools zu arbeiten, beispielsweise durch die Anonymisierung und Pseudonymisierung aller Dateneingaben. Bei einer Anonymisierung werden personenbezogene Daten so verändert oder entfernt, dass sie einer Person nicht mehr zugeordnet werden können. Eine Pseudonymisierung ersetzt personenbezogene Daten durch einen Code oder ein Pseudonym, sodass die Identität nur mit zusätzlichen Informationen rekonstruiert werden kann.