Wissenschaftliche Vorbereitung eines LLMs für die öffentliche Verwaltung

Dieser Bericht ist die Zusammenfassung der Ergebnisse des Projektes „Wissenschaftliche Vorbereitung eines LLMs für die öffentliche Verwaltung“. Das Projekt wurde im Rahmen des Calls „AI Ökosysteme2025: AI for Tech & AI for Green“ Förderprojekt („F&E Dienstleistung“) auf Initiative von und finanziert durch das BMIMI über die Österreichische Forschungsförderungsgesellschaft (FFG) ausgeschrieben. Die Auswahl erfolgte durch eine internationale Fachjury.

Ziel der F&E-Dienstleistung war es, „die Voraussetzungen zu schaffen, damit externe Prozesse sachlich fundiert vorbereitet und bei Bedarf angestoßen werden können. Mit dieser Forschungs- und Entwicklungsdienstleistung soll eine tragfähige Wissensbasis geschaffen werden, die öffentliche Stellen in ihrer Entscheidungsfindung zu einem möglichen Bundes-LLM fachlich unterstützt. Sie dient der konzeptionellen Vorbereitung eines potenziellen Anwendungsbereichs von Künstlicher Intelligenz im öffentlichen Sektor, wobei insbesondere das Zusammenspiel mit öffentlich verfügbaren Daten im Mittelpunkt steht.

Im Rahmen des Projektes befasste sich ein Konsortium von Expert:innen aus KI-Forschung und -anwendung, Recht, Ethik und Umweltverträglichkeitsprüfung mit der Analyse der Anforderungen und Erwartungen an den Einsatz von KI in der öffentlichen Verwaltung und damit verbundenen technischen und strategischen Realisierungsperspektiven von KI-basierten Systemen. Die Analysen reichten von der Einbindung bestehender LLMs in größere Anwendungssysteme über Modelladaptierung und Wissensdestillation bis hin zum Training eines eigenen österreichischen LLMs von Grund auf (Foundation Model Training). Dabei wurden rechtliche, ethische und ökologische Aspekte diskutiert, in Ergänzung zu den technischen Realisierungsmöglichkeiten, den benötigten Daten und Expertisen, sowie den erforderlichen Human-, Soft- und Hardwareressourcen für Entwicklung und Betrieb der Systeme.

Alle Projektinformationen und den Ergebnisbericht finden Sie auf der Website der FFG