Vorteile der künstlichen Intelligenz nutzen

Eine breit abgestützte Arbeitsgruppe (AG AI) aus Fachleuten und Vertretern der Direktionen und Ämter bringt seit August 2024 das Thema KI im Kanton Bern voran. Ihr Ziel ist es, sich darüber klar zu werden, wo und wie KI helfen kann. Die AG KI soll Grundlagen erarbeiten, Synergien zwischen den verschiedenen Vorhaben erschliessen, den Überblick über Projekte behalten und konkrete Empfehlungen ausarbeiten – zum Beispiel, wie KI-Tools im Arbeitsalltag genutzt werden können.


Eine sichere Plattform mit spezifischer Hardware
Damit KI-Tools nicht nur klug, sondern auch sicher genutzt werden können, braucht es eine technische Infrastruktur, die den Bestimmungen des Datenschutzes entspricht. Hier kommt die Bedag ins Spiel – die IT-Dienstleisterin des Kantons Bern. In ihrem Rechenzentrum baut die Bedag aktuell eine sichere On-Premise-Plattform auf, die über die notwendigen, spezialisierten Rechenleistungen für den Betrieb von KI-Applikationen verfügen wird.

Bei der Verarbeitung von KI-Workloads spielen insbesondere Grafikprozessoren (GPUs, Graphics Processing Units) eine Rolle. GPUs, wie beispielsweise die von NVIDIA, sind darauf ausgelegt, parallele Berechnungen durchzuführen und bieten die enorme Rechenleistung, die für das Training und die Ausführung von KI-Modellen erforderlich ist. Die Bedag startet mit ihrer On-Premise-Infrastruktur vorerst auf einem kleineren, aber gut skalierbaren und ausbaufähigen Nutanix-Cluster. Wird mehr Rechenleistung benötigt, wie zum Beispiel für das Training von Large Language Models (LLMs), kann die Bedag zusätzliche «Power» auf der Swiss AI Platform der Swisscom abrufen, die über bis zu 40 ExaFlops KI-Rechenleistung verfügt.

Mit diesem hybriden Vorgehen bietet die Bedag den Kunden die gewohnten Servicelevels mit Bedag-Grundschutz – auch für Applikationen, die auf modernen KI-Technologien aufbauen. Dies unter Einhaltung der Datenschutzanforderungen des Kantons Bern – insbesondere zur Sicherstellung der Datenhoheit und der Informationssicherheit. Zum Beispiel ist aktuell bereits ein Service für die Justizdirektion produktiv im Einsatz. Dieser ermöglicht es, Vernehmungen mittels Audiotranskription zu protokollieren. Solche sensiblen Daten bleiben geschützt, und die Gefahr von Fremdzugriffen wird minimiert.


Die Bedag entwickelt Sicherheitssoftware für den Umgang mit KI-Tools
Die On-Premise-Plattform dient der Bedag aber auch als Plattform für Sandboxing (isoliertes Testen neuer Modelle) sowie für eigene KI-Entwicklungen. Auch auf einer sicheren und isolierten Plattform verlangt der Einsatz von KI-gestützter Text- und Informationsverarbeitung Massnahmen zur Gewährleistung der Informationssicherheit und des Datenschutzes. Insbesondere für Ämter mit hohem Schutzbedarf (Sozialdienste/KESB, Rechtspflege, Blaulichtorganisationen, Steuerbehörden usw.) entwickelt die Bedag einen «Bedag-Informationsschutz-Service». Diese KI-unterstützte Software umfasst einen Schutzbedarfsassistenten, einen Datenschutzservice und einen Verifikationsservice:

• Der Schutzbedarfsassistent erkennt automatisch Inhalte mit Schutzbedarf und schlägt eine korrekte Klassifikation vor.