Diese Challenge zielt darauf ab, die Schwelle für nachhaltige und ethische KI in der Schweiz erheblich zu senken und gleichzeitig als Grundlage für internationale Anstrengungen in der verantwortungsvollen KI-Entwicklung (VV KI) zu dienen. Durch die gemeinnützige und open source Natur der Lösung soll Innovation nicht nur im Tech-Bereich, sondern auch in der gesellschaftlichen Praxis gefördert werden.

Unser Ziel ist der Förderung von Open-Source-Plattformen zur verantwortungsvollen und nachhaltigen Entwicklung, Nutzung und Regulierung von KI-Systemen im öffentlichen und privaten Sektor in der Schweiz. Wir bauen eine Tool, die Schritt-für-Schritt die Schweizer Unternehmen und Behörden unterstützt, ethische, nachhaltige und grundrechtskonforme KI-Systeme zu entwerfen, zu implementieren und zu evaluieren.

🅰️ℹ️ Generiert mit APERTUS-70B-INSTRUCT auf Basis von Welche KI wollen wir? (Positionspapier AlgorithmWatch CH)

Aktuelle Situation

Viele Unternehmen setzen KI-Systeme ein, ohne ausreichend auf Nachhaltigkeit und ethische Standards zu achten. Es fehlt an transparenten Standards und Werkzeugen für die Risikoabschätzung und Verantwortungssicherung. Die Schweizer AI-Initiative nennt die Notwendigkeit transparenter und nachhaltiger KI-Lösungen.

Aus der aktuelle Stand der Technik im Bereich Foundation Models, wissen wir dass Hauptanwendungen zielen auf Automatisierung und Prozessoptimierung, wobei Nachhaltigkeit und Verantwortung oft zweitrangig behandelt werden. Es gibt isolierte Ansätze zur CO2-Bilanzierung für KI-Systeme, aber keine umfassende Lösung zur systemischen Haltung von Nachhaltigkeit und ethischer Verantwortung.

Zukunftspotenzial

Die Plattform bildet die Basis für ein erweitertes Forschungsvorhaben zur Evaluation und Anpassung an Schweizer Policy-Anforderungen (z.B. Zusammenarbeit mit der Schweizer Regulierungsbehörde). Es gibt ein möglicher Anschluss an internationale Projekte zur verantwortungsvollen AI-Entwicklung, um globale Standards voranzutreiben und Schweizer Expertise zu positionieren. Gleichtzeitig, die konkrete Anleitungen zur Einhaltung des Schweizer Datenschutzrechts (DSG) und relevanter EU-Rechtsvorschriften werden eine diskussion und Übereinstimmung fördern mit diversen Schweizer AI-Initiativen und aktuellen politischen Richtlinien (z.B. Bundesrat KI-Strategie).

Aktivitäten

1. Recherche und Analyse:
   • Identifizierung von Best Practices für nachhaltige KI-Entwicklung (z.B. Energieeffizienz von Modellen, Material-Nutzung bei Hardware, Umgang mit Datenschutz).
   • Überprüfung aktueller regulatorischer Rahmenwerke (Schweiz, EU) und deren Umsetzung in der Praxis.
   • Auswahl von einem spezifischen Anwendungsfall (z.B. nachhaltige Automatisierung im öffentlichen Sektor).
2. Konzept und Design:
   • Entwicklung einer modularen, Open-Source-Plattform, die Unternehmen und Behörden bei der verantwortungsvollen KI-Entwicklung unterstützt:
     • Risiko- und Nachhaltigkeitsbewertungstool (z.B. CO2-Fussabdruck, Datenschutz, Diskriminierungsrisiken)
     • Werkzeuge zur Modelltransparenz und Erklärung der Entscheidungen
     • Template für Ethikabschätzungen und -richtlinien.
3. Proof-of-Concept:
   • Implementierung eines minimalen praktischen Demos für unser Anwendungsfall.
   • Testen der Plattform (mock data, eingeladene Experten, Vertreter aus dem öffentlichen Sektor).
   • Sammeln von Rückmeldungen, Anpassen und Verfeinern der Plattform möglich (z.B. über GitHub).

Ressourcen

• Nutzen der Plattform Hugging Face Model Hub oder vergleichbare Anbieter für gewisse Foundation Models, um die Funktionalität zu demonstrieren.
• Zugang zu einer nachhaltigen Cloud-Infrastruktur (z.B. via Swiss Data Science Center oder SWITCH) für die Entwicklung und Testen.
• Nutzung von Open Science Framework (OSF) zur offenen Dokumentation von Praktiken und Tools.

Eine Expert:in für Ethik und Governance wird dabei sein, um die rechtlichen und ethischen Aspekte zu gewährleisten (mit Kenntnissen der Schweizer Policy-Umgebung).

Siehe auch:

https://swissai.dribdat.cc/project/20