• Fehlen bestehender Audit-Rahmenwerke für KI im klinischen Bereich: Zum Zeitpunkt der Umsetzung gab es nur wenige standardisierte oder validierte Governance-Instrumente für KI im Bereich der Verhaltensgesundheit, was Herausforderungen beim Benchmarking und bei der Anpassung an globale regulatorische Erwartungen mit sich brachte. • Technische Unterschiede zwischen KI-Systemen: KI-Tools für die Verhaltensgesundheit unterscheiden sich erheblich in Bezug auf Architektur, Datenquellen und Modellreife, was eine anpassungsfähige Bewertungslogik und flexible Bewertungswege erforderte. • Begrenzte Vertrautheit der Beteiligten mit KI-Governance: Viele Kliniker, Verwaltungsfachleute und Entscheidungsträger hatten nur begrenzte Erfahrung mit strukturierten KI-Auditprozessen, was zusätzliche Erklärungen, Schulungen und den Aufbau von Kapazitäten erforderte. • Sich wandelndes regulatorisches Umfeld: Rasche Veränderungen im Zusammenhang mit dem NIST, dem EU-KI-Gesetz und den WHO-Leitlinien erforderten kontinuierliche Aktualisierungen, um das Rahmenwerk mit den aktuellsten Standards in Einklang zu halten. • Sensibilität von Daten im Bereich der psychischen Gesundheit: Psychologische und verhaltensbezogene Daten bergen erhöhte ethische Risiken, was strenge Datenschutz-, Sicherheits- und Vertraulichkeitsvorkehrungen während der Validierung erforderlich macht.

Positive Einflussfaktoren: • Die Aufsicht durch die Ethikkommission (IRB) und die strukturierte Methodik (WCG IRB CC-2025-001) stärkten das Vertrauen, die Transparenz und die Akzeptanz bei den ersten Anwendern. • Die von Klinikern geleitete Entwicklung stärkte das Vertrauen der Anwender und stellte sicher, dass die Kriterien auf die tatsächlichen Versorgungs- und Sicherheitsanforderungen abgestimmt waren. • Transparente Dokumentation und Open-Science-Praktiken (Zenodo-DOIs) beschleunigten die externe Begutachtung und Zitierung und förderten damit die Skalierbarkeit und Reproduzierbarkeit. • Die Angleichung an internationale Standards (NIST AI RMF, EU-KI-Gesetz, Leitprinzipien der WHO) erleichterte die schnelle Integration in verschiedene Gesundheitsökosysteme. Empfehlungen: • Investieren Sie in den Kapazitätsaufbau bei Klinikern und Interessengruppen, um eine sichere und fundierte Einführung von KI-Systemen in der psychischen und verhaltensbezogenen Gesundheit zu gewährleisten. • Pflegen Sie einen kontinuierlich aktualisierten Governance-Prozess, um mit sich weiterentwickelnden internationalen Vorschriften und Sicherheitserwartungen Schritt zu halten. • Setzen Sie das EAF™ als wiederverwendbares Audit-Tool für Krankenhäuser, digitale Gesundheitsprogramme und globale Gesundheitsorganisationen ein, um die Qualitätssicherung zu stärken. • Fördern Sie offene Wissenschaftspraktiken, indem Sie jedes Audit mit transparenter Dokumentation, reproduzierbarer Methodik und öffentlich zugänglichen Begleitmaterialien verbinden. • Priorisieren Sie zunächst KI-Systeme mit hohem Risiko (Verhaltensgesundheit, Krisenerkennung, gefährdete Bevölkerungsgruppen), um die unmittelbaren Auswirkungen auf die Sicherheit zu maximieren.