Implementome logo

EmpAIth Assurance Framework (EAF™) (Clinician-Led Governance Model for Behavioral-Health Artificial Intelligence)

Исходный язык: Английский
Cover image
Целевая группа населения
Взрослые (18+) , +3
Бенефициары1 - 50
ДоказательстваОба
Дата начала2025/07
Дата окончанияВ процессе
ЭтапПилотный проект/тестирование/испытания
Страна
Соединенные Штаты Америки
Покрытие
Международный
Количество мест, где реализован проект
1
Ведущая организация
Партнеры по реализации
N/A

Область здравоохранения
Психическое здоровье
Первичная медико-санитарная помощь
Укрепление здоровья
Другие
Услуги
Телемедицина
Готовность к чрезвычайным ситуациям и реагирование на них
Технологии
Другие
Искусственный интеллект
Стандарты
XDS - межкорпоративный обмен документами
ATNA - журнал аудита и аутентификация узлов
SNOMED
PII
CDA - архитектура клинических документов
HL7 v3
ISO 3166
ICD-11
Инструменты
N/A
Источники финансирования
Частные фонды
Бизнес-модель
Другие
Плата за пользование / оплата за использование
Монетизация данных
ФиСпонсоры
N/A
Резюме
EmpAIth Assurance Framework (EAF™) - это одобренная IRB модель управления, которая устанавливает измеримые клинические, этические и нормативные стандарты для систем искусственного интеллекта в области поведенческого здоровья. Разработанная под надзором IRB WCG (протокол CC-2025-001), EAF™ предлагает структурированную рубрикацию и методологию аудита для оценки инструментов искусственного интеллекта, используемых в области психического здоровья и психосоциальной поддержки. Она соответствует требованиям профессиональной этики и защиты данных и включает в себя рекомендации NIST AI RMF (2023) и EU AI Act (2024) по десяти проверяемым областям управления, таким как клиническая достоверность, предвзятость и справедливость, обнаружение и реагирование на кризисные ситуации, а также приватность и конфиденциальность. Внедряя надзор лицензированных врачей, EAF™ способствует созданию надежной системы, в которой человек находится внутри контура, повышая безопасность пользователей, культурную восприимчивость и готовность к регулированию. Она подходит для использования министерствами здравоохранения, исследовательскими институтами и разработчиками, которые ищут надежные, проверенные врачами цифровые технологии в области психического здоровья. Рамочная программа направлена на расширение масштабов модели управления ИИ под руководством врачей, одобренной IRB, в которой особое внимание уделяется безопасности, прозрачности и подотчетности технологий в области поведенческого здоровья, а также на обучение клинических рецензентов по всему миру и приведение политики в соответствие с этическими нормами ВОЗ в области ИИ и стандартами цифрового здравоохранения. Целевыми группами являются медицинские работники, взрослые, подростки и дети.
Ключевые слова
Психическое здоровье
Искусственный интеллект
Здоровье новорожденных
Инициативы в области цифрового здравоохранения
Цифровые решения для здравоохранения
Публикации
EmpAIth Assurance Framework (EAF™): Модель управления ИИ в поведенческом здравоохранении под руководством клиницистов
Выводы - Полученные знания
Проблемы
• Отсутствие существующих рамок аудита ИИ клинического уровня: на момент внедрения существовало лишь несколько стандартизированных или валидированных инструментов управления ИИ в сфере психического здоровья, что создавало трудности при проведении сравнительного анализа и обеспечении соответствия глобальным нормативным требованиям. • Технические различия между системами ИИ: инструменты ИИ в сфере психического здоровья значительно различаются по архитектуре, источникам данных и степени зрелости моделей, что требовало адаптируемой логики оценки и гибких схем оценки. • Недостаточная осведомленность заинтересованных сторон о вопросах управления ИИ: Многие клиницисты, администраторы и лица, принимающие решения, имели ограниченный опыт работы со структурированными процессами аудита ИИ, что требовало дополнительных разъяснений, обучения и наращивания потенциала. • Меняющийся нормативный ландшафт: Быстрые изменения в NIST, Законе ЕС об ИИ и руководствах ВОЗ требовали постоянных обновлений, чтобы система соответствовала самым актуальным стандартам. • Чувствительность данных, связанных с психическим здоровьем: Психологические и поведенческие данные представляют повышенные этические риски, что требует строгих мер по обеспечению конфиденциальности, безопасности и секретности во время валидации.
Рекомендации
Положительные факторы: • Надзор со стороны комитета по этике (IRB) и структурированная методология (WCG IRB CC-2025-001) укрепили доверие, повысили прозрачность и способствовали принятию системы ранними пользователями. • Разработка под руководством клиницистов укрепила доверие пользователей, обеспечив соответствие критериев реальным потребностям в области медицинской помощи и безопасности. • Прозрачная документация и практики открытой науки (DOI в Zenodo) ускорили процесс внешней экспертизы и цитирования, способствуя масштабируемости и воспроизводимости результатов. • Соответствие международным стандартам (NIST AI RMF, Закон ЕС об ИИ, руководящие принципы ВОЗ) способствовало быстрой интеграции в экосистемах здравоохранения. Рекомендации: • Инвестировать в наращивание потенциала врачей и заинтересованных сторон для обеспечения безопасного и осознанного внедрения систем ИИ в сфере психического и поведенческого здоровья. • Поддерживать процесс управления с постоянным обновлением, чтобы оставаться в соответствии с меняющимися международными нормами и ожиданиями в области безопасности. • Применять EAF™ в качестве многоразового инструмента аудита для больниц, программ цифрового здравоохранения и глобальных организаций здравоохранения с целью укрепления системы обеспечения качества. • Содействовать практикам открытой науки, сопровождая каждый аудит прозрачной документацией, воспроизводимой методологией и общедоступными дополнительными материалами. • Уделять приоритетное внимание системам ИИ с высоким уровнем риска (психическое и поведенческое здоровье, выявление кризисных ситуаций, уязвимые группы населения), чтобы обеспечить максимальный немедленный эффект в плане безопасности.
Рекомендации
Проекты, использующие аналогичные сервисы
Проекты, посвященные схожим темам
Projects with similar insights
Есть дополнительные вопросы?
iDHA (ID проекта)
ykjoan
Ссылки на проект
https://empaith.com
Источник информации
Публичный отчет
Ссылка на источник данных
https://doi.org/10.5281/zenodo.17489429
Добавлено на платформу
2025-11-13
Редакторы проекта
N/A
Последнее обновление от
Alexis Baudin on 2025-11-19
Количество просмотров
55
Классификации ВОЗ
WHO LogoGeneva Digital Health Hub Logo