Google представляет рамки для обеспечения более безопасного и полезного ИИ в здравоохранении

Image: Google · Source

Google делится комплексными рамками оценки ИИ в здравоохранении, сосредоточенными на точности, безопасности и полезности для формирования доверительных медицинских ИИ-инструментов.

Google представил подробные рамки, направленные на создание более безопасных и полезных приложений искусственного интеллекта в здравоохранении. По мере того как технологии ИИ всё больше внедряются пациентами и клиницистами, критически возрастает необходимость в строгой оценке этих инструментов. Рамки Google охватывают систематическую оценку моделей ИИ по трем важным параметрам: точность, безопасность и полезность.

Компания сотрудничала с экспертами в области здравоохранения доктором Элизабет МакГлинн и доктором Даной Гелб Сафран для разработки комплексного подхода к оценке, который сочетает несколько методов проверки. В их числе базовые тесты с закрытыми вопросами, автоматические оценщики и экспертные обзоры, направленные на выявление как типичных, так и высокорисковых сценариев в здравоохранении, где могут применяться инструменты ИИ.

Руководитель клинической оценки Google, доктор Сара Монтгомери-Тейлор, отметила, что этот подход уже используется внутри компании для проверки того, что системы ИИ предоставляют надёжные и безопасные ответы в медицинских контекстах. Открытое распространение методологии оценки направлено на повышение прозрачности при внедрении ИИ в здравоохранение.

Эта инициатива призвана поддержать всю экосистему здравоохранения — разработчиков, исследователей и медицинских специалистов — в создании ИИ-решений, которым могут доверять пациенты и поставщики услуг. Рамки представляют собой шаг к более ответственному и этичному использованию технологий ИИ в медицине, поскольку их применение продолжает быстро распространяться по всему миру.

Белая книга, опубликованная Google, подробно описывает эти рамки и служит ресурсом для всех, кто участвует в разработке или оценке медицинских ИИ-инструментов. Это отражает признание отраслью уникальных вызовов, которые создают приложения ИИ, напрямую связанные с жизнью и здоровьем людей.

Действия Google дополняют более широкие усилия по установлению стандартов и лучших практик, чтобы обеспечить ответственное внедрение инноваций ИИ в здравоохранении с приоритетом на безопасность пациентов и клиническую эффективность. Хотя сами рамки не гарантируют безупречность систем ИИ, они устанавливают структурированный, многоаспектный процесс критической оценки таких инструментов до и в ходе их реального использования.