Этот ИИ может предсказать смерть, но его создатели не могут объяснить как

Исследователи из Пенсильвании, работающие в сфере здравоохранения, создали искусственный интеллект, предсказывающий, какие пациенты подвержены более высокому риску смерти в течение следующего года.

Они загрузили данные 1,77 миллионов электрокардиограмм (ЭКГ) от 400 000 пациентов, чтобы выявить закономерности, которые могут указывать на будущие проблемы с сердцем, включая сердечные приступы и мерцательную аритмию.

Результаты были впечатляющими и немного пугающими. По словам исследователей, модель ИИ показала лучшие результаты, чем существующие методы, при различении пациентов, которые умрут в течение года, и тех, кто выживет.

ИИ даже выявил проблемы с сердцем у пациентов, которые ранее были вылечены кардиологами.

«Это открытие предполагает, что искусственный интеллект видит то, что люди не могут видеть, или просто игнорируют и думают, что это нормально», — говорит Брэндон Форнвальт, ведущий автор исследования. «ИИ потенциально может научить нас вещам, которые мы неправильно истолковывали десятилетиями».

Это не единственная попытка использовать возможности машинного обучения для предсказания смерти. В прошлом году исследователи из Google в Маунтин-Вью, штат Калифорния, создали прогностическую модель, использующую электронные медицинские карты для прогнозирования продолжительности пребывания пациента и времени выписки, а также времени смерти.

Модели ИИ также использовались для диагностики заболеваний сердца и рака легких — в некоторых случаях точнее, чем у врачей.

Но есть один главный недостаток ИИ: создатели не могут объяснить, как он работает. И это заставляет профессионалов беспокоиться о том, чтобы делать какие-либо определения на основе таких алгоритмов.