Hello World. Как быть человеком в эпоху машин | страница 73
Первоклассные специалисты, которые решили разобраться в бессистемной мешанине данных по здравоохранению, нашлись не только в IBM. В 2016 году компания DeepMind, которая занимается искусственным интеллектом под эгидой Google, заключила контракт с лондонским филиалом Государственной службы здравоохранения Великобритании (Royal Free NHS Trust). В распоряжение DeepMind предоставили медицинские данные из трех городских больниц, а за это компания должна была создать приложение, которое помогло бы врачам диагностировать острую почечную недостаточность. Поначалу предполагалось, что умный алгоритм машинного обучения поможет лечить людей, но для достижения этой цели не хватило полноценных сведений, и исследователям пришлось умерить свои амбиции и упростить задачу.
В ходе совместной деятельности DeepMind и медицинского ведомства возникли трудности не только чисто практического свойства, но и куда менее однозначные. Исследователи обещали только предупреждать докторов об острых заболеваниях почек, но у Государственной службы здравоохранения не нашлось конкретных данных по почечным болезням. Поэтому DeepMind получила доступ ко всей информации — к историям болезни 1,6 миллиона пациентов за истекшие пять лет.
Вроде бы, имея такой колоссальный объем информации, можно было бы спасти огромное множество жизней. Каждый месяц от острой почечной недостаточности умирает тысяча человек, и DeepMind, обладая данными за длительный период, могла бы выявить в прошлом важные тенденции. Кроме того, поскольку острые заболевания почек чаще встречаются у людей с сопутствующими патологиями, обширный набор данных существенно облегчил бы поиск характерных признаков и ниточек, которые позволят дать прогноз на будущее для пациента.
Однако общество встретило новость о проекте отнюдь не радостными возгласами, а негодованием, и вполне обоснованным. То, что DeepMind завладела всем архивом данных, означало буквально следующее: компании сообщили, кто и когда лежал в больнице; кто посещал больных; раскрыли результаты гистологических исследований и заключения рентгенологов; сообщили, кто делал аборт, лечился от депрессии, даже у кого нашли ВИЧ. А что хуже всего — никто не спросил пациентов, не против ли они, у них не было шанса отказаться от участия в проекте, им вообще не сказали, что они задействованы в исследовании>[197].
Следует уточнить, что Google не имел права использовать эту информацию в каких-либо иных целях. Да и, честно говоря, — интернет-гигант гораздо больше преуспел в защите данных, чем Государственная служба здравоохранения, в лечебных учреждениях которой в 2017 году зависли компьютеры, потому что на них все еще стояла