В британской государственной системе здравоохранения или в страховой фирме компьютер по возможности сведет затраты к минимуму, а задачей машины, созданной для фармацевтической компании, вероятно, станет продвижение определенного препарата.
Конечно, такие напряженные ситуации, как в уголовном судопроизводстве, в медицине возникают гораздо реже. Здесь нет обвинения и защиты. В системе здравоохранения все делается ради одной и той же цели — чтобы пациентам стало лучше. Но даже здесь конкретные задачи каждого участника процесса немножко отличаются.
В любой сфере жизни, куда внедряется алгоритм, всегда устанавливается некое равновесие. Между личным благом и общественным. Между личностью и обществом. Между разными задачами и приоритетами. Проложить путь в лабиринте преференций нелегко, даже когда впереди сияет путеводная звезда — эффективное, общедоступное здравоохранение.
Но еще труднее, если конкурирующие мотивы неочевидны. Если преимущества алгоритма переоценены, а риски неясны. Если вы не понимаете, чему можно верить, а чему нет и кто окажется в выигрыше от вашей доверчивости. Автомобили
В то памятное утро 13 марта 2004 года солнце едва вышло из-за горизонта, а посетители уже забили бар Slash X до отказа. Этот бар находится на окраине небольшого города Барстоу, расположенного между Лос-Анджелесом и Лас-Вегасом посреди пустыни Мохаве — неподалеку от места съемок того эпизода “Убить Билла 2”, в котором Ума Турман выбиралась из гроба>[214]>[215]. Обычно в Slash X собирались ковбои и любители погонять по бездорожью, но в тот весенний день сюда съехалась совсем другая публика. Временные трибуны, построенные рядом, заполнили инженеры с горящим взором, возбужденные зрители и безбашенные гонщики — их всех объединяла общая мечта. Все они хотели первыми воочию увидеть, как беспилотный автомобиль выиграет заезд.
Организатором гонок выступило Управление перспективных исследовательских проектов Министерства обороны США (US Defence Advanced Research Projects Agency, DARPA; отдел “сумасшедших ученых” Пентагона, как его называют>[216]). Это ведомство уже достаточно давно проявляло обоснованный интерес к беспилотным машинам, поскольку от придорожных фугасов и целевых ударов по военной технике гибло слишком много военнослужащих. Ранее в том же году DARPA объявило о намерении к 2015 году перевести на автономный режим треть транспортных средств, задействованных в сухопутных войсках США>[217]
