Свинец — опасный нейротоксин, негативно влияющий на развитие мозга детей . В 1960-х годах начался постепенный отказ от использования свинца в красках, а в 1970-х — в бензине. Большинство свинцовых красок были заменены. Автомобили, работавшие на этилированном бензине, сняты с производства. Эти меры улучшили здоровье миллионов людей во всем мире. Сегодняшний материал не только об экологии. Но и о том, как ИИ влияет на решения людей.
Предыстория
В 1986 году в США был введен запрет на использование свинца в системах питьевой воды; правда, не распространявшийся на уже установленные трубы. Они могли служить сто лет без необходимости замены и все это время вредить здоровью людей. В городе Флинт встал вопрос о замене коммуникаций. Проблема была в том, что городские власти не знали, какие трубы свинцовые, а какие нет. Проверять каждую по отдельности было дорого.
Профессора Мичиганского университета Эрик Шварц и Джейкоб Абернети взялись решить эту задачу. Вместе с группой исследователей ученые задались целью предсказать, в каких трубах может содержаться свинец. Они успешно создали ИИ, который внедрили в городском хозяйстве Флинта. Город проверял наличие свинца в трубах только в тех домах, где, согласно прогнозам, имелась такая вероятность.
Конфликт
Тем не менее некоторые горожане были недовольны. Например, прогноз показывает, что, возможно, только в одном квартале проложены свинцовые трубы (вероятно, потому, что дома там более старые). Однако начинают волноваться и жители соседних кварталов. В некоторых районах, особенно бедных, вероятность проверки труб на наличие свинца была выше, чем в более благополучных секторах. Люди из зажиточных районов были возмущены тем, что не у них провели проверку в первую очередь.
Мэр Флинта привлек нового подрядчика и потребовал от него раскопать водопровод в разных частях города и в каждом доме, не принимая во внимание предложенный машиной прогноз.
Хотя многие жители теперь были уверены, что в их домах нет свинцовых труб, дальнейшие работы застопорились. ИИ дал отличный прогноз, но решение принималось по политическим мотивам. По словам нового руководителя проекта, администрация «не хотела объяснять членам совета, почему в их округе не ведутся работы» и «город решил, что без внимания не должен остаться ни один человек» . При этом жители некоторых районов удостоверились, что водопровод безопасен, однако в Пятом округе было проведено меньше всего раскопок, хотя там, согласно ИИ, в 80% домов были проложены свинцовые трубы.
Но на этом история не закончилась. Вскоре суд США обязал городские власти использовать прогнозы Шварца и Абернети, устранил политические мотивы принятия решения и сформулировал предварительное суждение. По сути, суд признал одинаково необходимым заменить трубы со свинцом в каждом городском округе и в каждом районе. Устанавливался один критерий — вероятность наличия свинца. Коэффициент успешности прогнозов быстро вырос до 70%, и у тысяч жителей Флинта также выявили и заменили свинцовые трубы.
В настоящее время их решение можно купить у коммерческой компании. Около пятидесяти городов используют эти прогнозы, чтобы сэкономить на выявлении и замене свинцовых труб в миллионах домов .
Право принимать решения
Здесь интересно то, как появление новой прогнозной машины вызвало борьбу за право принимать решения. Политики Флинта отказались от прогнозов, оказавшихся для них неудобными. Другие признали, что прогнозы улучшают жизнь только при равноценном отношении к каждому домохозяйству. В ходе судебного урегулирования было предварительно вынесено суждение. В итоге было передано право на принятие решения. Городские политики потеряли свободу действий, и возобладала централизованная система.
Подрывные инновации нередко приводят к появлению как победителей, так и проигравших. Потерпеть поражение могут целые подразделения организаций — например, франчайзи Blockbuster, которые выступали против потокового видео. Компания не решилась на внутренние изменения, и в результате экономическая власть перераспределилась.
Но эта власть неразрывно связана с теми, кто отвечает за решения. Во Флинте ИИ потенциально отбирал право решения у политиков и те противились машинному прогнозированию из-за предполагаемой угрозы потерять влияние. Чтобы устранить трения, пришлось вернуть полномочия чиновникам. Таким образом, замена тех, кто принимает решения, влияет на распределение власти, а это само по себе может вызвать сопротивление внедрению новых систем.
Купить книгу: МИФ / Ozon / Читай-город
