Управление городами с ИИ: ООН представила новые стандарты контроля алгоритмов

Не роботы и дроны: как переосмысливают управление городами

Для жителя важен не отдельный робот или дрон, а ответ на вопрос: кто отвечает за алгоритм, как проверяются его данные и когда систему следует остановить.

По данным источника, в городских администрациях уже используются чат-боты для обращений жителей, алгоритмы для выбора дорог к ремонту и программные системы для административных решений. Параллельно возникают риски предвзятости, нарушения приватности, ущемления прав и размывания ответственности.

Четыре правила городского ИИ

Инструмент United for Smart Sustainable Cities переводит международные стандарты и принципы ответственного ИИ в практические правила работы городских служб.

1. Начинать с городской проблемы, а не с технологии. Сначала определяется, какой сервис или управленческий дефицит необходимо устранить.

2. Оставлять публичные решения под значимым человеческим контролем. Алгоритм не должен подменять ответственное лицо.

3. Усиливать защитные меры по мере роста потенциального воздействия. Чем серьёзнее последствия ошибки, тем строже должны быть проверки.

4. Признавать отказ от ИИ ответственным результатом. Если технология не даёт нужного эффекта, её использование можно прекратить.

Запуск приурочен к десятилетию инициативы U4SSC. Программу координируют ITU, UN-Habitat и Экономическая комиссия ООН для Европы, при поддержке 19 других агентств и программ ООН.

Пять вопросов до запуска проекта

Toolbox предлагает проверять системный проект на всех этапах жизненного цикла.

1. Какую городскую проблему пытается решить проект?

2. Кто получит выгоду, а кто может понести вред?

3. Как будет контролироваться работа приложения?

4. Кто отвечает за принятые решения?

5. Когда город должен изменить курс или остановить систему?

Отдельный акцент инструмент делает на данных. Mirage News сообщает о проблемах с их неполнотой и о рисках для приватности. UN-Habitat также требует учитывать интересы жителей неформальных поселений и других недостаточно обслуживаемых районов. Формально сильный ИИ может работать на неполных или смещённых данных, поэтому контроль важнее демонстрации технологичности.

Практическая проверка для жителя

По логике toolbox городской житель может задавать четыре вопроса:

• Какую конкретную услугу улучшает алгоритм?
• Кто проверяет его решения и данные?
• Предусмотрена ли защита от предвзятости и нарушения приватности?
• Может ли город изменить или прекратить работу системы?

The New Barcelona Post рассматривает на Smart City Expo переосмысление городов за пределами роботов и дронов. Firehouse.com публикует смежный тезис: в умных городах пожарным руководителям нужна более высокая квалификация. Доступные фрагменты не раскрывают деталей этих публикаций.

Главный критерий прост: у цифровой системы должны быть городская проблема, контроль, назначенный ответственный и возможность остановить её. Технология сама по себе не заменяет управленческое решение.