Банк отказал в кредите. Причина: «решение принято автоматически». Всё. Точка. Ни объяснений, ни критериев, ни возможности оспорить.
Считаю, что это неприемлемо — и должно быть исправлено законодательно.
Что сейчас происходит? Алгоритмические системы принимают решения, которые напрямую влияют на жизнь людей: одобрить кредит или отказать, взять на работу или нет, включить в стоп-лист или пропустить. При этом человек остаётся один на один с результатом — без понимания, что именно сработало против него.
Это не про технику. Это про базовые права гражданина.
На мой взгляд, необходимо закрепить в российском законодательстве три вещи:
1️⃣ Право на объяснение — если решение принято алгоритмом и затрагивает права или финансовые интересы человека, он должен получить понятное обоснование: какие факторы учитывались, какой вес они имели.
2️⃣ Право на оспаривание — возможность потребовать пересмотра решения живым сотрудником, а не повторного прогона через ту же модель.
3️⃣ Ответственность оператора — компания, использующая алгоритм, несёт ответственность за его решения. «Так сказала нейросеть» — не оправдание.
Это не против цифровизации. Автоматизация процессов — благо, она снижает издержки и ускоряет сервис. Но алгоритм не должен становиться щитом, за которым прячется безответственность.
В РОЦИТ мы уже фиксируем обращения граждан именно по этой теме — количество растёт вместе с распространением ИИ-решений в финансовом секторе, страховании, найме. Запрос на регулирование есть, и он обоснован.
Прорабатываем соответствующие законодательные инициативы. Пишите в личку, если сталкивались с подобным — реальные случаи помогают точнее формулировать нормы.
⚡️ МАХ-канал