Горелкин
Горелкин
1299 постов
Горелкин
Право знать, почему алгоритм сказал «нет»
Банк отказал в кредите. Причина: «решение принято автоматически». Всё. Точка. Ни объяснений, ни критериев, ни возможности оспорить. Считаю, что это неприемлемо — и должно быть исправлено законодательно. Что сейчас происходит? Алгоритмические системы принимают решения, которые напрямую влияют на жизнь людей: одобрить кредит или отказать, взять на работу или нет, включить в стоп-лист или пропустить. При этом человек остаётся один на один с результатом — без понимания, что именно сработало против него. Это не про технику. Это про базовые права гражданина. На мой взгляд, необходимо закрепить в российском законодательстве три вещи: 1️⃣ Право на объяснение — если решение принято алгоритмом и затрагивает права или финансовые интересы человека, он должен получить понятное обоснование: какие факторы учитывались, какой вес они имели. 2️⃣ Право на оспаривание — возможность потребовать пересмотра решения живым сотрудником, а не повторного прогона через ту же модель. 3️⃣ Ответственность оператора — компания, использующая алгоритм, несёт ответственность за его решения. «Так сказала нейросеть» — не оправдание. Это не против цифровизации. Автоматизация процессов — благо, она снижает издержки и ускоряет сервис. Но алгоритм не должен становиться щитом, за которым прячется безответственность. В РОЦИТ мы уже фиксируем обращения граждан именно по этой теме — количество растёт вместе с распространением ИИ-решений в финансовом секторе, страховании, найме. Запрос на регулирование есть, и он обоснован. Прорабатываем соответствующие законодательные инициативы. Пишите в личку, если сталкивались с подобным — реальные случаи помогают точнее формулировать нормы. ⚡️ МАХ-канал
2 мин · 1684 симв.
Ссылка скопирована