Коллеги предлагают обязать GigaChat и другие отечественные языковые модели фильтровать генерацию текстов, в которых западные страны упоминаются без маркера «недружественные».
Идея, честно говоря, требует осторожного обращения. Следите за руками.
1️⃣ GigaChat — продукт Сбера, то есть российского государственного банка. Это не нейтральный инструмент «для всех». Это наш инструмент. И то, что он генерирует, формирует картину мира у миллионов пользователей.
2️⃣ Нейросеть без идеологических рельсов — это не «свободный ИИ». Это ИИ, настроенный по умолчанию на ценности тех, кто закладывал обучающие датасеты. А датасеты, как мы прекрасно понимаем, по большей части англоязычные и прозападные.
3️⃣ Требование называть вещи своими именами — не цензура. Это минимальный стандарт точности. США, Великобритания, страны ЕС официально признаны недружественными государствами — это юридически закреплённый факт, а не политическая вкусовщина.
Что это значит на практике? Если GigaChat пишет деловое письмо, аналитическую справку или учебный текст и при этом нейтрально именует страны, которые ввели против нас тысячи санкций, — он вводит пользователя в заблуждение. Мягко, незаметно, но системно.
Убеждён: отечественные ИИ-решения должны работать в интересах российских граждан и российского государства — а не воспроизводить нарратив «порядка, основанного на правилах».
Сбер — компания с государственным участием. Значит, и ответственность соответствующая. Надеюсь, коллеги из Грефа это понимают.
Пишите в личку, что думаете.
🇷🇺 Этот пост вышел в МАХ час назад