Жителей России предупредили о рисках внедрения ИИ в социальную поддержку

Россиян предупредили о возможных сбоях при автоматизированном назначении пособий. Эксперты настаивают, что окончательное решение о выплатах должно оставаться за человеком.

Идея использования искусственного интеллекта для оценки права на социальную поддержку своевременна, но требует осторожности. Эксперт по социально-экономической политике Яков Якубович в разговоре RuNews24.ru отметил, что с 2025 года Социальное казначейство Москвы применяет ИИ для проверки документов на субсидии, сократив время обработки заявлений с двух дней до одного часа.

Однако мировой опыт показывает тревожные примеры. В Австралии алгоритмы ошибочно насчитали долги сотням тысяч людей. Также в Петербурге мать пятерых детей получила 15 отказов подряд. Причина заключалась в том, что ИИ перестал распознавать ее родственную связь с ребенком после обновления программы.

По словам Якубовича, окончательное решение должно оставаться за человеком. ИИ может готовить проекты решений, но не подменять ответственность чиновников. Среди рисков эксперт назвал алгоритмическую дискриминацию, отсутствие объяснений отказов и угрозу утечек данных.

Чтобы ИИ приносил пользу, нужны правовые и этические ограничения, подчеркнул Якубович. Алгоритмы должны проверять на отсутствие дискриминации. Граждане имеют право знать причину отказа и обжаловать решение. Также необходима надежная защита хранилищ данных.