Эксперты московского Департамента информационных технологий 12 апреля 2026 года опубликовали рекомендации по проверке ответов генеративных нейросетей.
По данным экспертов лишь восемь из десяти пользователей в Москве верифицируют результаты работы искусственного интеллекта.
Согласно статистике, приведенной пресс-службой ДИТ, каждый второй житель Москвы применяет генеративный искусственный интеллект для помощи в учебе, работе или решении повседневных задач, сообщает Mskagency.
При этом постоянно проверяют достоверность полученных ответов лишь тридцать шесть процентов пользователей, а сорок семь процентов делают это время от времени.
Аналитики департамента отмечают, что интерес к подлинности информации возрастает только при выполнении сложных запросов, тогда как при простом общении или поиске сведений граждане склонны доверять нейросетям безоговорочно.
Генеративный искусственный интеллект создает новый контент на основе шаблонов и данных, на которых он был обучен, имитируя результаты человеческого творчества.
Если в обучающей выборке по конкретному вопросу содержалось недостаточно информации или встречались устаревшие и неверные сведения, нейросеть может выдать ошибочный либо искаженный результат.
Кроме того, системы искусственного интеллекта не всегда способны выстраивать причинно-следственные связи так же последовательно, как человек, что приводит к логическим противоречиям в ответах.
В ДИТ подчеркивают, что даже при безупречной работе технология остается лишь инструментом в руках пользователя и периодически требует критической оценки.
Первым шагом верификации должна стать проверка внутренней непротиворечивости ответа и его соответствия элементарной логике.
Пользователю следует сопоставить полученную информацию с собственным опытом и знаниями, обращая внимание на любые утверждения, выглядящие абсурдно или противоречащие установленным нормам.
При обнаружении смысловых расхождений рекомендуется переформулировать исходный запрос, поскольку нейросеть могла неверно интерпретировать многозначность промпта.
Эффективным методом проверки является повторение одного и того же запроса в нескольких нейросетях с различной архитектурой и обучающими данными.
Если суть ответов, основные факты и выводы совпадают, вероятность ошибки признается минимальной.
При выявлении противоречий или расхождений в цифрах пользователю надлежит обратиться к официальным источникам информации для самостоятельного анализа.
Эксперты ДИТ советуют в обязательном порядке запрашивать у искусственного интеллекта ссылки на первоисточники для каждого приведенного утверждения.
После получения перечня источников необходимо лично перейти по ним и убедиться в корректности цитирования, точности дат и цифровых показателей.
Наибольшего доверия заслуживают официальные сайты государственных органов, научные публикации, учебные материалы и верифицированные аккаунты ведомств в средствах массовой информации.
К сообщениям из блогов, социальных сетей и анонимных каналов следует относиться с повышенной осторожностью ввиду риска манипуляций и распространения недостоверных данных.
Даже при наличии ссылки на авторитетный источник пользователь обязан проверить дату публикации и убедиться в актуальности приведенных сведений.
Особенно стремительно информация устаревает в сферах экономики, законодательства, технологий, научных исследований и медицины.
Если вопрос затрагивает узкопрофессиональную или динамично развивающуюся область, специалисты рекомендуют верифицировать ответ нейросети путем консультации с профильным экспертом.
В Департаменте информационных технологий напоминают, что чем важнее запрашиваемая информация, тем тщательнее должна проводиться проверка с использованием нескольких методов одновременно.
Автор: Игорь Зур