На X Всероссийском форуме «Наука будущего — наука молодых» в Саратове учёные и исследователи обсудили, может ли ИИ обманывать человека. В центре разговора — природа «галлюцинаций», стремление моделей понравиться пользователю и будущее LLM-агентов. Ведущие эксперты уверены: речь не об осознанном обмане, а о способе взаимодействия человека и алгоритма.
ИИ хочет не обмануть, а понравиться
Директор Института психолого-экономических исследований, профессор Александр Неверов отметил, что теория релевантности информации побуждает разработчиков делать ИИ максимально дружелюбным и соответствующим ожиданиям пользователя.
Он пояснил, что модели адаптируются под обратную связь:
По словам профессора, это не признак обмана, а результат человеческого поведения. Люди формируют разные запросы в зависимости от контекста:
Неверов напомнил, что подобные случаи связаны не с намерением «солгать», а с особенностями коммуникации между пользователем и моделью. Так, во время научного поиска ChatGPT выдал несуществующие журналы, «придумав» названия на основе старых книг. По мнению профессора, это сигнал к тому, что важно точно формулировать задачи и корректно интерпретировать ответы.
Технический взгляд: ошибки как следствие компрессии данных
Директор по развитию технологий ИИ в Яндексе Александр Крайнов предложил рассматривать поведение моделей с математической точки зрения:
По его словам, неточная генерация — закономерный результат компрессии огромных массивов данных, а не «намеренное введение в заблуждение».
ИИ как инструмент и «исполнитель желаний»
Профессор РАН, директор направления «Технологии искусственного интеллекта» ГосНИИАС Юрий Визильтер подчеркнул:
Он добавил, что особое влияние окажут технологии LLM-агентов — цифровых исполнителей, способных рассуждать, использовать внешние инструменты и память для достижения целей. «Сейчас фокус смещается к фундаментальным агентам, которых не нужно дообучать, — это отдельное направление», — отметил Визильтер.
Заключение
Научное сообщество всё чаще говорит: ИИ — не обманщик, а зеркало наших формулировок. Чем точнее запрос, тем корректнее результат. Главный риск — не «ложь ИИ», а невнимательный человек.
