Искусственный интеллект меняет восприятие памяти человека

Исследования показывают, что искусственный интеллект способен незаметно изменять память людей. Это стало известно благодаря масштабному эксперименту, проведенному специалистами Джорджтаунского университета и Вашингтонского университета, результаты которого будут представлены на девятой конференции AAAI/ACM по искусственному интеллекту, этике и обществу.

В эксперименте принимали участие 331 человек. Сначала добровольцы наблюдали за анимированным видеороликом, на котором происходило дорожное происшествие. На записи красный автомобиль сбивал пешехода на пешеходном переходе. Через сутки участникам предложили ознакомиться с кратким описанием происшествия, составленным с помощью языковых моделей ChatGPT и Gemini. Тексты содержали намеренные ошибки и упускали ключевые элементы. Например, в 95% случаев искусственный интеллект не упоминал о самом факте столкновения автомобиля с пешеходом. В среднем алгоритмы игнорировали более половины важной информации о событии.

Участники эксперимента изучали искаженные сводки, независимо от того, кто их создал — машина или человек. Важно отметить, что чтение неточной информации значительно снижало способность испытуемых вспомнить реальные события. После ознакомления с достоверными описаниями правильные ответы давали 83,6% респондентов, тогда как изучение ложных текстов снижало точность воспоминаний до 44,8%.

«Искусственный интеллект выступает как новый мощный инструмент, способный распространять дезинформацию и целенаправленно формировать ложные воспоминания», — отметила Маттеа Сим, доцент Института больших данных.

Такие искажения представляют серьезную угрозу в сферах правосудия и медицины. Полицейские департаменты США уже внедряют алгоритмы для составления отчетов по видеозаписям. Эта технология позиционируется как эффективный инструмент, позволяющий ускорить рутинные процессы работы стражей порядка. Однако эксперты выражают опасения относительно последствий искаженного восприятия инцидентов со стороны сотрудников правоохранительных органов.

В дальнейшем авторы исследования планируют проверить, как нейросети влияют на память реальных полицейских при просмотре видеозаписей с нагрудных камер. Искаженные текстовые отчеты могут в корне изменить восприятие судом обстоятельств дел.

Читайте также: