Как персонализированные алгоритмы обманывают ваш мозг, приводя к неправильным ответам

Исследование Университета Огайо продемонстрировало, что персонализированные алгоритмы рекомендаций могут серьезно нарушать процесс обучения, даже когда у людей нет предварительных знаний по теме. В эксперименте с вымышленными кристаллоподобными инопланетянами участники, руководствуемые алгоритмом, изучали меньше характеристик и формировали искажённое представление, но при этом демонстрировали высокую уверенность в своих неправильных ответах.

Участники могли самостоятельно выбирать, какие характеристики инопланетян изучать, а алгоритм направлял их к наиболее часто выбираемым признакам. В результате они просматривали меньше информации выборочным образом и позднее неправильно классифицировали новые примеры. Особенно тревожным оказался тот факт, что участники были более уверены в своих неправильных ответах, чем в правильных, создавая опасную комбинацию незнания и уверенности.

Эти результаты имеют серьёзные последствия для реального мира, особенно для детей, активно взаимодействующих с алгоритмическими системами. Когда потребление похожего контента превалирует над целями обучения, это может приводить к формированию искажённой картины мира и создавать проблемы как для отдельных пользователей, так и для общества в целом. Алгоритмы не просто формируют мнения — они могут перестраивать саму основу того, что человек считает пониманием.