Думаете, ИИ «знает», что делает? Ученые говорят, что подумайте еще раз
Новое исследование показывает, что антропоморфный язык в описании ИИ встречается в новостях реже, чем ожидалось, но его использование может вводить в заблуждение относительно реальных возможностей технологий
Short Summary
Использование таких слов, как «думает», «знает» или «понимает» по отношению к искусственному интеллекту, может создавать ложное впечатление о его человеческих качествах и возможностях, хотя на самом деле ИИ лишь анализирует шаблоны в данных, не обладая сознанием или намерениями.
Учёные из Университета штата Айова, проанализировав корпус из более чем 20 миллиардов слов из новостных статей, обнаружили, что журналисты реже, чем можно было ожидать, используют антропоморфные глаголы при описании ИИ, а редакционные стандарты, такие как руководства Associated Press, могут этому способствовать. Контекст использования таких слов часто описывает базовые требования (например, «ИИ нуждается в данных»), а не человеческие черты, и варьируется по степени антропоморфизма.
Выбор языка влияет на восприятие возможностей ИИ и может отвлекать внимание от ответственности людей, стоящих за технологиями. Исследователи подчёркивают важность контекста и призывают технических коммуникаторов и журналистов быть внимательнее к формулировкам, поскольку даже редкое использование антропоморфного языка может формировать общественное мнение. В будущем планируется изучить, как конкретные слова влияют на понимание ИИ.
Антропоморфизм в новостях встречается редко
Исследование показало, что журналисты нечасто сочетают термины, связанные с ИИ, с ментальными глаголами (например, «думает», «знает»), что противоречит ожиданиям о распространённости такого языка
Контекст важнее самих слов
Даже при использовании ментальных глаголов, таких как «нуждается», они часто описывают базовые технические требования (например, необходимость данных), а не приписывают ИИ человеческие качества или желания
Антропоморфизм существует в спектре
Использование антропоморфного языка варьируется от простых описаний до формулировок, подразумевающих человеческое мышление или этику (например, «ИИ должен понимать реальный мир»)
Язык формирует восприятие и ответственность
Антропоморфные формулировки могут создавать завышенные ожидания от ИИ, преувеличивать его автономность и затушёвывать роль разработчиков и организаций, ответственных за создание и использование систем
Text generated using AI
