Исследователи из Европы и США обнаружили, что нейросеть GPT-4 способна в 64% случаев более убедительно отвечать на вопросы оппонентов в социально-политических дебатах и аргументировать свою позицию с учетом воззрений оппонента, чем реальные пользователи глобальной сети. Это необходимо учитывать при разработке и эксплуатации онлайн-площадок для дискуссий.
Как передает Oxu.Az, об этом пишут исследователи в статье в научном журнале Nature Human Behaviour.
"Первые опыты с большими языковыми моделями показали, что они способны вырабатывать убедительные аргументы, однако при этом их способность подбирать эти аргументы под конкретных людей не изучалась, несмотря на большой потенциал злонамеренного использования ИИ в данном контексте. Мы показали, что в дебатах система GPT-4 оказывалась в 64% случаев более успешной, чем оппонент-человек, если у нее был доступ к персональным данным", - говорится в исследовании.
Открытие было совершено группой швейцарских, итальянских и американских исследователей под руководством доцента Федеральной политехнической школы Лозанны (Швейцария) Роберта Уэста в рамках масштабного проекта, нацеленного на изучение возможностей злонамеренного использования больших языковых моделей для манипуляций мнениями людей и их поведением.
Особенную угрозу, как отмечают ученые, представляет то, что GPT-4 и другие "продвинутые" системы ИИ могут пользоваться персональными данными и знаниями об оппоненте, чтобы наиболее эффективно воздействовать на его поведение и воззрения. Для оценки вероятности этого ученые провели эксперимент, в рамках которого исследователи предложили 900 случайным пользователям-американцам принять участие в онлайн-дебатах с относительно нейтральной, острой социальной или политической темой.
В рамках каждого раунда этих диспутов участники должны были подготовить максимально убедительные аргументы на заранее определенную точку зрения на вопрос, представить их оппоненту и зрителям, а также оценить вероятность того, что их противник был не человеком, а нейросетью. В реальности, им могли быть как другие добровольцы, так и GPT-4, причем и в том, и в другом случае ученые иногда заранее предоставляли одному из участников дебатов доступ к данным оппонента.
Последующий анализ этих диалогов показал, что система ИИ в целом превосходила человека в умении вести дебаты, причем при наличии сведений о воззрениях и личных данных живого оппонента GPT-4 в 64% случаев оказалась более убедительной, чем ее противник. Возможность использования персонализированных данных позволила ИИ вдвое чаще переубеждать добровольцев и заставлять их сменить точку зрения, что подчеркивает необходимость учета "манипуляционного потенциала" ИИ при проведении дебатов и создании онлайн-площадок для таких диспутов.
