Распознавание сгенерированного ИИ политического контента: роль субъективных установок

Обложка

Цитировать

Полный текст

Аннотация

Развитие генеративного искусственного интеллекта (ИИ) ставит вопрос о способности пользователей отличать созданный им контент от созданного человеком, особенно в политической сфере. Данное исследование направлено на выявление связи между субъективным отношением к ИИ и точностью распознавания сгенерированного им политического контента. В ходе эксперимента, проведенного среди студентов-политологов ( n = 60), респондентам предлагалось идентифицировать определения понятия «политические ценности», сгенерированные ChatGPT, и оценить их идеологизированность. Результаты показали, что около половины участников в среднем корректно определили искусственное происхождение определений. При этом группа «оптимистов», позитивно настроенных к развитию ИИ, продемонстрировала значительно более высокую точность распознавания по сравнению с группой «нейтральных» участников. Парадоксально, но именно «нейтральные» респонденты значимо чаще оценивали контент ИИ как абсолютно объективный и лишенный идеологической окраски. Это указывает на то, что нейтральное, а не скептическое отношение к ИИ может создавать слепую зону для потенциального идеологического влияния, так как такой контент не подвергается достаточной критической рефлексии. Исследование вносит вклад в понимание того, как установки пользователей опосредуют восприятие политического контента в эпоху генеративного ИИ.

Об авторах

Дмитрий Игоревич Каминченко

Нижегородский государственный университет им. Н.И. Лобачевского; Университет «Неймарк»

Автор, ответственный за переписку.
Email: dmitkam@inbox.ru
ORCID iD: 0000-0002-3193-3423
SPIN-код: 4176-7427

кандидат политических наук, доцент кафедры политологии, Нижегородский государственный университет им. Н.И. Лобачевского; старший научный сотрудник лаборатории когнитивной безопасности, Университет «Неймарк»

Российская Федерация, 603022, Нижний Новгород, пр. Гагарина, д. 23; Российская Федерация, 603057, Нижний Новгород, ул. Нартова, д. 6

Александр Юрьевич Петухов

Московский государственный университет им. М.В. Ломоносова; Университет «Неймарк»

Email: Lectorr@yandex.ru
ORCID iD: 0000-0002-7412-5397
SPIN-код: 2704-2219

кандидат политических наук, доцент, заведующий лабораторией математических методов политического анализа и прогнозирования, Московский государственный университет им. М.В. Ломоносова; директор по науке, заведующий лабораторией когнитивной безопасности, Университет «Неймарк»

Российская Федерация, 119991, Москва, Ленинские горы, д. 1; Российская Федерация, 603057, Нижний Новгород, ул. Нартова, д. 6

Список литературы

  1. Belyakov, M.V., & Maksimenko, O.I. (2023). Dialog systems: History of development and GPT chat-bots as a new linguosemiotic reality. In M.V. Ivanov, V.O. Nechaevskii (Eds., Comp.), Military-Humanitarian Almanac: Proceedings of the XVII International Scientific Conference on Actual Problems of Language and Communication ‘Language. Communication. Translation’, Military University, June 30, 2023, Moscow (pp. 477–485). Military University Publ. (In Russ).
  2. Ben-David, S., Hrubeš, P., Moran, S., Shpilka, A., & Yehudayoff, A. (2019). Learnability can be undecidable. Nature Machine Intelligence, 1(1), 44–48. https://doi.org/10.1038/s42256-018-0002-3
  3. Bogdan, I.V. (2014). Political values in modern Russia: cognitive, emotional and behavioral aspects. Problem Analysis and Public Administration Projection, 7(3), 24–34. (In Russ.)
  4. Buchnev, E.V. (2022). Problems of applying artificial intelligence technologies in modern Russian politics. In I.V. Tseveleva (Ed.), Social and Humanitarian Sciences in the Context of Modern Challenges: Proceedings of the II All-Russian Scientific and Practical Conference of Young Scientists with International Participation, November 21–23, 2022, Komsomolsk-on-Amur (Part 1, pp. 157–161). Komsomolsk-na-Amure State University Publ. (In Russ.)
  5. Bykov, I.A. (2020). Artificial intelligence as a source of political thinking. Journal of Political Research, 4(2), 23–33. (In Russ.) https://doi.org/10.12737/2587-6295-2020-23-33
  6. Darius, P., & Römmele, A. (2023). KI und datengesteuerte Kampagnen: eine Diskussion der Rolle generativer KI im politischen Wahlkampf. Politische Vierteljahresschrift, 64(S2), 199–212. https://doi.org/10.5771/9783748915553-199
  7. Fedorchenko, S.N. (2020). Artificial intelligence phenomenon: citizen between digital avatar and political interface. Journal of Political Research, 4(2), 34–57. (In Russ.) https://doi.org/10.12737/2587-6295-2020-34-57
  8. Kaminchenko, D.I. (2025). On the political role of artificial intelligence technologies: results of an experimental study. Tomsk State University Journal of Philosophy, Sociology and Political Science, 87. (In Russ.)
  9. Kaminchenko, D.I., & Petukhov, A.Yu. (2024). Analysis of the features of representation of candidates in the 2024 US presidential elections in the application of generative artificial intelligence. RUDN Journal of Studies in Literature and Journalism, 29(4), 772–787. (In Russ.) http://doi.org/10.22363/2312-9220-2024-29-4-772-787
  10. Koster, A.K. (2022). Das Ende des Politischen? Demokratische Politik und Künstliche Intelligenz. Zeitschrift für Politikwissenschaft, 32(2), 573–594. https://doi.org/10.1007/s41358-021-00280-5
  11. Nicolay, R. (2025). Die Mensch-KI-Ausrichtung. In A. Martens, C.H. Cap (Eds.), Schreibende KI – ein interdisziplinärer Diskurs. Springer Vieweg, Wiesbaden. https://doi.org/10.1007/978-3-658-45839-3_5
  12. Peters, U. (2022). Algorithmic political bias in artificial intelligence systems. Philosophy & Technology, 35, 25. https://doi.org/10.1007/s13347-022-00512-8
  13. Petukhov, A.Yu., Malhanov, Al.O., Sandalov, V.M., & Petukhov, Yu.V. (2020). Mathematical modeling of ethno-social conflicts with the introduction of the control function. Simulation, 96(3), 337–346. https://doi.org/10.1177/0037549719884629
  14. Rozado, D. (2023). The political biases of ChatGPT. Social Sciences. 12(3), 148. https://doi.org/10.3390/socsci12030148
  15. Rutinowski, J., Franke, S., Endendyk, J, Dormuth, I., Roidl, M., & Pauly, M. (2024). The self-perception and political biases of ChatGPT. Human Behavior and Emerging Technologies, 5548899. https://doi.org/10.1155/2024/7115633
  16. Schäfer, P.J., Karpouchtsis, C.B., & Schaal, G.S. (2023). Bericht zur konferenz politische kommunikation und KI – chancen und herausforderung für die regierungskommunikation. Zeitschrift für Außen – und Sicherheitspolitik, 16(2), 199–203. https://doi.org/10.1007/s12399-023-00945-9
  17. Schröder, S. (2025). Textgenerierende KI im Verwaltungsverfahren – Politische Ziele, Regulierung und Verwaltungspraxis im Spannungsfeld. In A. Martens, C.H. Cap (Eds.), Schreibende KI – ein interdisziplinärer Diskurs (pp. 229–247). Springer Vieweg, Wiesbaden. https://doi.org/10.1007/978-3-658-45839-3_10
  18. Selezneva, A.V. (2019). Conceptual and methodological foundations of the political-psychological analysis of political values. Tomsk State University Journal of Philosophy, Sociology and Political Science, (49), 177–192. (In Russ.) https://doi.org/10.17223/1998863Х/49/18
  19. Selezneva, A.V., & Antonov, D.E. (2020). The value bases of the civic consciousness of the Russian youth. Tomsk State University Journal of Philosophy, Sociology and Political Science, (58), 227–241. (In Russ.) https://doi.org/10.17223/1998863X/58/21
  20. Volodenkov, S.V., Fedorchenko, S.N., & Pechenkin, N.M. (2023). Influence of the digital environment on the contemporary worldview: Pro et Contra. RUDN Journal of Political Science, 25(1), 113–133. (In Russ.) https://doi.org/10.22363/2313-1438-2023-25-1-113-133
  21. Volodenkov, S.V., Fedorchenko, S.N., & Pechenkin, N.M. (2024). Risks, threats, and challenges of introducing artificial intelligence and neural network algorithms into the contemporary system of socio-political communications: the results of expert study. RUDN Journal of Political Science, 26(2), 406–424. (In Russ.) https://doi.org/10.22363/2313-1438-2024-26-2-406-424
  22. Zimin, V.A. (2012). Political values as incentives and barriers of the Russian modernization. Vestnik of Volzhsky University namad after V.N. Tatishchev, (4), 135–143. (In Russ.)

Дополнительные файлы

Доп. файлы
Действие
1. JATS XML
Скачать

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».