Cognitive biases in cyber fraud practices: the heuristic potential of M. Norton's theory

Cover Page

Cite item

Full Text

Abstract

The concept of cognitive biases, introduced in 1972 by D. Kahneman and A. Tversky and identifying the cause of erroneous decisions in human economic behavior, has become one of the explanatory models in describing the practices of modern cyber fraud. However, the growing scale and negative consequences of cyber fraud actualize the need to expand the interpretations of this phenomenon in the context of various disciplines, primarily sociology, which allows us to overcome the narrowly individual approach that links cognitive distortions only with the mental characteristics of human thinking and to set the vector of analysis of their socio-cultural determination. The article examines the heuristic prospects of using the concepts of cognitive sociology (in particular, M. Norton’s theory) as an interpretative model for the analysis of cognitive distortions in cyber fraud practices. This approach allows us to give a broad interpretation of this phenomenon as a necessary attribute of the general process of socio-cultural semiosis, to explain the manipulative nature of specific semiotic contours that determine the choice of a certain type of human action and the activation of specific cognitive distortions, to understand how certain cognitive distortions influence such a choice in a situation of cyber fraud, to show the conjugation of cognitive mechanisms and the socio-cultural environment in the process of forming networks of meanings in the “semiosis of cyber fraud”. The theoretical provisions of Norton's concept are examined using specific examples of such cognitive distortions as the authority effect, the trust effect, and the confirmation bias.

About the authors

Valerya V. Vasilkova

St. Petersburg State University

Email: v.vasilkova@spbu.ru
ORCID iD: 0000-0001-9335-8738
SPIN-code: 9387-5580
ResearcherId: G-4319-2015
Doctor of Philosophy, Professor of the Department of Sociology of Culture and Communication St. Petersburg, Russia

References

  1. Али-заде А.А. (2021) Когнитивный поворот в обществе и социально-гуманитарных науках. (Обзор). Социальные и гуманитарные науки. Отечественная и зарубежная литература. Сер. 8: Науковедение, 1: 54–71. https://doi.org/10.31249/naukoved/2021.01.01.
  2. Ali-zade A.A. (2021) The Cognitive Turn in Society and Social Sciences and Humanities. (Review). Sotsial'nyye i gumanitarnyye nauki. Otechestvennaya i zarubezhnaya literatura. Ser. 8: Naukovedeniye [Social Sciences and Humanities. Domestic and Foreign Literature. Ser. 8: Science Studies], 1: 54–71. https://doi.org/10.31249/naukoved/2021.01.01 (in Russian).
  3. Беляева Е.Р., Кунафина Г.А. (2016) Роль когнитивных искажений в приобщении индивида к социально-культурной деятельности. Современные проблемы науки и образования, 3 [https://science-education.ru/ru/article/view?id=24502] (дата обращения: 03.07.2024).
  4. Belyayeva Ye.R., Kunafina G.A. (2016) The role of cognitive distortions in the individual's involvement in socio-cultural activities. Sovremennyye problemy nauki i obrazovaniya [Modern problems of science and education], 3 [https://science-education.ru/ru/article/view?id=24502] (accessed: 03.07.2024) (in Russian).
  5. Девятко И.Ф. (2015) Социальное знание и социальная теория: от социологии знания к когнитивной социологии. Обыденное и научное знание об обществе: взаимовлияния и реконфигурации. М.: Прогресс-Традиция: 13–40.
  6. Devyatko I.F. (2015) Social knowledge and social theory: from the sociology of knowledge to cognitive sociology. In: Everyday and scientific knowledge about society: mutual influences and reconfigurations. Moscow: Progress-Traditsiya: 13–40 (in Russian).
  7. Завьялова М.П. (2012) Когнитивный «поворот» в науке и философии. Вестник Томского государственного университета. Философия. Социология. Политология, 2(18): 5–12.
  8. Zavyalova M.P. (2012) Cognitive "turn" in science and philosophy. Vestnik Tomskogo gosudarstvennogo universiteta. Filosofiya. Sotsiologiya. Politologiya [Bulletin of Tomsk State University. Philosophy. Sociology. Political Science], 2(18): 5–12 (in Russian).
  9. Канеман Д. (2016) Думай медленно… решай быстро. М.: АСТ.
  10. Kahneman D. (2016) Thinking, Fast and Slow. Moscow: AST (in Russian).
  11. Кашапова Э.Р., Рыжкова М.В. (2015) Когнитивные искажения и их влияние на поведение индивида. Вестник Томского государственного университета. Экономика, 2(30): 15–26.
  12. Kashapova E.R., Ryzhkova M.V. (2015) Cognitive distortions and their impact on individual behavior. Vestnik Tomskogo gosudarstvennogo universiteta. Ekonomika [Bulletin of Tomsk State University. Economics], 2(30): 15–26 (in Russian).
  13. Корниенко А.А. (2013) Эволюция парадигмы когнитивной социологии науки в западной философии науки. Вестник Томского государственного университета. Культурология и искусствоведение, 3(11):74–79.
  14. Korniyenko A.A. (2013) Evolution of the paradigm of cognitive sociology of science in Western philosophy of science. Vestnik Tomskogo gosudarstvennogo universiteta. Kul'turologiya i iskusstvovedeniye [Bulletin of Tomsk State University. Cultural Studies and Art History], 3(11): 74–79 (in Russian).
  15. Куракин Д. (2018) Предисловие к русскому переводу «Элементарных форм религиозной жизни». Дюркгейм Э. Элементарные формы религиозной жизни: тотемическая система в Австралии. М.: Элементарные формы: 15–48.
  16. Kurakin D. (2018) Preface to the Russian translation of “Elementary Forms of Religious Life”. In: Durkheim E. Elementary Forms of Religious Life: The Totemic System in Australia. Moscow: Elementary Forms: 15–48 (in Russian).
  17. Медяник О.В. (2023) Исследование когнитивных искажений в цифровой экономике и праве. Юридическая мысль, 3(131): 33–71.
  18. Medyanik O.V. (2023) Research of cognitive distortions in digital economy and law. Yuridicheskaya mysl’ [Legal thought], 3(131): 33–71 (in Russian).
  19. Михайлов И.Ф. (2021) Когнитивные основания социальности: Дис. … д-р филос. н. Москва.
  20. Mikhaylov I.F. (2021) Cognitive foundations of sociality. Dissert na soisk. uchenoy. stepen. d.filos.n. [Dissertation for the degree of Doctor of Philosophy]. Moscow (in Russian).
  21. Плотинский Ю.М. (2001) Модели социальных процессов. 2-е изд. М.: Логос.
  22. Plotinskiy Y.M. (2001) Models of social processes. 2ed. Moscow: Logos (in Russian).
  23. Попов Ю.А., Вихман А.А. (2014) Когнитивные искажения в процессе принятия решений: научная проблема и гуманитарная технология. Вестник ЮУрГУ. Сер. Психология, 7(1): 5–16.
  24. Popov Y.A., Vikhman A.A. Cognitive distortions in the decision-making process: a scientific problem and humanitarian technology. Vestnik YUUrGU. Seriya Psikhologiya [Bulletin of SUSU. Series Psychology], 7(1): 5–16 (in Russian).
  25. Тобышева А.А., Шубат О.М. (2023) Теоретические подходы к анализу когнитивных искажений как фактора корпоративной демографической политики. Демографические факторы адаптации населения к глобальным социально-экономическим вызовам. Екатеринбург: 722–732.
  26. Tobysheva A.A., Shubat O.M. (2023) Theoretical approaches to the analysis of cognitive distortions as a factor in corporate demographic policy. In: Demographic factors of population adaptation to global socio-economic challenges. Ekaterinburg: 722–732 (in Russian).
  27. Шариков Д.Д. (2019) Новая социология культуры: от «ящиков с инструментами» к когнитивным процессам. Журнал социологии и социальной антропологии, 22(3): 179–210. https://doi.org/10.31119/jssa.
  28. Sharikov D. (2019) The new sociology of culture: from toolkits to cognitive processes. Zhurnal sotsiologii i sotsialnoy antropologii [The Journal of Sociology and Social Anthropology], 22(3): 179–210. https://doi.org/10.31119/jssa.2019.22.3.8 (in Russian).
  29. Beattie P., Beattie M. (2023) Political polarization: a curse of knowledge? Frontiers in psychology, 14: 1200627. https://doi.org/10.3389/fpsyg.2023.1200627.
  30. Bazerman M. (2005) Judgment in Managerial Decision Making. Hoboken, NJ: John Wiley & Sons.
  31. Bellé N., Cantarell P., Belardinelli P. (2018) Prospect theory goes public: experimental evidence on cognitive biases in public policy and management decisions. Public Administration Review, 78: 828–840. https://doi.org/10.1111/puar.12960.
  32. Borwell J., Jansen J., Stol W. (2021) Comparing the victimization impact of cybercrime and traditional crime: Literature review and future research directions. Journal of Digital Social Research, 3(3): 85–110. https://doi.org/10.33621/jdsr.v3i3.66.
  33. Cicourel A.V. (1973) Cognitive Sociology. London: Pinguin Education.
  34. DiMaggio P. (1997) Culture and cognition. Annual sociological review, 23: 263–287.
  35. French A., Storey V., Wallace L. (2023) The impact of cognitive biases on the believability of fake news. European Journal of Information Systems, 1 Nov. https://doi.org/10.1080/0960085X.2023.2272608.
  36. Hansen K., Gerbasi M., Todorov A., Kruse E., Pronin E. (2014) People claim objectivity after knowingly using biased strategies. Personality and Social Psychology Bulletin, 40: 691–699. https://doi.org/10.1177/0146167214523476.
  37. Haselton M.G., Nettle D., Andrews P.W. (2005) The evolution of cognitive bias. In: Buss D.M. (ed.). The Handbook of Evolutionary Psychology. Hoboken, NJ: John Wiley & Sons Inc.: 724–746.
  38. Hilbert M. (2012) Toward a synthesis of cognitive biases: how noisy information processing can bias human decision making. Psychological Bulletin, 138 (2): 211–37. https://doi.org/10.1037/a0025940. PMID: 22122235.
  39. Kahneman D., Tversky A. (1972) Subjective probability: A judgment of representativeness. Cognitive Psychology, 3(3):430–454. https://doi.org/10.1016/0010–0285(72)90016-3.
  40. Kahneman D., Slovic P., Tversky, A. (eds.) (1982) Judgment Under Uncertainty: Heuristics and Biases. New York: Cambridge University Press.
  41. Kahneman D., Tversky A. (1984). Choices, values, and frames. American Psychologist, 39(4): 341–350. https://doi.org/10.1037/0003–066X.39.4.341.
  42. Kaidesoja T., Hyyryläinen М., Puustinen R. (2022) Two traditions of cognitive sociology: An analysis and assessment of their cognitive and methodological assumptions. Journal for the Theory of Social Behaviour, 52: 528–547. https://doi.org/10.1111/jtsb.12341.
  43. Korteling J. E., Gerritsma J., Toet A. (2021). Retention and transfer of cognitive bias mitigation interventions: a systematic literature study. Frontiers in psychology, 12: 629354. https://doi.org/10.3389/fpsyg.2021.629354, PMID.
  44. Korteling J.E., Paradies G.L., Sassen-van Meer J.P. (2023) Cognitive bias and how to improve sustainable decision making. Frontiers in psychology, 14: 1129835. https://doi.org/10.3389/fpsyg.2023.1129835.
  45. Korteling J. E., Toet A. (2022) Cognitive biases. In: Della Sala S. (ed.) Encyclopedia of Behavioural Neuroscience. 2nd ed.: 610–619.
  46. Kostopoulou O., Porat T., Corrigan D., Mahmoud S., Delaney B. C. (2017) Diagnostic accuracy of GPs when using an early-intervention decision support system: a high-fidelity simulation. The British journal of general practice, 67 (656), e201–e208. https://doi.org/10.3399/bjgp16X688417.
  47. Lizardo O. (2017) Improving cultural analysis: Considering personal culture in its declarative and nondeclarative modes. American Sociological Review, 82(1): 88–115. https://doi.org/10.1177/0003122416675175.
  48. Ludolph R., Schulz P. J. (2018) Debiasing health-related judgments and decision making: a systematic review. Medica decision making, 38(3): 3–13. https://doi.org/10.1177/0272989X17716672.
  49. MacCoun R.J. (1998) Biases in the interpretation and use of research results. Annual Review of Psychology, 49 (1): 259–287. https://doi.org/10.1146/annurev.psych.49.1.259. PMID: 15012470.
  50. McGee R.J., Warms R.L. (eds.) (2008) Anthropological theory: an introductory history. 4th ed. New York: McGraw-Hill Education.
  51. Nickerson R. (1998) Confirmation Bias: A Ubiquitous Phenomenon in Many Guises. Review of General Psychology, 2 (2): 175–220. https://doi.org/10.1037/1089–2680.2.2.175. S2CID 8508954.
  52. Norton M. (2018) Meaning on the Move: Synthesizing Cognitive and Systems Concepts of Culture. American Journal of Cultural Sociology, 7: 1–28. https://doi.org/10.1057/s41290-017-0055-5.
  53. Pfister H.-R., Böhm G. (2008) The multiplicity of emotions: A framework of emotional functions in decision making. Judgment and Decision Making, 3(1): 5–17. https://doi.org/10.1017/S1930297500000127.
  54. Pohl R. (ed.) (2022) Cognitive Illusions: Intriguing Phenomena in Thinking, Judgment, and Memory. 3rd ed. London; New York: Routledge; Taylor & Francis Group.
  55. Poos J. M., van den Bosch K., and Janssen C. P. (2017) Battling bias: Effects of training and training context. Computers & Education, 111(4): 101–113. https://doi.org/10.1016/j.compedu.2017.04.004.
  56. Shermer M. (2008) The Mind of the Market — Compassionate Apes, Competitive Humans, and Other Tales From Evolutionary Economics. New York: Times Books; Henry Holt and Company.
  57. Sumner A., Yuan X. (2019) Mitigating Phishing Attacks: An Overview. ACM SE '19: Proceedings of the 2019 ACM Southeast Conference: 72–77. https://doi.org/10.1145/3299815.3314437.
  58. Thomas O. (2018) Two decades of cognitive bias research in entrepreneurship: What do we know and where do we go from here? Management Review Quarterly, 68(2):107–143. https://doi.org/10.1007/s11301-018-0135-9.
  59. Vaisey S. (2009) Motivation and justification: A dual-process model of culture in action. American journal of sociology, 114(6): 1675–1715. https://doi.org/10.1086/597179.
  60. Williams E.J., Beardmore A., Joinson A.N. (2017) Individual differences in susceptibility to online influence: a theoretical review. Computers in Human Behavior, 72: 412–421. https://doi.org/10.1016/j.chb.2017.03.002.
  61. Zerubavel E. (1997) Social Mindscapes: An Invitation to Cognitive Sociology. Cambridge: Harvard University Press.

Supplementary files

Supplementary Files
Action
1. JATS XML
Download


Creative Commons License
This work is licensed under a Creative Commons Attribution 4.0 International License.

Согласие на обработку персональных данных с помощью сервиса «Яндекс.Метрика»

1. Я (далее – «Пользователь» или «Субъект персональных данных»), осуществляя использование сайта https://journals.rcsi.science/ (далее – «Сайт»), подтверждая свою полную дееспособность даю согласие на обработку персональных данных с использованием средств автоматизации Оператору - федеральному государственному бюджетному учреждению «Российский центр научной информации» (РЦНИ), далее – «Оператор», расположенному по адресу: 119991, г. Москва, Ленинский просп., д.32А, со следующими условиями.

2. Категории обрабатываемых данных: файлы «cookies» (куки-файлы). Файлы «cookie» – это небольшой текстовый файл, который веб-сервер может хранить в браузере Пользователя. Данные файлы веб-сервер загружает на устройство Пользователя при посещении им Сайта. При каждом следующем посещении Пользователем Сайта «cookie» файлы отправляются на Сайт Оператора. Данные файлы позволяют Сайту распознавать устройство Пользователя. Содержимое такого файла может как относиться, так и не относиться к персональным данным, в зависимости от того, содержит ли такой файл персональные данные или содержит обезличенные технические данные.

3. Цель обработки персональных данных: анализ пользовательской активности с помощью сервиса «Яндекс.Метрика».

4. Категории субъектов персональных данных: все Пользователи Сайта, которые дали согласие на обработку файлов «cookie».

5. Способы обработки: сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (доступ, предоставление), блокирование, удаление, уничтожение персональных данных.

6. Срок обработки и хранения: до получения от Субъекта персональных данных требования о прекращении обработки/отзыва согласия.

7. Способ отзыва: заявление об отзыве в письменном виде путём его направления на адрес электронной почты Оператора: info@rcsi.science или путем письменного обращения по юридическому адресу: 119991, г. Москва, Ленинский просп., д.32А

8. Субъект персональных данных вправе запретить своему оборудованию прием этих данных или ограничить прием этих данных. При отказе от получения таких данных или при ограничении приема данных некоторые функции Сайта могут работать некорректно. Субъект персональных данных обязуется сам настроить свое оборудование таким способом, чтобы оно обеспечивало адекватный его желаниям режим работы и уровень защиты данных файлов «cookie», Оператор не предоставляет технологических и правовых консультаций на темы подобного характера.

9. Порядок уничтожения персональных данных при достижении цели их обработки или при наступлении иных законных оснований определяется Оператором в соответствии с законодательством Российской Федерации.

10. Я согласен/согласна квалифицировать в качестве своей простой электронной подписи под настоящим Согласием и под Политикой обработки персональных данных выполнение мною следующего действия на сайте: https://journals.rcsi.science/ нажатие мною на интерфейсе с текстом: «Сайт использует сервис «Яндекс.Метрика» (который использует файлы «cookie») на элемент с текстом «Принять и продолжить».