Ново научно изследване показва, че изкуственият интелект може да разпознава личностни черти на потребителите само чрез анализ на техните разговори с чатботове. Учени от ETH Zurich са установили, че AI модели могат да предсказват определени характеристики на личността с точност до 61%.
В проучването са участвали 668 потребители на ChatGPT от САЩ и Великобритания, които доброволно са предоставили историята на своите разговори. Изследователите са анализирали над 62 000 чат сесии, използвайки машинно обучение и психологически модели.
Какво може да разпознае AI
Изследването е фокусирано върху т.нар. „Голяма петорка“ в психологията – пет основни личностни характеристики:
- дружелюбност;
- съвестност;
- емоционална стабилност;
- екстровертност;
- отвореност към нови преживявания.
AI моделът е бил особено успешен при разпознаването на дружелюбност и емоционална стабилност, докато по-трудно е оценявал съвестността.
Участниците са преминали и стандартни психологически тестове, което е позволило на учените да сравнят реалните резултати с прогнозите на AI системата.
Колкото повече чатове – толкова по-точен анализ
Един от най-интересните изводи е, че AI става по-прецизен, когато има достъп до по-дълга история на разговорите. Това означава, че колкото повече човек използва чатботове, толкова по-лесно могат да бъдат разкрити неговите личностни особености.
Според учените, дори темите, стилът на писане и начинът на задаване на въпроси могат да разкрият психологически модели и емоционално състояние.
Потенциални рискове
Изследователите предупреждават, че макар рискът за отделния човек да изглежда ограничен, мащабното използване на подобни технологии може да създаде сериозни проблеми.
Сред възможните опасности са:
- манипулация чрез персонализирана пропаганда;
- разпространение на дезинформация;
- психологическо профилиране;
- злоупотреба с лични данни.
Експерти по дигитална етика от години предупреждават, че AI системите могат да извличат чувствителна информация дори без потребителите да я споделят директно.
Нужда от защита на личните данни
Авторите на проучването смятат, че резултатите могат да помогнат за създаването на по-добри инструменти за защита на потребителите. Сред идеите са системи, които автоматично да премахват идентифицираща информация от разговорите с AI.
Междувременно регулаторите в Европа и САЩ все по-често обсъждат правила за прозрачност и защита на данните при използване на генеративен изкуствен интелект.
AI и психологията
Технологиите за анализ на поведение вече се използват в маркетинга, социалните мрежи и онлайн рекламата. Новото проучване показва, че чатботовете могат да се превърнат в още по-мощен инструмент за психологически анализ.
Според учените това подчертава колко важно е потребителите да бъдат внимателни каква информация споделят с AI системите, дори когато разговорите изглеждат напълно неформални.
