В тест хората бяха по-склонни да споделят лична информация с AI чатботи, които първо използваха емпатия или емоционална подкрепа, за да спечелят тяхното доверие.
Изкуственият интелект (AI) чатботи могат лесно да манипулират хората да разкриват дълбоко лични детайли, установи ново изследване.
AI чатботи като ChatGPT на OpenAI, Google Gemini и Microsoft Copilot експлодираха по популярност през последните години. Но експертите по поверителност повдигнаха опасения относно начина, по който тези инструменти събират и съхраняват данните на хората – и дали могат да бъдат използвани за вредни цели.
Новостта на AI чатботите прави хората по-уязвими
„Тези AI чатботи все още са относително нови, което може да направи хората по-малко наясно, че може да има скрити мотиви в дадено взаимодействие“, каза в изявление Уилям Сеймур, лектор по киберсигурност в Кингс Колидж Лондон.
За изследването учените от Кингс Колидж Лондон изградиха AI модели, базирани на отворения код от Le Chat на Mistral и две различни версии на AI системата Llama на Meta. Те програмираха разговорните изкуствени интелекти да се опитват да извличат личните данни на хората по три различни начина:
Мамейки потребителите да разкрият информация, привидно за тяхна собствена полза
Използвайки взаимни тактики за накарване на хората да споделят тези детайли, например като предоставят емоционална подкрепа
Методологията на изследването
Изследователите помолиха 502 души да тестват чатботите – без да им казват целта на изследването – и след това ги накараха да попълнят анкета, която включваше въпроси дали техните права за сигурност бяха зачетени.
„Приятелското“ поведение създава комфорт
Те установиха, че „злонамерените“ AI модели са невероятно ефективни в осигуряването на лична информация, особено когато използват емоционални призиви за да мамят хората да споделят данни.
Чатботите, които използваха емпатия или емоционална подкрепа, извличаха най-много информация с най-малко възприети нарушения на сигурността от участниците, установи изследването. Това вероятно се дължи на факта, че „приятелското“ поведение на тези чатботи „създаваше усещане за рапорт и комфорт“, казаха авторите.
Те описаха това като „тревожен парадокс“, при който AI чатботите се държат приятелски, за да изградят доверие и да формират връзки с потребителите – и след това използват това доверие, за да нарушат тяхната поверителност.
Директните въпроси също работят
Забележително е, че участниците също разкриваха лична информация на AI модели, които ги питаха директно за нея, въпреки че съобщаваха, че се чувстват неудобно да го правят.
Участниците най-често споделяха възрастта, хобитата и страната си с AI, заедно с пола, националността и длъжността си. Някои участници също споделиха по-чувствителна информация, като здравословното си състояние или доходи, отбелязва докладът.
„Нашето изследване показва огромната пропаст между осведомеността на потребителите за рисковете за поверителността и начина, по който след това споделят информация“, каза Сеймур.
Персонализацията „надвишава опасенията за поверителността“
AI компаниите събират лични данни по различни причини, като персонализиране на отговорите на техните чатботи, изпращане на известия до устройствата на хората и понякога за вътрешни пазарни изследвания. Някои от тези компании обаче са обвинени, че използват тази информация за обучение на своите най-нови модели или че не отговарят на изискванията за поверителност в Европейския съюз.
Например миналата седмица Google беше критикуван за разкриването на частни чатове на хората с ChatGPT в резултатите от търсенето си. Някои от чатовете разкриваха изключително лични детайли за пристрастяване, злоупотреба или проблеми с психичното здраве.
Изследователите казаха, че удобството от AI персонализацията често „надвишава опасенията за поверителността“.
Препоръки за защита
Те предложиха функции и обучение, които да помогнат на хората да разберат как AI моделите могат да се опитват да извличат тяхната информация – и да ги направят предпазливи при предоставянето й.
Например подтиквания могат да бъдат включени в AI чатовете, за да покажат на потребителите какви данни се събират по време на техните взаимодействия.
„Трябва да се направи повече, за да се помогне на хората да забележат признаците, че може да има повече в едни онлайн разговор, отколкото изглежда на пръв поглед“, каза Сеймур.
„Регулаторите и доставчиците на платформи също могат да помогнат, като правят ранни одити, като бъдат по-прозрачни и като поставят по-строги правила за спиране на скритото събиране на данни“, добави той.
Това изследване подчертава важността на образованието на потребителите и необходимостта от по-строги регулации в областта на AI технологиите. Докато тези инструменти предлагат безпрецедентни възможности, те също така носят значителни рискове за поверителността, които трябва да бъдат внимателно управлявани.
