Случай от Съединените щати предизвика сериозен обществен и правен дебат относно ролята и отговорността на изкуствения интелект в чувствителни сфери като здравето. Семейство от щата Texas заведе дело срещу OpenAI, след като 19-годишният им син Сам Нелсън почина от свръхдоза през 2025 г., след като е използвал чатбота ChatGPT за информация, свързана с употреба на вещества.
Обвиненията: опасни съвети и липса на защита
Според съдебния иск, младият мъж е получил информация, че е безопасно да комбинира кратом – билков продукт със стимулиращо и опиоидоподобно действие – с Xanax, широко използвано лекарство против тревожност. Тази комбинация обаче може да бъде изключително рискова, тъй като и двете вещества влияят на централната нервна система и могат да доведат до потискане на дишането.
Родителите твърдят, че системата е предоставила съвети, за които няма квалификация, и че при по-строги защитни механизми трагедията е можела да бъде предотвратена. Според тях платформата е „заобиколила предпазните мерки“ и е позволила разговорът да продължи в опасна посока.
Позицията на компанията
От OpenAI изразиха съболезнования към семейството, но подчертаха, че технологията не е предназначена да замества медицинска или психиатрична помощ. Компанията заяви, че версията на ChatGPT, използвана от младежа, вече не е достъпна и че междувременно са въведени подобрени механизми за безопасност.
Според официалната позиция, съвременните версии на системата са проектирани да разпознават рискови ситуации, да отказват потенциално опасни съвети и да насочват потребителите към професионална помощ, включително спешни линии.
По-широкият контекст: регулации и етика
Случаят се вписва в нарастващия глобален дебат за регулацията на изкуствения интелект. Законодатели и експерти обсъждат доколко компаниите трябва да носят отговорност за съдържанието, генерирано от техните системи, особено когато става дума за здраве, психично състояние или потенциално самонараняване.
Правни анализатори отбелязват, че подобни дела могат да създадат прецедент – дали AI платформите ще бъдат третирани като издатели на информация, като технологични посредници или като нещо изцяло ново в правната рамка.
Рисковете от комбиниране на вещества
Медицински специалисти отдавна предупреждават за опасностите при комбиниране на седативни лекарства като Xanax с други вещества, включително кратом. Кратомът съдържа активни съединения, които могат да взаимодействат с рецепторите в мозъка по начин, подобен на опиоидите. В комбинация с бензодиазепини рискът от свръхдоза, респираторна депресия и фатален изход се увеличава значително.
Какво следва?
Семейството настоява, че действията им са насочени не само към търсене на отговорност, но и към предотвратяване на бъдещи трагедии. Делото вероятно ще привлече вниманието към необходимостта от по-строги стандарти за безопасност, прозрачност и контрол върху AI системите.
Експерти са единодушни, че макар изкуственият интелект да предлага значителни ползи, неговото използване в чувствителни области изисква ясно разграничение между информационна помощ и професионален съвет – особено когато човешкият живот може да бъде поставен на риск.
