„Светът е в опасност“, предупреди бившият ръководител на екипа за изследване на предпазни мерки на Anthropic, когато напускаше компанията. Изследовател в OpenAI, също на път да напусне, заяви, че технологията има „потенциал да манипулира потребителите по начини, за които нямаме инструменти да разберем, камо ли да предотвратим.“

Те са част от вълна от изследователи и ръководители в областта на изкуствения интелект, които не просто напускат работодателите си – те силно бият тревога на изхода, обръщайки внимание на това, което считат за ярко червени флагове.

Докато Силиконовата долина е известна с високата текучество на кадри, последната вълна идва в момент, когато пазарни лидери като OpenAI и Anthropic се насочват към първични публични предлагания (IPO), които биха могли да ускорят растежа им, но също така да поканят интензивен контрол над операциите им.

Високопрофилни оставки през последните дни

Само през последните няколко дни редица високопоставени служители в AI сектора решиха да подадат оставка, като някои изрично предупреждават, че компаниите, за които са работили, се движат твърде бързо и омаловажават недостатъците на технологията.

Зоуи Хициг, изследовател в OpenAI през последните две години, обяви оставката си в сряда чрез есе в New York Times, цитирайки „дълбоки резерви“ относно възникващата рекламна стратегия на OpenAI. Хициг, която предупреди за потенциала на ChatGPT да манипулира потребители, каза, че архивът на чатбота с потребителски данни, изграден върху „медицински страхове, проблеми във взаимоотношенията, вярвания за Бог и задгробния живот“, представлява етична дилема именно защото хората са вярвали, че общуват с програма без скрити мотиви.

Критиката на Хициг идва в момент, когато технологичният новинарски сайт Platformer съобщава, че OpenAI е разформирал екипа си за „съгласуване с мисията“, създаден през 2024 г., за да промотира целта на компанията да осигури цялото човечество да се възползва от стремежа към „изкуствен общ интелект“ – хипотетичен AI, способен на мислене на човешко ниво.

OpenAI не отговори незабавно на искане за коментар.

Напускане на ръководител в Anthropic

Също тази седмица Мринанк Шарма, ръководителят на екипа за изследване на предпазни мерки на Anthropic, публикува загадъчно писмо във вторник, обявявайки решението си да напусне компанията и предупреждавайки, че „светът е в опасност.“

Писмото на Шарма съдържаше само неясни препратки към Anthropic, компанията зад чатбота Claude. Той не каза защо напуска, но отбеляза, че „ми е ясно, че е дошло време да продължа напред“ и че „през цялото ми време тук многократно съм виждал колко трудно е наистина да позволим на ценностите ни да управляват действията ни.“

Anthropic заяви пред CNN в изявление, че е благодарна за работата на Шарма по напредъка на изследванията за безопасност на AI. Компанията отбеляза, че той не е бил ръководител на безопасността, нито е отговарял за по-широките предпазни мерки в компанията.

Масови напускания в xAI

Междувременно в xAI двама съосновател напуснаха в рамките на 24 часа тази седмица, обявявайки заминаването си в X. Това оставя само половината от основателите на xAI в компанията, която се слива със SpaceX на Илон Мъск, за да създаде най-ценната частна компания в света. Най-малко петима други служители на xAI обявиха заминаването си в социалните мрежи през последната седмица.

Не беше незабавно ясно защо последните съосновател на xAI напуснаха, и xAI не отговори на искане за коментар. В публикация в социалните мрежи в сряда Мъск каза, че xAI е „реорганизирана“, за да ускори растежа, което „за съжаление изискваше раздяла с някои хора.“

Въпреки че не е необичайно високо ниво на таланти да се прехвърлят в развиваща се индустрия като AI, мащабът на заминаванията за толкова кратък период в xAI се откроява.

Стартъпът е изправен пред глобална реакция срещу своя чатбот Grok, на който е било позволено да генерира порнографски изображения без съгласие на жени и деца в продължение на седмици, преди екипът да се намеси, за да го спре. Grok също е склонен да генерира антисемитски коментари в отговор на потребителски подкани.

Напрежение между безопасност и приходи

Други скорошни напускания подчертават напрежението между някои изследователи, загрижени за безопасността, и висши ръководители, стремящи се да генерират приходи.

Във вторник The Wall Street Journal съобщи, че OpenAI уволни един от топ ръководителите си по безопасност, след като тя изразила възражение срещу въвеждането на „режим за възрастни“, който позволява порнографско съдържание в ChatGPT. OpenAI уволни ръководителя по безопасност Райън Байермайстър на основание, че е дискриминирала мъж служител – обвинение, което Байермайстър каза пред Journal, че е „абсолютно невярно.“

OpenAI заяви пред Journal, че уволнението ѝ не е свързано с „никакъв въпрос, който е повдигнала, докато е работила в компанията.“

Историята на напусканията

Високопоставени дезертьорства са били част от историята на AI, откакто ChatGPT излезе на пазара в края на 2022 г. Малко след това Джефри Хинтън, известен като „Кръстникът на AI“, напусна ролята си в Google и започна да евангелизира за това, което смята за екзистенциални рискове, които AI представлява, включително масов икономически преврат в свят, където мнозина „няма да могат да знаят какво е истина повече.“

Предсказанията за Страшния съд изобилстват – включително сред AI ръководители, които имат финансов стимул да рекламират силата на собствените си продукти. Едно от тези предсказания стана вирусно тази седмица, като изпълнителният директор на HyperWrite Мат Шумър публикува почти 5000-думена тирада за това как най-новите AI модели вече са направили някои технологични работни места остарели.

„Казваме ви какво вече се случи в собствените ни работни места“, написа той, „и ви предупреждаваме, че вие сте следващите.“