Изкуственият интелект (ИИ) може да преобрази света, но без строги мерки за безопасност той крие рискове за човечеството. Нов доклад след конференция в Сингапур, разкрива глобален консенсус за това как ИИ да бъде направен безопасен. Въпреки разногласията на предишния AI Action Summit в Париж през февруари, където САЩ и Великобритания отказаха да подпишат декларация за „етичен и безопасен ИИ“, Сингапур събра представители на водещи компании като OpenAI, Google DeepMind и Anthropic, както и лидери от 11 държави, включително САЩ, Китай и ЕС. Документът, наречен „Сингапурският консенсус за приоритетите в глобалните изследвания за безопасност на ИИ“, предлага конкретни стъпки за оценка, изграждане на доверие и контрол на ИИ системите. Как този консенсус ще оформи бъдещето на ИИ и какво означава за България?
Сингапур: Мост към съгласие
Парижкият AI Action Summit остави впечатлението за разделение, след като декларацията му бе критикувана като „празна на смисъл“ от експерти и неподписана от ключови държави. За да преодолее това, Сингапур организира Международния научен обмен за безопасност на ИИ на 26 април 2025 г. „Париж създаде погрешно впечатление, че няма съгласие за безопасността на ИИ“, каза проф. Макс Тегмар от MIT, участник в доклада. „Сингапур показа, че такова съгласие съществува.“
Конференцията обедини представители на технологични гиганти и правителства, които разработиха план за безопасен ИИ. Документът се фокусира върху три области: оценка на рисковете, изграждане на надеждни системи и контрол върху ИИ, включително големи езикови модели (LLMs), мултимодални модели (работещи с текст, изображения и видео) и ИИ агенти.
Оценка на ИИ
Докладът призовава за изследвания, които да установят прагове на риска, изискващи намеса, техники за анализ на текущите и бъдещи въздействия на ИИ и методи за стриктно тестване. Ключови цели са подобряване на прецизността на оценките на ИИ модели и тестване за опасни поведения, като например действия извън човешки контрол.
Изграждане на доверие
ИИ системите трябва да се разработват с честни и прозрачни данни, с ясни граници между допустимото и недопустимото поведение. След създаването им те трябва да бъдат тествани спрямо стандарти за безопасност, включително защита срещу „джейлбрейкинг“ (заобикаляне на ограниченията).
Контрол и обществена устойчивост
Докладът настоява за мониторинг, „аварийни превключватели“ и не-агентни ИИ системи като предпазни бариери за агентни системи. Предлага се и хуманно-центрирани рамки за надзор, както и укрепване на инфраструктурата срещу ИИ-подбудени кризи и координация за реагиране при инциденти.
Глобален консенсус в напрегната надпревара
Публикуването на доклада идва в момент на засилена геополитична и технологична надпревара за ИИ. Компании като OpenAI и Anthropic разработват все по-мощни модели, докато правителства се стремят да утвърдят лидерство. Въпреки това проф. Шуе Лан от университета Цинхуа отбелязва: „В ера на геополитическа фрагментация този доклад е обещаващ знак, че глобалната общност се обединява за по-безопасно бъдеще на ИИ.“
Тегмар подчертава, че безопасността е в интерес на всички. „OpenAI, Anthropic и другите компании изпратиха представители в Сингапур, за да споделят опасенията си за безопасност, без да разкриват търговски тайни“, казва той. „Правителствата също не искат катастрофи в други държави – това не е в техен интерес.“ Той сравнява ИИ с биотехнологиите, където строгите стандарти за безопасност и изпитания са норма, и се надява, че до следващия AI Summit в Индия през 2026 г. държавите ще приемат подобни регулации.
България, макар и по-малък играч в ИИ сектора, е част от глобалния дебат за безопасността на ИИ като член на ЕС. Страната може да се възползва от европейските инициативи за разработване на сигурни ИИ системи, особено в области като здравеопазването и образованието, където ИИ вече намира приложение. Български университети като Софийския университет и Техническия университет в София обучават специалисти по ИИ, които могат да допринесат за изследвания в областта на безопасността.
Докладът подчертава необходимостта от обучение и регулации, което е възможност за България да разработи национална стратегия за ИИ. Инвестиции в киберсигурност и етика на ИИ биха подготвили страната за бъдещето, в което технологиите ще играят ключова роля. Освен това българските стартъпи в ИИ сектора могат да се включат в глобални проекти за безопасност, привличайки международно внимание и финансиране.
На обществено ниво повишаването на осведомеността за рисковете и ползите от ИИ е от съществено значение. Кампании за информиране на гражданите биха насърчили подкрепата за етични ИИ политики и отговорно развитие.
Глобални перспективи
Сингапурският консенсус е стъпка към глобално сътрудничество в момент, когато ИИ се развива с бързи темпове. Успехът на инициативата зависи от ангажираността на правителствата и компаниите да прилагат предложените изследвания и стандарти. Следващият AI Summit в Индия ще бъде ключов за утвърждаването на тези принципи, като се надяваме да избегне разделенията от Париж.
Докладът също подчертава необходимостта от баланс между иновациите и безопасността. Докато компаниите се състезават за технологично превъзходство, сътрудничеството по въпросите на безопасността ще предотврати потенциални кризи, като неконтролируеми ИИ системи или злоупотреби.
Път към безопасен ИИ
Сингапурският консенсус доказва, че светът може да се обедини около идеята за безопасен ИИ, въпреки геополитическите напрежения. С фокус върху оценка, доверие и контрол докладът начертава път за предотвратяване на рисковете от ИИ, като същевременно насърчава иновациите. За България и света този момент е възможност да инвестираме в етични технологии и да подготвим обществото за бъдещето. Както казва Макс Тегмар, „безопасността на ИИ е в интерес на всички“ – сега е време да действаме, преди следващият AI Summit в Индия да зададе нови стандарти.
