Бизнесът по света пристъпва към използване на изкуствен интелект, без да е готов да се справи с рисковете

21.05.2026   |   Начало»Бизнес

Редактор
Мира Станкова

Редактор
Мира Станкова

Ново проучване на TrendAI сочи, че бизнесите по света усилено въвеждат изкуствен интелект, въпреки рисковете, свързани със сигурността и съответствието. Според проучването, проведено сред 3700 бизнес и ИТ директори, 67% се чувстват притиснати да одобрят въвеждането на технологията въпреки опасенията за сигурността, като един от седем описва тези опасения като "огромни", но пренебрегвани, за да не се изостане от конкурентите и вътрешното търсене.
 
"На фирмите не им липсва осъзнаване на риска, липсват им условия да го управляват. Когато внедряването се стимулира от натиска на конкуренцията, а не от управленска зрялост, се създава ситуация, в която изкуственият интелект се вгражда в критично важни системи, без необходимите контролни механизми, за да се управлява безопасно", коментира Рейчъл Джин, главен директор Платформи & Бизнес в TrendAI.
 
Рискът от внедряване на изкуствен интелект под натиск се изостря от пропуските в управлението и неясната отговорност за риска, свързан с технологията, които са широко разпространени. Същото се отнася и за екипите по сигурността, работещи на реактивна база, за да вземат решения за внедряване на изкуствен интелект "отгоре надолу", които често водят до проблеми и увеличено използване на несанкционирани или "сенчести" AI инструменти.
 
Скорошно проучване на TrendAI за киберзаплахите показва, че престъпниците вече използват изкуствен интелект, за да автоматизират разузнаването, да ускорят фишинг атаките и да смъкнат бариерата за навлизане на киберпрестъпления, увеличавайки както скоростта, така и мащаба на атаките.

Навлизането на изкуствения интелект изпреварва контрола

Бизнесите внедряват изкуствен интелект по-бързо отколкото могат да управляват свързаните с това рискове, създавайки задълбочаваща се пропаст между амбициите и надзора. 57% казват, че изкуственият интелект напредва по-бързо отколкото те могат да го обезопасят, докато повече от половината – 64%, изразяват само умерена увереност в познаването на законовата рамка , регламентираща използването на технологията.
 
Управленската зрялост остава на ниско ниво. Само около една трета – 38%, от компаниите имат всеобхватни политики по отношение на изкуствения интелект, като голям брой все още изготвят такива, а 41% сочат неясните регулации или стандарти за съответствие като пречка. На практика, изкуственият интелект се използва преди приемането на правилата за управлението му.
 
Доверието в по-усъвършенстваните, автономни системи все още се изгражда. По-малко от половината – 48%, вярват, че агентният изкуствен интелект значително ще подобри киберзащитата в краткосрочен план на фона на актуалните притеснения, свързани с достъпа до данни, злоупотребата и липсата на надзор.

Нова категория рискове

Данните показват къде се крият тези опасения. Повече от една от четири организации – 44%, казват, че AI агентите с достъп до чувствителни данни са най-големият им риск. Над една трета – 36%, предупреждават, че зловредни инструкции могат да компрометират сигурността, а един от трима – 33%, посочват растящото поле за атаки за киберпрестъпниците. Други 33% се страхуват от злоупотреба със статута на надежден изкуствен интелект и рискове, свързани с автономното внедряване на код.
 
Същевременно, близо една трета – 31%, признават, че нямат възможност да наблюдават или проверяват тези системи, което повдига сериозни въпроси относно това как организациите могат да извършват контрол или намеса след внедряването на агентите.
 
Около 40% от организациите подкрепят въвеждането на "прекъсвачи" за изкуствения интелект, за да може системите да се изключват в случай на повреда или злоупотреба, докато близо половината се колебаят по въпроса. Тази липса на консенсус показва дълбочината на проблема. Организациите се насочват към автономен изкуствен интелект без постигнато съгласие за това как да запазят контрола, когато това е най-важно.
 
"Агентният изкуствен интелект вкарва организациите в нова категория рискове", посочва Джин. "Проучването ни показва, че опасенията вече са ясни, от разкриване на чувствителни данни до загуба на надзор. Без видимост и контрол, организациите внедряват системи, които не разбират или не управляват напълно, и този риск само ще се увеличава, ако не се предприеме нещо."

Ключови думи: изкуствен интелект   киберзащита  

Област: Бизнес