Агентният изкуствен интелект вече не се ограничава до отговори на отделни въпроси. Все по-често ИИ системите могат да изпълняват последователни задачи, да използват различни инструменти, да следят дали дадена стъпка е изпълнена и да продължават работа с по-малко човешка намеса.

В новия блог пост на НИИ, разглеждаме тезата на Andreas Horn, че основното ограничение при внедряването на агентен ИИ все по-често не е самата технология, а начинът, по който са организирани работните процеси. Ако една организация има бавни процедури, неясна отговорност, множество нива на одобрение или неподходящо структурирани данни, ИИ агентът ще наследи същите ограничения.

Коментарите към публикацията разширяват този аргумент. Те показват, че не всяка административна или организационна процедура трябва да бъде премахната. Част от тях съществуват заради контрол, отчетност, защита на данни, проверка на доказателства и управление на риска. Затова по-важният въпрос не е само „Какво може да направи ИИ?“, а „Какво трябва да бъде позволено на AI да прави самостоятелно?“.

За преподавателите това има пряко значение. ИИ агенти могат да подпомагат търсене и организиране на литература, анализ на данни, подготовка на учебни материали, административни дейности и проследяване на работни процеси. Но академичната преценка, оценяването, интерпретацията на резултати, етичните решения и отговорността за качеството трябва да останат ясно дефинирани.

За студентите промяната е също толкова важна. В бъдеще няма да е достатъчно да умеят да задават добри prompts. Ще трябва да могат да управляват ИИ процеси, да проверяват доказателства, да оценяват риска, да разбират кога е необходим човешки контрол и да обясняват защо приемат или отхвърлят даден ИИ резултат.

Блог постът предлага и практическа рамка за определяне на подходящото ниво на ИИ автономност. Тя разглежда пет типа задачи: рутинни и обратими, аналитични, работа с чувствителни данни, решения със значими последствия и високорискови или необратими действия.

Основният принцип е: колкото по-голям е рискът, по-трудно е резултатът да бъде проверен и по-тежки са последствията от грешка, толкова по-силна трябва да бъде ролята на човека.

За ИУ – Варна това е важна следваща стъпка в разговора за ИИ грамотност, хибриден интелект и институционална отговорност. Въпросът вече не е само как да използваме ИИ, а как разумно да разпределим задачите, решенията и отговорността между хората и AI системите.

02 ное 2026