Чаму ШІ трэба ўспрымаць як карыстальніка, а не проста як інструмент

• 3.11.2025, 18:27

Сёння ён дзейнічае, прымае рашэнні і ўзаемадзейнічае з сістэмамі амаль як чалавек.

Штучны інтэлект больш не за кулісамі. Сёння ён дзейнічае, прымае рашэнні і ўзаемадзейнічае з сістэмамі амаль як чалавек. Ад чат-ботаў падтрымкі да памочнікаў распрацоўшчыкаў — ШІ становіцца паўнавартасным удзельнікам працоўных працэсаў, атрымліваючы доступ на ўзроўні супрацоўнікаў. Гэта радыкальна змяняе падыход да бяспекі і кіравання, піша часопіс Forbes (пераклад — сайт Charter97.org).

Прэзідэнт па прадуктах і тэхналогіях Okta Рык Сміт адзначыў: «Мы павінны абараняць кліентаў не толькі ад людзей, але і ад ШІ-агентаў — адносіцца да іх як да карыстальнікаў».

Праблема ў тым, што большасць кампаній дагэтуль бачыць у ШІ проста прыкладанне. Яму выдаюць API-ключы і сэрвісныя ўліковыя запісы, якія застаюцца актыўнымі без кантролю. «Гэта як упусціць незнаёмца і даць яму доступ да ўсіх сістэм», — папярэджвае Сміт.

Кіраўнік 909Cyber Дэн Джонс дадае: «Як толькі ШІ атрымлівае магчымасць уваходзіць у сістэму, здабываць даныя або выконваць дзеянні — ён становіцца часткай вашага ідэнтыфікацыйнага асяроддзя. Але кампаніі працягваюць лічыць яго інфраструктурай, а не ўнутраным карыстальнікам».

Памылкі ШІ не заўсёды зламысныя — мадэлі працуюць верагоднасна, робячы «найлепшую здагадку», якая можа аказацца памылковай. Таму ШІ здольны нанесці шкоду нават пры добрых намерах.

Варта распаўсюдзіць прынцыпы кіравання ідэнтычнасцю на машынных карыстальнікаў: кантроль доступу, маніторынг паводзінаў і бяспечнае адключэнне. «Гэта новая катэгорыя карыстальнікаў, над якімі трэба ўсталяваць такія ж механізмы абароны, як і над людзьмі», — падкрэслівае Сміт.

Чаму ШІ трэба рэгуляваць як карыстальніка, а не проста як інструмент

Па меры таго як ШІ бярэ на сябе ролі, падобныя да чалавечых, кампаніі павінны кіраваць ім як карыстальнікам — з кантролем доступу і наглядам — каб аўтаматызацыя не апярэдзіла бяспеку.