ЗЕҲНИ СУНЪӢ ВА ТАҲДИДҲОИ НАВИ КИБЕРӢ. Ин низом аз таҳдидҳо чӣ гуна муҳофизат карда мешавад?

ДУШАНБЕ, 13.09.2026 /АМИТ «Ховар»/. Бо рушди зеҳни сунъӣ имконоти мудофиаи киберӣ васеъ мешаванд, аммо ҳамзамон сатҳи нави таҳдидҳо ташаккул меёбад. Технологияи мазкур танҳо ба ҳимоятгарон тааллуқ надорад. Ҳамлагарон низ аз он барои баланд бардоштани суръат, миқёс ва самаранокии фишинг, муҳандисии иҷтимоӣ, таҳияи рамзи зараровар, ҷосусии киберӣ ва худкоркунонии баъзе марҳилаҳои ҳамла истифода мебаранд.

— Ҳамин тавр, дар муҳити муосири киберӣ зеҳни сунъӣ ҳам воситаи мудофиа ва ҳам воситаи ҳамла мебошад. Масъалаи асосӣ танҳо дар он нест, ки зеҳни сунъӣ то чӣ андоза қавӣ аст. Масъала дар он аст, ки ин технология то чӣ андоза бехатар истифода мешавад ва худи низоми зеҳни сунъӣ аз таҳдидҳо чӣ гуна муҳофизат карда мешавад.

Ҳамзамон бо рушди қобилияти мудофиавӣ технологияи мазкур метавонад аз ҷониби ҳамлагарон барои баланд бардоштани миқёс ва самаранокии ҳамлаҳо истифода шавад. Ҳангоми ҳамла зеҳни сунъӣ метавонад иҷрои амалҳое, чун омода намудани паёмҳои фишингии инфиродӣ, тақлид ба услуби навиштани шахс ё ташкилот, тарҷумаи худкори матни қаллобӣ ба забонҳои гуногун, эҷоди муҳтавои қалбакӣ, худкоркунонии ҷосусии ибтидоӣ, таҳлили маълумоти ҷамъоваришуда, ёрӣ дар таҳияи скрипт ва рамзи зараровар, афзоиши миқёси ҳамлаҳои муҳандисии иҷтимоӣ ва худкоркунонии баъзе марҳилаҳои ҳамла истифода шаванд. Аз ин рӯ, зеҳни сунъӣ ба ҳамлагар имконият медиҳад, ки ҳамлаеро, ки пештар вақти зиёдро талаб мекард ва иштироки як гурӯҳи мутахассисон зарур буд, бо хароҷоти камтар ва дар миқёси калонтар анҷом диҳад. Таҳдиди асосӣ на танҳо дар қавитар шудани як ҳамла мебошад. Хатари стратегӣ дар он аст, ки арзиши ташкили ҳамла паст шуда, шумораи ҳамлаҳои эҳтимолӣ зиёд мегардад.

Тибқи маълумоти ENISA Threat Landscape 2025, ки 4 ҳазору 875 ҳодисаро дар давраи аз 1 июли соли 2024 то 30 июни соли 2025 таҳлил кардааст, фишинг тақрибан 60 дарсади роҳҳои ибтидоии воридшавии мушоҳидашударо ташкил дода, истифодаи осебпазирӣ бо 21,3 дарсад дар ҷойи дуюм қарор гирифтааст. Ин рақамҳо бозгӯйи онанд, ки сарфи назар аз рушди технологияҳои нав усулҳои нисбатан классикии муҳандисии иҷтимоӣ ҳанӯз ҳам ҳамчун хатари асосӣ боқӣ мемонанд.

Зеҳни сунъӣ ин таҳдидро пурқувват мекунад, аз ҷумла он метавонад матни фишингиро бо услуби касбӣ, бе хатоҳои забонӣ ва бо назардошти маълумоти мушаххас дар бораи шахси ҷабрдида таҳия кунад. Аз ин рӯ, дар шароити зеҳни сунъӣ танҳо омӯзонидани кормандон барои шинохтани почтаи қалбакӣ кофӣ набуда, муҳофизат бояд ба сатҳи техникии муайян намудани рафтори ғайримуқаррарӣ, санҷиши ирсолкунанда, таҳлили пайвандҳо, таҳлили муҳтаво ва мониторинги шахсиятҳои рақамӣ гузарад.

Дар марҳилаи аввали амалӣ намудани зеҳни сунъӣ аксари ташкилот ба саволи «Чӣ гуна зеҳни сунъӣ метавонад амнияти моро беҳтар кунад?» ҷавоб меҷӯянд. Аммо марҳилаи нав саволи дигарро ба миён мегузорад: «Чӣ гуна худи зеҳни сунъиро бояд ҳифз кард?». Дар ин ҷо бояд байни ду мафҳум фарқ гузошта шавад. Якум AI for Cybersecurity — истифодаи зеҳни сунъӣ барои таъмини амнияти киберӣ ва дуюм Security of AI — таъмини амнияти худи низомҳои зеҳни сунъӣ. Фарқияти мазкур барои ояндаи амнияти киберӣ аҳамияти принсипиалӣ дорад.

Ин ду самт бояд якҷо рушд кунанд. Агар ташкилот зеҳни сунъиро барои ҳимоя ва ошкорсозии таҳдидҳо истифода барад, вале худи модел, додаҳои омӯзишӣ, API, маълумоти дастрасӣ ба низом ва ҳуқуқҳои ба агенти зеҳни сунъӣ додашударо ҳифз накунад, он метавонад воситаи нави ҳамла гардад.

Низоми муосири зеҳни сунъӣ метавонад дорои модел, додаҳои омӯзишӣ, API, махзани додаҳо барои нигоҳ доштани маълумоте, ки зеҳни сунъӣ онро барои ҷустуҷӯ ва ҷавоб додан истифода мебарад (vector database), дастурҳои асосие, ки ба зеҳни сунъӣ муайян мекунанд, чӣ гуна ва мувофиқи кадом қоидаҳо кор кунад (system prompt), барномаҳо ё воситаҳои иловагӣ (плагинҳо), агентҳо, маълумоти дастрасӣ ба низом (credentials), интерфейсҳои беруна ва дигар ҷузъҳо бошад. Ҳар яке аз ин ҷузъҳо метавонанд қисми ҳамла гарданд.

Дар низомҳои муосири LLM ва GenAI якчанд хавфҳои махсус пайдо шудаанд. Яке аз онҳо кӯшиши фиреб додани зеҳни сунъӣ тавассути ворид кардани дастури зараровар (prompt injection) мебошад. Дар ин ҳолат ҳамлагар бо ворид намудани дастурҳои махсус кӯшиш мекунад рафтор ё натиҷаи моделро тағйир диҳад.

Хатари дигар ифшои маълумоти ҳассос (sensitive information disclosure) мебошад. Агар модели зеҳни сунъӣ ба маълумоти давлатӣ, маълумоти шахсӣ ё дигар маълумоти маҳдуд дастрасӣ дошта бошад, нодуруст тарҳрезӣ шудани архитектура метавонад боиси ихроҷи маълумот гардад.

Масъалаи муҳимми дигар ин агенти зеҳни сунъӣ мебошад. Вақте ки агенти зеҳни сунъӣ ба низомҳои беруна пайваст шуда, метавонад файлро тағйир диҳад, фармон иҷро кунад, корбарро маҳдуд намояд ё ба дигар низомҳо муроҷиат кунад, хатои модел метавонад ба амали воқеӣ табдил ёбад.

OWASP дар рӯйхати хавфҳои соли 2025 барои LLM ва GenAI махсусан кӯшиши фиреб додани зеҳни сунъӣ тавассути ворид кардани дастури зараровар (prompt injection), ифшои маълумоти ҳассос, ҳамла ба занҷири таъминот (Supply Chain Attack), заҳролудкунии додаҳо ё модел (Data/Model Poisoning), коркарди нодурусти натиҷаи зеҳни сунъӣ (Improper Output Handling), додани ваколатҳои аз ҳад зиёд ба зеҳни сунъӣ (Excessive Agency), ошкор шудани дастурҳои дохилии низом (System Prompt Leakage) ва дигар хавфҳоро таъкид мекунад.

Аз ин рӯ, агенти зеҳни сунъӣ бо ваколати васеъ ва бе назорат метавонад ба як корбари имтиёзноки дохилӣ табдил ёбад, ки хатои он аз хатои корбари инсонӣ хеле зудтар паҳн мешавад.

Таҳдиди асосии давраи нави зеҳни сунъӣ танҳо дар пайдоиши воситаҳои нави ҳамла нест. Хатари ҷиддитар дар он мебошад, ки арзиши ташкили ҳамла коҳиш ёфта, ҳамлаҳо метавонанд бештар, тезтар ва инфиродӣ гарданд.

Ҳамзамон худи низомҳои зеҳни сунъӣ ба қисми нави сатҳи ҳамла табдил меёбанд. Аз ин рӯ, принсипи «Зеҳни сунъӣ барои амнияти киберӣ» бе принсипи «амнияти худи зеҳни сунъӣ» нопурра мебошад. Ҳар ташкилоте, ки зеҳни сунъиро ба равандҳои муҳим ворид мекунад, бояд ҳамзамон барои ҳифзи худи он низ низоми идоракунии хавф ва назорати техникӣ ташкил намояд.

Ҳакимҷон БАРОТОВ,
мутахассиси пешбари раёсати амнияти иттилоотӣ ва коркарди махзани маълумоти Агентии инноватсия ва технологияҳои рақамии назди Президенти Ҷумҳурии Тоҷикистон