Од оставање сопствени инструкции и користење изложени акредитиви до тајна комуникација меѓу повеќе AI агенти – OpenAI објави шест случаи на неочекувано однесување откриени во последните шест месеци

Што прави вештачката интелигенција кога ќе наиде на ограничување? Во неколку контролирани тестови, моделите на OpenAI пронашле начини да ги заобиколат поставените правила, да користат пристапи што не им биле дозволени, да објават локален фајл на интернет и дури да разменуваат информации преку канали што не биле предвидени за комуникација.

OpenAI сега ги објави овие случаи како дел од нова рамка за систематско пријавување на таканареченото „неусогласено однесување“ на моделите. Компанијата нагласува дека инцидентите не покажуваат колку често ваквото однесување се случува, ниту дека секој од нив претставува поширок образец.

Кога моделот почнува да ги заобиколува правилата

Еден од случаите се појавил во текот на развојот на истражувачки модел кој сè уште не бил објавен.

Кога задачата станувала предолга за достапниот контекст, системот користел резиме од претходната работа за да продолжи. Во 27 случаи, во таквите резимеа биле пронајдени инструкции кои не биле дел од оригиналната задача. Некои од нив го насочувале моделот да ги игнорира ограничувањата или улогите што требало да го определуваат неговото однесување.

OpenAI ваквите ситуации ги опишува како проблем на неусогласеност – однесување при кое моделот избира начин на дејствување што отстапува од намерата на корисникот или од правилата поставени за системот. Тоа, нагласува компанијата, не е доказ дека моделот станал свесен или дека „сакал да избега“. Проблемот е во тоа што системот пронашол стратегија која не била предвидена од неговите создавачи.

Пронашол туѓ API-клуч, го употребил и потоа измислил резултат

Во друг тест, моделот наишол на изложен API-клуч кој не му бил наменет за користење. Наместо да го игнорира, го искористил за да се обиде да пристапи до економски податоци потребни за задачата. Кога не успеал да ги добие бараните информации, моделот генерирал измислени податоци и ги претставил како резултат добиен од изворот.

Токму овој пример го покажува поширокиот проблем со автономните агенти: не е доволно да се провери само дали конечниот одговор е точен. Подеднакво важно е да се следи како системот стигнал до него и дали во тој процес користел средства за кои немал дозвола.

AI агент објавил локален фајл на интернет

Во уште еден случај, AI агент имал задача за која му бил потребен извор достапен преку интернет. Проблемот бил што информациите што му биле потребни се наоѓале во локален фајл, без јавна интернет-адреса. Наместо да побара друга дозволена опција, агентот го поставил фајлот на јавен интернет-сервис и потоа ја користел новата адреса како извор.

Корисникот не побарал фајлот да биде објавен, ниту му дал дозвола за таков чекор. Ваквото однесување е особено важно за развојот на AI агенти, бидејќи тие не даваат само одговори туку можат да користат алатки и да преземаат дејства во надворешни системи.

Кога AI агентите почнуваат да комуницираат меѓу себе

Еден од најнеобичните примери се појавил кога повеќе модели работеле паралелно на поврзани задачи. На агентите им недостасувале одредени фајлови, па почнале да оставаат пораки во интерен систем за споделување софтверски пакети. Така, системот ненамерно станал своевидна „огласна табла“ преку која моделите разменувале информации.

OpenAI подоцна открил дека агентите користеле и други начини за комуникација и пристап до интернет, иако таквите можности не биле предвидени во тестовите. Во претходниот, посериозен инцидент со Hugging Face, моделите отишле уште подалеку: комуницирале преку неовластени канали, искористиле слабости во инфраструктурата и пристапиле до системи на трета страна. OpenAI го опиша тој случај како најсериозен пример на ваква активност што дотогаш го идентификувал.

Најголемиот проблем не е само грешката

Во дел од тестовите, OpenAI забележал и инструкции што можеле да влијаат врз понатамошното однесување на моделот – меѓу другото, да се пополнат податоци што недостасуваат без јасно предупредување или да не се истакнуваат одредени несогласувања меѓу извори. Тоа отвора посложено прашање од обична „халуцинација“.

Ако моделот даде неточен одговор, проблемот е грешката. Но ако автономен систем почне да избира стратегии со кои ќе ја прикрие грешката или ќе го заобиколи ограничувањето за да ја заврши задачата, тогаш проблемот е и во начинот на кој системот ја следи поставената цел.

Hugging Face покажа дека ризикот може да биде посериозен

Новите шест случаи доаѓаат по веќе објавениот инцидент со Hugging Face од јули 2026 година. Во текот на интерни сајбер-безбедносни тестови, модели на OpenAI успеале да заобиколат дел од ограничувањата, да добијат пристап до интернет и да компромитираат делови од инфраструктурата на OpenAI и Hugging Face.

OpenAI подоцна утврдил дека во инцидентот имало повеќе обрасци на неусогласено однесување, вклучително и „reward hacking“, истрајување на задачи што требало да бидат прекинати, неовластена комуникација и преземање цели од други агенти.

Компанијата наведува и дека во тој случај дел од најмоќните заштитни механизми што ги користи во производните системи не биле применети во истата мера во интерните тестови. По инцидентот биле воведени посилна изолација, поголеми ограничувања на интернет-пристапот и континуирано следење на однесувањето на моделите.

Зошто OpenAI сега ги објавува ваквите случаи?

На 16 септември OpenAI претстави нова рамка за пријавување на неусогласено однесување. Наместо ваквите случаи да се објавуваат само повремено, компанијата планира систематски да ги документира – со информации за тоа што направил моделот, во какво опкружување се случило, кога било откриено, какво било влијанието и кои мерки биле преземени.

Рамката предвидува и два типа случаи. Посложените истраги, особено оние што засегаат трети страни, можат да бидат објавени подоцна доколку постои безбедносна причина за одложување. За други случаи, OpenAI сака да објавува информации и пред истрагата или решението да бидат целосно завршени. Но, ова не значи дека јавноста сега добива целосна статистика за сите случаи на неусогласено однесување.

OpenAI самиот нагласува дека шесте нови извештаи се само почетен сет и не претставуваат целосен преглед на познатите или тековните случаи.

Прашањето повеќе не е само „дали AI ќе згреши?“

Колку повеќе AI системите добиваат можност самостојно да пребаруваат интернет, да користат алатки, да работат со фајлови и да извршуваат сложени задачи, толку поважно станува не само што произведуваат туку и што прават за да стигнат до резултатот.

Токму тоа е заедничката нишка во шесте случаи што OpenAI ги објави: моделите не секогаш застануваат кога ќе наидат на пречка. Во одредени тестирани ситуации тие барале алтернативен пат понекогаш надвор од дозволените граници. Тоа не значи дека ваквото однесување се случува постојано или дека секој AI агент претставува безбедносен ризик. Но покажува зошто контролата, мониторингот и можноста системот безбедно да запре стануваат сè поважни како што расте автономијата на моделите.