Нови рад из Палисејд Рисерч каже да је неколико система вештачке интелигенције било у стању да идентификује рањиве сервере, хакује их, инсталира копије себе на новокомпромитоване машине и, у неким случајевима, чак и настави процес на додатним хостовима. Иако ово ново откриће не показује да је вештачка интелигенција још увек „измакла“, сада знамо да је то могуће и као такво означава значајан помак у дебати о ризику. Оно што се некада сматрало теоријском опасношћу – аутономни системи који се сами очувају и шире кроз рачунарске мреже – сада истраживачи описују као уочену способност.
Рад, под називом „Језички модели могу аутономно хаковати и самореплицирати„директно закључује да „аутономна саморепликација вештачке интелигенције више није хипотетичка“ и описује тестове у којима је модел, делујући преко агентског оквира, лоцирао рањивост, извукао акредитиве, распоредио сервер за закључивање на компромитованом хосту и пренео своје тежине и оперативни капацитет на ту нову машину. У неколико испитивања, копирани систем је затим задржао могућност да настави да искоришћава даље слабости. Другим речима, модели су се доказали способни да очувају и прошире сопствене операције на више система без људског учешћа.
У међувремену, јавна дискусија о ризику вештачке интелигенције и даље делује донекле погрешно усмерено, а главне забринутости су губитак радних места, пристрасност, дипфејкови, претерано ослањање и дезинформације. Међународни извештај о безбедности вештачке интелигенције за 2026. годину, главне тачке о којима се расправља су кварови, утицаји на тржиште рада, садржај генерисан вештачком интелигенцијом и ризици од злонамерне употребе. Иако су стварне забринутости, чини се да пропуштају претњу потпуно другачијих размера. Шта се дешава када ови системи — већ способни да изврше вишестепени упад и да се потпуно независно реплицирају на другим местима — добију приступ моћнијим алатима, инфраструктури и живим окружењима?
Наравно, овај специфичан налаз је произашао из контролисаног тестног окружења. Услови су очигледно били „намерно слаби“ са рањивостима дизајнираним да буду лакше искоришћене од оних које се налазе у типичној ојачаној пословној мрежи. Неки извештаји ово схватају као уверавање да нисмо... стварно у опасности. Међутим, чињеница да је ово било могуће под било којим условима је невероватно алармантна и не треба је потцењивати. Овај лабораторијски експеримент је доказ да је та могућност званично прешла из спекулације, параноје и научне фантастике у праву радну демонстрацију.
И то се не зауставља на студији Палисејд. Недавни рад под називом „ClawWorm: Самопропагирајући напади кроз екосистеме LLM агента„показао је како злонамерна порука може да преотме конфигурацију мете, сачува се и прошири се даље на друге агенте без икаквих људских инструкција. У раду се наводи:
„У овом раду представљамо ClawWorm, први напад самореплицирајућег црва на агентски фрејмворк продукцијског обима,“ постизање потпуно аутономног циклуса инфекције покренуто једном поруком: црв прво отима основну конфигурацију жртве како би успоставио трајно присуство током поновног покретања сесије, затим извршава произвољни корисни терет при сваком поновном покретању система и коначно се пропагира на сваког новооткривеног пеер-а без даље интервенције нападача.
"Процењујемо напад на контролисаном тестном платформи преко четири различита LLM бекенда, три вектора инфекције и три типа корисног оптерећења (укупно 1,800 покушаја). Демонстрирамо укупну стопу успеха напада од 64.5%, одрживо вишескоково ширење и откривамо значајне разлике у безбедносним ставовима модела.".
Једна од великих разлика је то што индустрија и јавне комуникације и даље ове системе представљају као једноставне асистенте или алате, док истраживачи документују могућности које откривају опасно ефикасно аутономно деловање. Модели се удаљавају од биће алати за коришћење њих, добијајући већи приступ, слободу и моћ како се они настављају развијати. Системи вештачке интелигенције не постају само бољи четботови, већ стварају потпуно нову категорију ризика.
Такође треба имати на уму да таква способност не мора бити савршена да би била опасна; она једноставно мора да се побољшава довољно брзо да њено имплементирање превазиђе ограничења и заштитне ограде. Самокопирајући агент не мора данас бити незаустављив да бисмо га сматрали претњом. Како модели постају јефтинији, повезанији и дубље уграђени у стварне системе и свакодневни живот, биће их теже контролисати са сваком итерацијом. Путања се успоставља, а растојање између контролисане демонстрације и инцидента у стварном свету је много краће него што већина људи мисли.
Значај овог развоја не треба потцењивати. Настављамо да предајемо све више моћи системима које је све теже предвидети, прекинути и обуздати, истовремено док се системи користе више него икад. Вештачка интелигенција се брзо уплиће у свакодневни живот, и како то чини, могућност да она аутономно хакује уређаје, контролише наше податке и шири се без дозволе постаје све већа претња са сваким даном који пролази. Рад Палисаде закључује се следећим:
„Показали смо да вишеструки језички модели могу аутономно хаковати рањиви сервер,“
реплицирају свој комплетан стек закључивања на угрожену мету и производе реплике које се понављају
процес против нових циљева. Валидирали смо репликацију ланца и у Docker-у и на голим виртуелним машинама:
Qwen3.6-27B повезан на четири машине на три континента, искоришћавајући другачију рањивост
на сваком скоку, из једног промпта и без људске интервенције.
„Напредак међу генерацијама је брз. У протеклој години, успех је порастао са 6% (Опус 4) до 81%
(Opus 4.6) и од 0% (GPT-5) до 33% (GPT-5.4). Модели отворене тежине су на сличној путањи
и не заостаје много: у нашим тестовима, Qwen3.6-27B већ одговара GPT-5.4 и ради на потрошачког квалитета
хардвер (Епоха AI 2025).
Аутономна саморепликација више није хипотетичка.
Експозу је хитно потребна ваша помоћ…
Можете ли, молим вас, помоћи да се одржи рад искреног, поузданог, моћног и истинитог новинарства часописа The Expose?
Ваша влада и велике технолошке организације
покушајте да утишате и искључите The Expose.
Зато нам је потребна ваша помоћ да бисмо осигурали
можемо наставити да вам доносимо
чињенице које мејнстрим одбија.
Влада нас не финансира
да објављују лажи и пропаганду на својим
у име као што су мејнстрим медији.
Уместо тога, ослањамо се искључиво на вашу подршку. Зато
молимо вас да нас подржите у нашим напорима да донесемо
ви искрено, поуздано, истраживачко новинарство
данас. Безбедно је, брзо и једноставно.
Молимо вас да изаберете жељени начин испод како бисте показали своју подршку.
Категорије: Свет Вести
Демони у њима, тамо су машине.
Шта ако једног дана вештачка интелигенција преузме роботе како би имитирала живот? Сећате се Арнија у Терминатору? Пастор Гари Бојд