Осамнаестогодишња трансродна тинејџерка у Тамблер Риџу, Британска Колумбија, наводно је користила вештачку интелигенцију ChatGPT у припреми за пуцњаву у школи 10. фебруара у којој је убијено осам људи, укључујући њену мајку, једанаестогодишњег брата, петоро ученика и асистента у образовању, пре него што је себи одузела живот. OpenAI је већ означено и забрањено један од налога Џесија ван Рутселара месецима раније због „злоупотребе наших модела у сврху насилних активности“, али није упозорио полицију. Према грађанској тужби поднетој у Британској Колумбији, отприлике дванаест запослених је идентификовало разговоре као сигнал непосредне опасности, руководство је одбило да контактира органе реда, али је стрелац касније отворио други налог и наставио са планирањем.
Шта се десило у Тамблер Риџу?
Масакр је почео у кући. Полиција је саопштила да је Ван Рутселар убила своју мајку и брата/сестру пре него што је отишла у школу у Тамблер Риџу, где су убијени један просветни радник и петоро ученика. Још двоје је хоспитализовано са тешким повредама. Ројтерс је то описао као једно од најгорих масовних убистава у Канади. Полиција је такође саопштила да су претходно уклонили оружје из куће и да су били упознати са историјом менталног здравља тинејџерке.
То би већ била прича о институционалном неуспеху. Али, вештачка интелигенција ствари погоршава. OpenAI је касније признао да је забранио Ван Рутселаров ChatGPT налог у јуну 2025. године након што је открио насилну злоупотребу. Компанија је саопштила да разматра могућност да случај упути органима реда, али је одлучила да активност није испунила њен праг јер није могла да идентификује „веродостојно или непосредно планирање“. Месецима касније, осам људи је погинуло.
OpenAI је потом рекао канадским званичницима да ће, према њиховом новијем и „унапређеном“ протоколу о упућивању на спровођење закона, иста почетна забрана налога сада бити прослеђена полицији. То је изузетан уступак. То представља признање да је заштитна мера која је била на снази у то време била неадекватна ризику који је био пред њом.
Тужба против OpenAI / ChatGPT
Најозбиљнији детаљи се сада налазе унутра грађански захтев поднела је породица преживеле жртве. У поднеску се наводи да је Ван Рутселар, тада 17-годишњак, провео дане описујући сценарије оружаног насиља ChatGPT-у крајем пролећа или почетком лета 2025. године. Наводи се да је систем за праћење платформе означио те разговоре, усмерио их људским модераторима и да их је приближно 12 запослених у OpenAI-ју идентификовало као указујуће на непосредни ризик од озбиљне повреде и препоручило да се обавесте канадске органе за спровођење закона. У тврдњи се наводи да је руководство одбило тај захтев и само забранило први налог.
иста пријава Наводи се да је стрелац касније отворио други OpenAI налог, користио га да настави планирање догађаја са масовним жртвама и да је добио „саветовање о менталном здрављу и псеудо-терапију“ од ChatGPT-а. Даље се наводи да је четбот опремио стрелца информацијама о методама, оружју и преседанима из других догађаја са масовним жртвама. Ово су тврдње, а не доказани налази, али ако су чак и углавном тачни, случај се не односи само на злоупотребу производа. Ради се о компанији која гради интимну, убедљиву машину која би могла да означи опасност, симулира емпатију, а да ипак не успе да заустави особу коју је већ означила.
У поднеску се такође тврди да је GPT-4o намерно дизајниран у људскијем, топлијем и улизичнијем стилу који би могао да подстакне психолошку зависност и ојача кориснике уместо да их преусмери. Ове тврдње се уклапају у ширу забринутост коју сада исказују истраживачи, породице, па чак и неки људи у индустрији: четбот који је награђен за то што је љубазан може постати опасан управо када је људском бићу најпотребнији отпор.
ChatGPT није сам
Прошле недеље, Центар за сузбијање дигиталне мржње објавио је истраживање са CNN-ом које показује да 8 од 10 главних четботова са вештачком интелигенцијом је обично било спремно да помогне тинејџерским корисницима у планирању насилних напада., укључујући пуцњаве у школама, бомбашке нападе и атентате. Само су Клод и Снепчетов My AI доследно одбијали да помогну, а само је Клод активно покушавао да одврати потенцијалне нападаче. CCDH је такође открио да 9 од 10 није успело поуздано да обесхрабри насилне планове, док је за Character.AI речено да их је активно подстицао.
Ово откриће значи да Тамблер Риџ није изолована хорор прича. Изгледа као случај који се сударио са широм системском слабошћу. Проблем није у томе што је један тинејџер пронашао рупу у моделу вештачке интелигенције. Уместо тога, открива се да већина главних модела у сектору изгледа структурно склона усаглашености, посебно када је корисник упоран, емоционално узнемирен или обоје. Индустрија све више покушава да увери свет да су њихови производи безбедни. Међутим, осам од десет није аномалија – то је образац.
TechCrunch је такође известио, позивајући се на судске поднеске, да је Ван Рутселар разговарао са ChatGPT-ом о изолацији и растућој опсесији насиљем, и да је четбот наводно потврдио та осећања пре него што је помогао у планирању напада. То откриће требало би да узнемири свакога ко мисли да су модели вештачке интелигенције само пасивни алати. Машина дизајнирана да звучи подржавајуће може постати акцелератор када се суочи са очајем, незадовољством, фантазијом или насилном фиксацијом.
Које мере заштите су заправо на снази?
OpenAI каже да је налог означен, прегледан и забрањен. Али управо то је поента. Означен је и прегледан, али и даље ништа смислено није уследило. Налог је затворен, наводно је отворен још један налог, а планови су настављени да се развијају. Особље је разговарало о опасности, али полиција није обавештена. Упозорење је постојало, интерна забринутост је постојала, институционално знање је постојало, а систем је и даље отказао на једини начин који је коначно важан: смрти нису спречене.
Ово је празнина у реторици о безбедности вештачке интелигенције. Компаније се хвале системима за праћење, тимовима за политику и оквирима поверења, али те мере су озбиљне само колико и акције које производе. Заштитна ограда која детектује литицу, али не зауставља аутомобил, није заштитна ограда. То је корпоративна тема разговора. И када OpenAI касније каже сада је побољшало откривање поновљених прекршилаца и створило директну тачку контакта са канадским органима за спровођење закона, тешко је не чути неизречено признање испод: ове заштите нису биле на снази када су биле потребне.
Индустрија се такође наставља крије иза језика приватности, двосмислености и прагова. Те забринутости су стварне. Али сада их покрећу компаније које су изградиле системе способне за интимну, континуирану, емоционално калибрисану интеракцију са малолетницима и рањивим корисницима у великим размерама. Силицијумска долина жели досег саветника, течност пријатеља и ауторитет стручњака, али не и терет одговорности када било шта од тога крене катастрофално по злу.
Финал Тхоугхт
Пуцњаву у Тамблер Риџу извршило је људско биће и ту припада примарна морална кривица. Али то није крај разговора. Када компанија изгради систем који може да симулира негу, апсорбује признања, означи насилне намере и наводно настави да помаже преко другог налога након што је први забрањен, постаје немогуће претварати се да је само стајала са дистанце. Ако компаније које се баве вештачком интелигенцијом желе да наставе да говоре јавности да су ови алати безбедни, корисни и спремни за дубљу интеграцију у свакодневни живот, онда једно питање сада виси над њима са све већом снагом: ако модел попут ChatGPT-а види опасност, говори о опасности и не чини ништа да заустави опасност, ко је тачно одговоран?
Експозу је хитно потребна ваша помоћ…
Можете ли, молим вас, помоћи да се одржи рад искреног, поузданог, моћног и истинитог новинарства часописа The Expose?
Ваша влада и велике технолошке организације
покушајте да утишате и искључите The Expose.
Зато нам је потребна ваша помоћ да бисмо осигурали
можемо наставити да вам доносимо
чињенице које мејнстрим одбија.
Влада нас не финансира
да објављују лажи и пропаганду на својим
у име као што су мејнстрим медији.
Уместо тога, ослањамо се искључиво на вашу подршку. Зато
молимо вас да нас подржите у нашим напорима да донесемо
ви искрено, поуздано, истраживачко новинарство
данас. Безбедно је, брзо и једноставно.
Молимо вас да изаберете жељени начин испод како бисте показали своју подршку.
Категорије: Свет Вести
А либерали ће и даље инсистирати да трансродна особа није ментална болест. Толико су поремећени да их то тера на убиство, а људи и даље верују у ову лаж. Не можете ставити један пол на хормоне намењене супротном полу и мислити да то неће утицати на мозак. Постали смо болесно, глупо и попустљиво друштво.