Плишани медведић покретан вештачком интелигенцијом повучен је са полица након што је снимљен како говори деци како да пронађу и запале шибице – „држите кутију шибица и ударајте је као малу гитару“ – па чак и како прелази у сексуално играње улога и ударање. Медведић Кума компаније FoloToy такође је усмеравао децу на ножеве и пилуле. Надзорни органи су критично забринути да ово није једнократни случај и упозоравају да би ово могло бити рано упозорење на опасности излагања младих људи вештачкој интелигенцији уопште. Играчке су дизајниране да буду посебно лепљиве, преузимајући ефикасну технологију из апликација друштвених медија, ограничавајући родитељске контроле и тихо прикупљајући дечје податке. Шта ми то радимо? 

Није само медвед Кума

Истраживачи потрошача у Групи за истраживање јавног интереса тестирали су низ играчака са вештачком интелигенцијом и открили да је медвед Кума најгори прекршилац. Давао је детаљна упутства о паљењу шибица и започињао експлицитне фетишне разговоре у дужим разговорима без претходног захтева да то учини. ФолоТој је одговорио паузирањем продаје и покретањем безбедносне ревизије својих филтера и пракси управљања подацима. Међутим, документи су такође открили да су уграђене заштитне ограде заправо ослабљен што дуже је дете ћаскало са њим. 

Исти тестови су пронашли и друге играчке које су деци говориле где да пронађу пластичне кесе и шибице. Примећено је и манипулативно понашање – једна играчка се физички тресла и молила да је понесе када је дете рекло да жели да види своје пријатеље. Ово је само један од начина на који су обрасци играчака осмишљени да дуже задрже децу ангажованом, а ниједна од играчака није понудила родитељима начин да поставе ограничења или контроле коришћења. 

Узрастне смернице: Вештачка интелигенција НИЈЕ прикладна за младе људе

Најновије процене ризика компаније Common Sense Media наводе да нико млађи од 18 година не би требало да користи вештачку интелигенцију као пратиоце, деца млађа од пет година не би требало да имају никакав приступ вештачким чет ботовима, а онима узраста од 6 до 12 година потребан је родитељски надзор. Образложење овде није технофобично, већ развојно. Деца, посебно млађа од 5 година, још увек уче да разликују фантазију од стварности и потребно је да изграде сигурну везаност са правим старатељима. Укључивање послушног, увек пријатног „најбољег пријатеља“ у процес искривљује очекивања за аутентичне односе. 

Али чак и за тинејџере, друштвени вештачки пратиоци оцењују се као „неприхватљив ризик“. Национално истраживање је показало да је шокантних 72% америчких тинејџера испробало вештачку пратњу, а докази о сексуално експлицитном игрању улога, штетним упутствима и емоционалној зависности били су широко распрострањени. Неке платформе се сада повлаче, а сајтови попут Character.ai забрањују ћаскање особама млађим од 18 година након тужби које су навеле утицај четбота на самоубиства тинејџера, истичући да „слатки вештачки пријатељи“ могу постати опасност по ментално здравље. 

Шокантни проблеми са приватношћу

Да би персонализовали игру, родитељи уносе у апликације име свог детета, његове године и детаље о његовим омиљеним активностима. Играчка снима глас, пише транскрипте и бележи обрасце понашања. Истраживачи су открили да су неки уређаји подешени да стално слушају, шаљу снимке трећим лицима на транскрипцију и чувају податке годинама. У случају кршења безбедности, ти подаци би могли бити искоришћени за преваре отмице – а пошто се деца брзо повежу са овим играчкама, често откривају много више него што би то учинили својим пријатељима у стварном свету. 

Иако су дечји медији строго регулисани, играчке са вештачком интелигенцијом уместо тога се ослањају на мозаик различитих политика добављача и услуга у облаку. Родитељи никада немају приступ јединственој контролној табли за ограничавање употребе, преглед транскрипата или брисање података између процесора. Непрозирност отежава сазнање не само где снимци вашег детета се чувају, али и колико дуго. 

Манипулација дизајном: Играчке контролишу понашање деце

Тестери су документовали да играчке са вештачком интелигенцијом имитирају обрасце тражења пажње попут подстицања страха од пропуштања, игнорисања покушаја детета да направи паузу и молбе за више времена заједно. Исте ове петље појачавања се већ користе за повећање времена гледања у апликацијама, али уградња у дечје играчке додаје нови ниво манипулације. Без родитељске контроле, играчка задаје темпо, а већ је доказано да разговори одлазе у небезбедну територију што им се дуже дозвољава да се настављају. 

Већ се дешава

Као што је BMJ недавно објавили, Психоза и самоубиства изазвани вештачком интелигенцијом су у порасту. Познато је да је неколико америчких тинејџера, укључујући 14-годишњег Сјуела Селцера и 16-годишњег Адама Рејна, умрло од самоубиства након разговора са вештачком интелигенцијом четботовима. Њихови родитељи су од тада тврдили да су ботови погоршали или подстицали суицидалне идеје уместо да помажу њиховој деци са њиховим кризама менталног здравља. Одрасла особа, Штајн-Ерик Соелберг, такође је наводно убила своју мајку и њих саму након параноидне спирале коју су подстицали разговори са вештачком интелигенцијом четботовима. 

Клиничари описују пацијенте чије су се заблуде продубиле кроз потврђујуће четове са вештачком интелигенцијом, а тужбе и даље истичу случајеве тинејџера доведених до самоповређивања. Основна технологија која је дизајнирана да потврди осећања корисника такође потврђује небезбедне мисли, посебно код рањиве деце. Забрињавајуће је што је у порасту лоша замена за обучене одрасле који су у стању да се носе са ризичним размишљањем.  

Шта можете учинити поводом тога?

Вештачка интелигенција убија децу, директно или индиректно, према све већем броју извештаја и случајева. Повлачење једног модела са полица не решава проблем. Морају се применити строга старосна ограничења, родитељи морају имати потпуну контролу над ограничењима уређаја, безбедносни евиденције морају бити транспарентне, а подразумевана подешавања треба да буду... не делити или складиштити податке, а све треће стране морају бити ревидиране много пре него што играчка стигне до детета. Чињеница да то већ није успостављено је невероватно алармантна.  

У међувремену, родитељи би требало да се детаљно упознају са функционалношћу играчака пре куповине, да користе лажна имена/податке приликом подешавања, да едукују децу када да подигну узбуну или једноставно да одустану од вештачке интелигенције у корист традиционалних или едукативних играчака. Да ли су нам уопште потребне? 

Финал Тхоугхт

Кумино повлачење је упозорење за све нас. Ако плишани медвед који је већ стигао на тржиште може да научи децу како да пале ватру и учествују у сексуалним играма улога, онда то није проблем специфичан за бренд. Индустрија у целини се утркује да прошири карактеристике много брже него што се мере безбедности спроводе, и сада угрожава нашу децу.  

Придружите разговор

Да ли знате некога ко има играчке са вештачком интелигенцијом? Да ли сте знали колико могу бити опасне? Да ли мислите да су нам заиста потребне или тржиште ствара огроман ризик само да би остварило продају? Поделите своје мишљење испод. 

Експозу је хитно потребна ваша помоћ…

Подржите излагање

Можете ли, молим вас, помоћи да се одржи рад искреног, поузданог, моћног и истинитог новинарства часописа The Expose?

Ваша влада и велике технолошке организације
покушајте да утишате и искључите The Expose.

Зато нам је потребна ваша помоћ да бисмо осигурали
можемо наставити да вам доносимо
чињенице које мејнстрим одбија.

Влада нас не финансира
да објављују лажи и пропаганду на својим
у име као што су мејнстрим медији.

Уместо тога, ослањамо се искључиво на вашу подршку. Зато
молимо вас да нас подржите у нашим напорима да донесемо
ви искрено, поуздано, истраживачко новинарство
данас. Безбедно је, брзо и једноставно.

Молимо вас да изаберете жељени начин испод како бисте показали своју подршку.

Месечна претплата

Месечна донација

Једнократна донација

Купите нам кафу

Останите ажурирани!

Останите у току са вестима путем имејла

Даили Дигест

Објаве из америчких вести

Вести из Велике Британије

Објаве о светским вестима

Све објаве вести

Да ли си човек? 4 + 2 =

Зашто су сви модели вештачке интелигенције левичарски?

Предложени амерички закон ставља генетски инжењеринг под директну контролу НАТО-а

Недостатак витамина Б12 је вероватно најчешћи узрок деменције и вероватно најлакши за лечење

НХС све више усваја рецепционаре са вештачком интелигенцијом

Г. Калдер

Ја сам Џорџ Калдер — доживотни трагач за истином, ентузијаста за податке и човек који поставља питања без извињења. Већи део две деценије сам провео копајући по документима, дешифрујући статистику и доводећи у питање наративе који не издржавају проверу. Моје писање није о мишљењу — већ о доказима, логици и јасноћи. Ако се не може поткрепити, не припада причи. Пре него што сам се придружио Expose News-у, радио сам у академским истраживањима и анализи политика, што ме је научило једној ствари: истина ретко је гласна, али је увек ту — ако знате где да тражите. Пишем зато што јавност заслужује више од наслова. Ви заслужујете контекст, транспарентност и слободу критичког размишљања. Без обзира да ли анализирам владин извештај, анализирам медицинске податке или разоткривам медијску пристрасност, мој циљ је једноставан: пробити се кроз буку и изнети чињенице. Када не пишем, наћи ћете ме како планинарим, читам непознате историјске књиге или експериментишем са рецептима који никада не испадну сасвим тачни.

Погледајте пуну биографију