OpenAI показује „безобзирно непоштовање“ безбедности производа, права људи на сопствени лик, па чак и стабилности демократије, наводи се у писму које је написала организација Public Citizen. Видео платформа Sora се обично користи за кратки садржај на друштвеним мрежама, креирајући клипове довољно забавне да би се лајковали и делили. Популарна тема су снимци са лажних камера на вратима, где се дешава нешто помало необично, а да притом остане донекле уверљиво – попут кенгура који долази на нечија врата или лабаво забавне уличне сцене – али софтвер би брзо могао да постане опасност за све нас. 

Јавни грађанин је управо позвао OpenAI да повуче Сору из јавне употребе, називајући то непромишљеним објављивањем које појачава дипфејкове, крађу идентитета и дезинформације о изборима. Да ли је то толико лоше колико кажу? 

Опасност од дипфејкова

Организација Public Citizen је написала писмо компанији OpenAI и америчком Конгресу захтевајући да се апликација Sora искључи из мреже док се не имплементирају робусне, тестиране заштитне ограде. Њихова тврдња је да је апликација покренута неодговорно рано како би се стекла конкурентска предност, а да се нису размотриле неопходне мере безбедности. Кључни ризици су коришћење сличности без пристанка и широко распрострањена обмана, јер се синтетички видео снимци шире брже него што јавност може да потврди њихову аутентичност.  

Заговорник технолошке политике организације Public Citizen, Џеј Би Бранч – аутор писма – каже: „Наша највећа брига је потенцијална претња демократији. Мислим да улазимо у свет у коме људи не могу заиста да верују ономе што виде. И почињемо да виђамо стратегије у политици где је прва слика или први видео који се објави оно чега се људи сећају“. 

Бранч је наставио: „Они притискају педалу газе без обзира на штету. Много тога делује предвидљиво. Али радије би избацили производ на тржиште, натерали људе да га преузму, навели људе који су зависни од њега, него да раде праву ствар и претходно тестирају ове ствари и брину о тешкој ситуацији свакодневних корисника“. 

OpenAI је изазвао самоубиства, наводи се у тужбама

Седам нових тужби поднетих прошле недеље у калифорнијским судовима тврди да је четбот доводио људе до самоубиства и штетних заблуда, чак и када нису имали претходних проблема са менталним здрављем. У име шест одраслих и једног тинејџера, Центар за право жртава друштвених медија и Пројекат за право технолошке правде поднели су тужбе тврдећи да је OpenAI свесно прерано објавио своју GPT-4o итерацију прошле године, упркос интерним упозорењима да је опасно улизична и психолошки манипулативна. Четири жртве су умрле самоубиством.  

Организација „Јавни грађанин“ није укључена у тужбе, али понавља забринутост изнету у њима. Бранч каже да OpenAI блокира голотињу, али ипак „жене виде да су узнемираване на мрежи“ на друге начине. Извештај организације 404 Media прошле недеље открио је поплаву видео снимака жена које је направио Сора, на којима се види како их даве.  

За шта се користе Sora AI видео снимци

Сора омогућава свима да праве кинематографске лажне филмове, било да су то измишљене сцене звона на вратима, познате личности које певају уз усне или фотореалистичне мини драме које изгледају као снимци очевидаца. Ови клипови су дизајнирани да буду смешни, дељиви и застрашујући – у крајњој линији због допамина. Али када се деле на онлајн платформама, контекст нестаје и многи људи их схватају као да су стварни.  

Вашингтон пост је тестирао теорију. Поставили су лажни видео који је направио Сора на осам главних платформи са уграђеним подацима о садржају отпорним на неовлашћено коришћење. Само једна платформа – Јутјуб – идентификовала је и открила његову вештачку природу, али је сакрила ознаку у опису. Ако платформе не могу, или неће, да пренесу јасне сигнале о томе шта је стварно, а шта лажно, онда не постоји начин да се гледаоци заштите од обмањујућег садржаја. 

Где би могло да крене по злу – и већ јесте

• ИзбориШачица реалистичних фалсификата, попут измишљених полицијских пуцњава, фалсификованих признања кандидата и фалсификованих извештаја о спољној политици, може утицати на излазност бирача и изазвати немире много пре него што се провере чињеница могу спровести. Организација „Јавни грађанин“ упозорава на Сорин утицај на „стабилност демократије“. 

• Узнемиравање и изнудаНеконсензуални дипфејкови сексуалног живота, блаћење репутације и опште кампање изнуде већ су проблем са фотографијама – видео умножава штету  

• Преваре о јавној безбедностиЛажни снимци катастрофа или упозорења о ванредним ситуацијама шире се брже од исправки, збуњујући прве реаговаоце и јавност. Сорин невероватан реализам у свакодневном контексту је неупоредив, а уочавање разлике је теже него икад. 

• Економска превараСинтетички видео снимци извршних директора, јавних личности или познатих инфлуенсера могу створити класичне преваре са гласовним или имејл лажним имејловима, терајући запослене или појединце да шаљу новац путем банковног трансфера. Клонирање гласа већ вара банке – замислите и моћ лажних видео снимака. 

Шта OpenAI каже да ради на решавању опасности

OpenAI је почео да ограничава појављивање јавних личности у камео формату и увео је контроле корисника над „AI селфовима“ где би се могао појавити лични аватар. С једне стране, они јасно признају ризик. Али с друге стране, не решавају ефикасно проблем у потпуности. Речено је да је „прекомерна модерација изузетно фрустрирајућа“ за нове кориснике и да је важно бити конзервативан „док се свет још увек прилагођава овој новој технологији“. 

У октобру су јавно објавили споразуме са породицом Мартина Лутера Кинга Млађег, спречавајући „непоштовање“ лидера за грађанска права док је компанија радила на бољим заштитним мерама. OpenAI је такође објавио исти споразум са познатим глумцима, синдикатом SAG-AFTRA и агенцијама за таленте. 

„Све је то лепо и у реду ако сте познати“, рекао је Бранч, али је истакао још један проблем. „То је само образац који OpenAI има где су спремни да одговоре на негодовање веома мале популације. Спремни су да објаве нешто и да се потом извине. Али многа од ових питања су дизајнерски избори које могу да направе пре објављивања.“ 

Шира слика вештачке интелигенције

Писмо организације „Public Citizen“ стиже усред све већег сазнања да градимо платформе које олакшавају обману него икад, уместо да стварамо системе за заштиту од ње. Сора видео снимци могу бити занимљиви, али неразлучиви брзином скроловања, а без веродостојних ознака које истичу синтетички садржај за кориснике, једноставно дозвољавамо јавности да се навикне на лажни садржај, на крају постајући неспособна да примети разлику.  

OpenAI није измислио дипфејкове, а конкуренти ће се тркати да му парирају. Право вођство би захтевало успоравање док се не поставе заштитне ограде, уместо да се креће тако брзо да никада не можемо да изградимо праву заштиту. У међувремену, надзорна тела ће наставити да захтевају његово уклањање из јавног домена док обични људи не буду могли да разликују чињенице од фикције. 

Финал Тхоугхт

Да ли мислите да бисте могли тачно да разликујете најновије видео записе вештачке интелигенције од стварности? Који је највећи ризик у вези са доступношћу ове технологије свима? Шта можемо да урадимо поводом тога? Поделите своје мишљење испод. 

Експозу је хитно потребна ваша помоћ…

Подржите излагање

Можете ли, молим вас, помоћи да се одржи рад искреног, поузданог, моћног и истинитог новинарства часописа The Expose?

Ваша влада и велике технолошке организације
покушајте да утишате и искључите The Expose.

Зато нам је потребна ваша помоћ да бисмо осигурали
можемо наставити да вам доносимо
чињенице које мејнстрим одбија.

Влада нас не финансира
да објављују лажи и пропаганду на својим
у име као што су мејнстрим медији.

Уместо тога, ослањамо се искључиво на вашу подршку. Зато
молимо вас да нас подржите у нашим напорима да донесемо
ви искрено, поуздано, истраживачко новинарство
данас. Безбедно је, брзо и једноставно.

Молимо вас да изаберете жељени начин испод како бисте показали своју подршку.

Месечна претплата

Месечна донација

Једнократна донација

Купите нам кафу

Останите ажурирани!

Останите у току са вестима путем имејла

Даили Дигест

Објаве из америчких вести

Вести из Велике Британије

Објаве о светским вестима

Све објаве вести

Да ли си човек? 4 + 2 =

Неуспеси Велике Британије у вези са хотелима за азил настављају се новом пресудом

Медицински стручњаци позивају британског министра здравља да истражи озбиљну пристрасност GMC-а и MPTS-а

Лабуристи нису једина влада која је продала Британце исламу; исламофилија ће заувек променити Британију

Институт за вирусологију у Вухану развија јестиве вакцине и вакцине за комарце како би их претворио у „летеће вакцине“

Г. Калдер

Ја сам Џорџ Калдер — доживотни трагач за истином, ентузијаста за податке и човек који поставља питања без извињења. Већи део две деценије сам провео копајући по документима, дешифрујући статистику и доводећи у питање наративе који не издржавају проверу. Моје писање није о мишљењу — већ о доказима, логици и јасноћи. Ако се не може поткрепити, не припада причи. Пре него што сам се придружио Expose News-у, радио сам у академским истраживањима и анализи политика, што ме је научило једној ствари: истина ретко је гласна, али је увек ту — ако знате где да тражите. Пишем зато што јавност заслужује више од наслова. Ви заслужујете контекст, транспарентност и слободу критичког размишљања. Без обзира да ли анализирам владин извештај, анализирам медицинске податке или разоткривам медијску пристрасност, мој циљ је једноставан: пробити се кроз буку и изнети чињенице. Када не пишем, наћи ћете ме како планинарим, читам непознате историјске књиге или експериментишем са рецептима који никада не испадну сасвим тачни.

Погледајте пуну биографију