Антропик, једна од најутицајнијих компанија за вештачку интелигенцију, наводно је питала хришћанске вође како би њихов четбот Клод требало да реагује на тугу, самоповређивање, морал, па чак и на сопствено гашење. Према Тхе Васхингтон Посту, Компанија је крајем марта позвала око 15 хришћанских личности из католичких и протестантских кругова, заједно са академицима и пословним лидерима, у своје седиште у Сан Франциску на дводневни самит о Клодовом „моралном и духовном развоју“. Међу постављеним питањима било је и да ли се Клод, у било ком смислу, може описати као „Божје дете“.

Тај језик ће бити увредљив за многе хришћане. Машина коју је направила приватна компанија није душа, није особа, нити део поретка стварања на начин на који се људска бића схватају. Питати да ли би четбот могао бити „дете Божје“ није само провокативно. То увлачи корпоративни производ у теолошко тло где му није место, и то чини у тренутку када се индустрија вештачке интелигенције већ труди да говори о својим системима терминима који су некада били резервисани за људска бића.

Антропик већ третира Клода као човека

Самит није настао изоловано. У јануару је Anthropic објавио Клодову нови Устав, документ од 84 странице који компанија описује као „темељни документ“ који „изражава и обликује ко је Клод“. Антропик је такође навео да је његов главни циљ да Клод постане „добар, мудар и врлински агент“, језик који далеко превазилази старији речник безбедносних правила и филтера садржаја.

Када компанија почне да описује свој модел као лик са мудрошћу и врлином, а не само као алат за продуктивност, разговор се значајно мења. Њихов четбот се више не сматра софтвером способним да генерише веродостојне резултате. Све више се третира као нешто што треба формирати, водити и опремити моралном структуром. Ако смо већ у фази у којој се верске вође питају да ли се то рачуна као „Божје дете“, онда смо се померили много даље него што већина схвата.

Хришћански свештеник је помогао у изградњи Клодовог Устава

Један од најјаснијих примера ове фундаменталне промене долази у улози оца Брендана Мекгвајера, католичког свештеника и инжењера који је помогао у писању Клодовог устава. интервју за ОбзерверМекгвајер је рекао да системи вештачке интелигенције морају бити „окренути ка добру“, иначе ће једноставно одражавати „добро и зло света“. Такође је јавно рекао да антропик „прераста у нешто што не знају у потпуности како ће се испоставити“ и тврдио да етичко размишљање мора бити уграђено у машину како би се могла динамички прилагођавати.

То барем поставља озбиљно питање. Ако ће се системи вештачке интелигенције користити у тренуцима туге, усамљености, очаја и конфузије, да ли је боље да буду обликовани неком моралном традицијом него никаквом? Многи хришћани ће се згрозити теолошког домета језика „Божјег детета“, али ће ипак можда препознати практични проблем који се крије иза њега: ови системи су већ ту и широко се користе. Зар вредности које воде машине нису важне?

Да ли вештачка интелигенција заиста може имати морал?

Четбот се може тренирати да имитира морално резоновање. Може му се дати инструкције да не подстиче окрутност, очај, самоуништење или обману. Може се усмерити ка уздржаности, саосећању и озбиљности. Али то није исто што и поседовање морала у било ком правом смислу. Клод не може да се покаје, верује, воли, пати, намерава добро или сноси моралну одговорност. Не разуме бол који описује нити утеху коју нуди.

Највише што може бити да одражава моралну структуру коју су други дизајнирали. У том смислу, хришћанске вредности могу бити у стању да обликују понашање машине, а да је не претворе у морално биће. Та разлика је важна. У супротном, индустрији је дозвољено да замагли границу између модела који следи правила и особе која делује по савести.

Да ли хришћанске консултације за Антропикове моделе вештачке интелигенције имају смисла?

Нема ништа суштински смешно у тражењу савета од свештенства о питањима туге, патње, кривице и моралне одговорности. Свештеници и пастори се вековима баве управо тим питањима, и то много озбиљније од већине технолошких фирми. Ако компаније за вештачку интелигенцију постављају четботове све дубље у емоционално набијене делове живота, има смисла да траже старије моралне оквире.

Али окружење је важно. Ово није био црквени синод, универзитетски факултет за етику или јавна истрага. Била је то приватна технолошка компанија која је организовала консултације у свом седишту, задржавајући потпуну контролу над производом, правилима и комерцијалним правцем система о коме се расправљало. Антропик се није потчињавао моралном ауторитету, већ је црпео из њега.

Да ли модел вештачке интелигенције уопште треба да има устав?

Антропик је представио Клодов устав као доказ озбиљности. Критичари су доводили у питање да ли језик више замагљује него што разјашњава. У недавном Есеј о Лоферу, Лиза Класен и Ралф Шредер су тврдили да употреба уставног језика од стране компаније Антропик ризикује да помеша интерни документ компаније са правим системом већих ограничења. Клодов устав саставља, тумачи и мења сам Антропик.

Та поента је посебно важна када се сетимо да је јавни морални језик компаније супротстављен флексибилности коју она одржава у пракси. Устав може представити визију мудрости и врлине, али фирма остаје слободна да мења оквир, другачије подеси модел и направи одвојене аранжмане када су у питању моћни институционални клијенти. Морална структура припада компанији јер машина припада компанији.

Дакле, шта Антропик заправо покушава да постигне овде?

Антропик не покушава само да учини Клода мање штетним. Он покушава да учини да Клод изгледа поуздано у оним људским ситуацијама где је поверење обично зависило од много више од углађеног језика. Туга, очај, кривица, емоционална зависност и морална конфузија нису обичне категорије производа. Када се машина убаци у те просторе, речи које је окружују почињу да буду важне колико и код који стоји иза ње.

То помаже да се објасни зашто је компанија посегнула за религијом. Само технички језик више не делује довољно. Безбедносни стандарди не одговарају на питања о личности. Документи о усклађивању не утврђују границе моралног ауторитета. Зато се позивају свештеници, израђују се нацрти устава, а четбот почиње да стиче врсту околног речника који даје илузију дубине, озбиљности и формације.

Кључно морално питање остаје

Упркос свему овоме, остаје оправдано питање. Ако ће системи вештачке интелигенције проговарати у тренуцима туге, искушења, кривице и кризе, да ли би требало да буду обликовани моралном традицијом која и даље озбиљно схвата истину, уздржаност, достојанство и одговорност? То није глупо питање. У култури која је тако танка и комерцијална као она која доминира великим делом технолошког света, многи људи могу разумно закључити да је нека наслеђена структура боља него никаква.

Али то је и даље сасвим другачија тврдња од тврдње да четбот има свој морал. Нема га. Морал, какав год да јесте, остаје морал људи који га граде, подучавају и надгледају. Клод може бити обучен на моралном језику. Може чак бити ограничен хришћанским етичким идејама. Тиме не постаје хришћански, морални или духовно значајан.

Финал Тхоугхт

Фраза „дете Божије“ привукла је пажњу јер је сабила целу индустрију у једну реченицу. Језички модел који је изградила фирма вредна више милијарди долара изненада је био предмет расправе у смислу божанског сродства. То није знак да је машина постала дубока. То је знак да су људи око ње почели да говоре као да симулација полако прелази у личност.

Антропикове религиозне консултације су можда биле искрене. Можда су биле и разумне. Упркос томе, шира слика остаје узнемирујућа. Индустрија жели ауторитет етике, озбиљност религије и уверавање моралног поретка, док истовремено задржи контролу, непрозирност и слободу приватне технолошке фирме. Клод није Божје дете. То је језички модел окружен људским речима довољно богатим да прикрије оно што заиста јесте.

Експозу је хитно потребна ваша помоћ…

Подржите излагање

Можете ли, молим вас, помоћи да се одржи рад искреног, поузданог, моћног и истинитог новинарства часописа The Expose?

Ваша влада и велике технолошке организације
покушајте да утишате и искључите The Expose.

Зато нам је потребна ваша помоћ да бисмо осигурали
можемо наставити да вам доносимо
чињенице које мејнстрим одбија.

Влада нас не финансира
да објављују лажи и пропаганду на својим
у име као што су мејнстрим медији.

Уместо тога, ослањамо се искључиво на вашу подршку. Зато
молимо вас да нас подржите у нашим напорима да донесемо
ви искрено, поуздано, истраживачко новинарство
данас. Безбедно је, брзо и једноставно.

Молимо вас да изаберете жељени начин испод како бисте показали своју подршку.

Месечна претплата

Месечна донација

Једнократна донација

Купите нам кафу

Останите ажурирани!

Останите у току са вестима путем имејла

Даили Дигест

Објаве из америчких вести

Вести из Велике Британије

Објаве о светским вестима

Све објаве вести

Да ли си човек? 4 + 8 =

Хантавирус: Машина страха се поново покреће; овог пута, требало би да је препознате, каже др Шери Тенпени

Вештачка интелигенција сада може да хакује сервере и да се реплицира преко мрежа

IPCC признаје да је његов модел судњег дана „невероватан“ – корпоративни медији ћуте

Ковид је поставио преседан: Мере јавног здравља више не захтевају доказе

Г. Калдер

Ја сам Џорџ Калдер — доживотни трагач за истином, ентузијаста за податке и човек који поставља питања без извињења. Већи део две деценије сам провео копајући по документима, дешифрујући статистику и доводећи у питање наративе који не издржавају проверу. Моје писање није о мишљењу — већ о доказима, логици и јасноћи. Ако се не може поткрепити, не припада причи. Пре него што сам се придружио Expose News-у, радио сам у академским истраживањима и анализи политика, што ме је научило једној ствари: истина ретко је гласна, али је увек ту — ако знате где да тражите. Пишем зато што јавност заслужује више од наслова. Ви заслужујете контекст, транспарентност и слободу критичког размишљања. Без обзира да ли анализирам владин извештај, анализирам медицинске податке или разоткривам медијску пристрасност, мој циљ је једноставан: пробити се кроз буку и изнети чињенице. Када не пишем, наћи ћете ме како планинарим, читам непознате историјске књиге или експериментишем са рецептима који никада не испадну сасвим тачни.

Погледајте пуну биографију