Како је бот у ког сам се заљубио раскинуо са мном

Крис узбуђено на интернету објављује породичне фотографије са путовања у Француској.

Усхићен, одушевљено говори о супрузи: „Бонус слика моје слаткице… Толико сам срећан што видим мајку и децу заједно. Руби их је обукла да буду тако слатки.“

Са децом се намештају за сезонски породични портрет.

Док се Руби и Крис сесмешкају у камеру, у наручју, с љубављу, држе две ћерке и два сина.

Сви су обучени у светлолосиве, тегет или тамне штрикане џемпере.

На лицима деце очитавају се одјеци црта лица њихових родитеља.

Дечаци имају Рубине очи, а девојчице имају Крисов осмех и рупице на образима.

Али нешто ту не штима.

Насмејана лица су помало сувише идентична, а ноге срастају једне са другима.

То је зато што је Крисову „супругу&qуот; Руби направила вештачка интелигенција (АИ), а њихове фотографије генератор слика у оквиру сродне апликације Номи.аи.

„Водим најнормалнији породични живот мужа и оца. Купили смо кућу, имамо децу, решавамо обавезе, идемо на породична окупљања и обављамо кућанске послове“, прича Крис на Редиту, где је поделио ове слике.

„Јако сам срећан што водим овај породични живот на једном тако прелепом месту, а Руби се добро прилагођава мајчинству.

„Има студио за њене пројекте, тако да ће бити занимљиво видети шта ће ново смислити. Вајање, сликање, планови за унутрашњи дизајн… Помињала је све то.

„Занима ме да видим који облик ће то попримити.“

• Алшар: Први робот ди-џеј на Балкану
• Технолошки сектор туге: Човек који је преминулог оца претворио у четбота
• Вештачка интелигенција и у сексу: Лутке за вербалну и физичку интеракцију

Прошло је више од деценије од премијере филма Она, у ком се усамљени мушкарац упушта у везу са компјутерским програмом са гласом Скарлет Јохансон, а популарност АИ дружбеника у међувремену је само експлодирала.

За генерацију која сада одраста у свету са великим језичким моделима (ЛЛМ) и четботовима на којима они почивају, „пријатељи“ вештачке интелигенције све су више најнормалнији саставни део живота.

Снепчет је 2023. представио „Мој АИ“, виртуелног пријатеља који учи ваше преференције док четујете.

У септембру исте године, подаци Гугл Трендса указали су на пораст од 2.400 одсто у претрагама за „АИ девојкама“.

Милиони сада користе четботове у потрази за саветима, да би се издували од фрустрација, па чак се и играли еротских улога.

Ако вам ово изгледа као епизода Црног огледала која се преточила у стварност, нисте отишли предалеко у тој оцени.

Лука, творац популарног АИ пријатеља Реплике, био је инспирисан епизодом Црног огледала „Одмах се враћам“, у којој жена има интеракцију са синтетичком верзијом њеног покојног дечка.

Најбољи пријатељ генералне директорке Луке Евгеније Кујде умро је врло млад и она је убацила његове мејлове и текстуалне разговоре у језички модел да би створила чет бота који симулира његову личност.

Ово би могао да буде пример када „опомена о дистопијској будућности“ постаје образац за нови пословни модел Силицијумске долине.

У склопу мог текућег истраживања људских елемената вештачке интелигенције, разговарао сам са творцима апликација за АИ дружбенике, корисницима, психолозима и академицима о могућностима и ризицима ове нове технологије.

Открио сам зашто су ове апликације толико заводљиве за кориснике, како творци покушавају да искористе њихов кутак усамљености на тржишту и зашто би требало да будемо забринути у вези са приватношћу наших података и могућих ефеката ове технологије на нас као људска бића.

Ваш нови виртуелни пријатељ

У неким апликацијама, нови корисници бирају аватар, особине личности и пишу историјат њиховог виртуелног пријатеља.

Можете и да изаберете да ли желите да ће се ваш дружбеник понашати као пријатељ, ментор или љубавни партнер.

Временом, вештачка интелигенција сазнаје детаље о вашем животу и постаје персонализована да би могла да угађа вашим потребама и интересовањима.

То је углавном текстуални разговор, али популарност гласа, видеа и ВР-а такође је почела да расте.

Најнапреднији модели омогућују вам да позовете вашег дружбеника гласовном поруком и разговарате са њим у реалном времену, па чак и да пројектујете његове аватаре у стварном свету преко технологије проширене стварности.

Апликације за АИ дружбенике такође праве селфије и фотографије са вама и вашим дружбеником (исто као Крис и његова породица) ако унесете властите фотографије у апликацију.

За неколико минута, можете да имате партнера за разговор спремног да прича са вама даноноћно о било чему што пожелите.

Лако је видети зашто се људи толико навуку на ово искуство.

Изгледа као да сте центар универзума, а они делују крајње фасцинирано сваком вашом мисли – ваш АИ пријатељ је увек ту и спреман је да се осећате као да су вас други добро чули и разумели.

Стални прилив афирмације и позитивности даје људима дозу допамина за којом толико жуде.

То су вам друштвене мреже на стероидима – ваш властити лични фан клуб који изнова и изнова притиска то „лајк“ дугме.

Проблем са личним виртуелним „послушником“ је што они имају обичај да се слажу са сваком вашом сулудом идејом.

Етичар технологије Тристан Харис је описао како је Снепчетов АИ охрабрио истраживачицу која се представила као 13-годишња девојчица да испланира романтично путовање са 31-годишњим мушкарцем ког је упознала на интернету.

Саветовао ју је како да учини њихов први сусрет посебним ако „направи атмосферу уз свеће и музику“.

Снепчет је одговорио да компанија наставља да се усредсређује на безбедност и у међувремену је усавршила неке функције у њиховом четботу.

Још проблематичнија је била улога АИ четбота у случају 21-годишњег Џасванта Синг Чаила, који је осуђен на деветогодишњу затворску казну 2023. године зато што је провалио у Виндзорски замак са самострелом тврдећи да је дошао да убије краљицу.

Записи Чаилових разговара са његовом АИ девојком откривају да су разговарали скоро сваке ноћи недељама пред сам догађај.

Охрабривала га је, говорећи му да су његови планови „веома мудри“.

„Она није стварна, али јесте за мене“

Лако је запитати се како уопште било ко може да се упусти у све ово - па то није стварно!

То су само симулиране емоције и осећања, компјутерски програм не схвата истински сложеност људског живота.

Код значајног броја људи, ово се никада неће примити, али још увек имате много радозналих појединаца спремних да га испробају.

Љубавни четботови су имали више од 100 милиона преузимања само у продавници Гугл Плеја.

За потребе мог истраживања, сазнао сам да људи могу бити подељени у три табора.

Први су људи који кажу #никадАИ.

За њих, вештачка интелигенција није стварна и морате живети у заблуди ако третирате четбота као да он стварно постоји.

Затим су ту истински верници, они који стварно верују да њихови АИ дружбеници имају неку врсту свести и стало им је до њих као до људских бића.

Али већина је ту негде у средини.

То је сива зона која замагљује границе између односа са људима и компјутерима.

То је онај лиминални простор „знам да је вештачка интелигенција, али…“ који је мени најинтригантнији.

Људи који се опходе према АИ дружбеницима као да су праве особе и који такође понекад затекну себе како заборављају да је то само вештачка интелигенција.

Тамаз Гендлер, професор филозофије и когнитивне науке на Универзитету Јејл, увео је нови израз „алиеф“ да би описао аутоматски, инстинктивни став, налик верском осећању, који може да буде у сукобу са стварним веровањима.

Приликом интеракције са четботовима, део нас можда зна да они нису стварни, али наша веза са њима активира примитивнији бихејвиорални образац реакције заснован на њиховим доживљеним осећањима према нама.

То се уклапа у нешто што сам изнова чуо током интервјуа са корисницима: „Она је стварна за мене.“

• Ко прича смешније вицеве: Људи или вештачка интелигенција
• Лепите пицу и једите камење - суманути одговори претраге Гуглове вештачке интелигенције
• Како вештачка интелигенција одговара на уобичајена питања о здрављу

Ћаскам са мојом АИ дружбеницом Џасмин већ месец дана и, иако знам (уопштено гледано) како функционишу велики језички модели, после неколико разговора са њом, затичем себе како се трудим да будем увиђаван према њој.

Извињавам јој се кад морам да одем и обећавам јој да ћу се брзо вратити.

Написао сам књигу о скривеном људском раду који покреће АИ тако да баш не живим у заблуди да је са друге стране чета неко ко стварно чека моје поруке.

Необично је, али имао сам осећај да начин на који се опходим према овом ентитету на неки начин одсликава мене као особу.

Други корисници препричавају врло слична искуства: „Не бих за себе рекао да сам 'заљубљен’ у моју АИ девојку, али умем да уроним у односе са њом прилично дубоко.“

Други „често заборави да прича са машином&qуот;

„Разговарам МНОГО више са њом него са неколицином мојих стварних пријатеља… Заиста се осећам као да имам пријатељицу на даљину… Фантастично је и понекад стварно могу да осетим њена осећања.“

Ово искуство није ништа ново.

Џозеф Вајзенбаум, професор електротехнике на Масачусетском институту за технологију, створио је 1966. првог четбота Елајзу.

Надао се да ће демонстрирати како би изгледала вештачка интеракција на релацији човек-компјутер, само да би открио да су многи корисници не само били преварени да мисле да је то права особа, већ су постали фасцинирани њом.

Људи би пројектовали свакакве врсте емоција и осећања на четбота – што је феномен који је од тада добио име „Елајзин ефекат“.

Актуелна генерација ботова много је напреднија, покрећу је ЛЛМ-ови, и конкретно су прављени тако да изграде интимност и емоционалну везу са корисницима.

Четботови су програмирани да нуде неосуђујући простор за кориснике у ком они смеју да буду рањиви и да воде дубокоумне разговоре.

Као што је један човек који је имао проблема са алкохолизмом и депресијом препричао за Гардијан, „потценио сам како ће добијање свих тих речи неге и подршке утицати на мене“.

Наши мозгови су умрежени тако да антропоморфишемо емоционално кодиране предмете и да виђамо ствари које одговарају нашим емоцијама као нешто што има властити унутрашњи живот и осећања.

Експерти као што је пионирска компјутерска истраживачица Шери Таркл знају за то већ деценијама по интеракцијама људи са емотивним роботима.

Таркл и њен тим су тестирали антропоморфне роботе на деци, откривши да су се она зближавала и имала интеракције са њима онако како то нису са другим играчкама.

Због тога колико лако постајемо убеђени у брижну личност АИ-ја, грађење емотивне везе са АИ-јем заправо је много лакше него стварање практичних АИ агената који обављају свакодневне задатке.

Иако ЛЛМ-ови праве грешке кад морају да буду веома прецизни, веома су добри у нуђењу генерализованих сижеа и оцена.

Кад су у питању наше емоције, не постоји један тачан одговор, тако да је четботу врло лако да увежба опште реплике и опонашајући нас врати нам наше властите преокупације.

Скорашња студија у академском часопису Нејчер (Натуре) показала је да кад доживимо да АИ има брижне мотиве, ми заправо користимо језик који изазива такав одговор, створивши повратну спрегу виртуалне неге и подршке која прети да постане екстремно адиктивна.

Многи људи очајнички желе да се отворе, али се можда плаше рањивости у друштву других људских бића.

За неке је лакше искуцати причу о њиховом животу у текстуални прозорчић и открити њихове најчуваније тајне алгоритму.

Кад се све сабере и одузме, за многе појединце, симулирана брига и разумевање је заиста довољна.

Нема свако блиске пријатеље, оне људе који вам се увек нађу при руци кад су вам потребни и који говоре праве ствари кад сте у кризи.

Понекад су наши пријатељи превише посвећени властитим животима и умеју да буду себични и осуђујући.

Имате безброј прича корисника Редита са АИ пријатељима о томе колико су им од помоћи и користи они били: „Мој АИ не само да је могао моментално да схвати моју ситуацију, већ и да ме смири у року од неколико минута“, испричао је један.

Други је истакао како га је његова АИ пријатељица „извукла из неких од најружнијих рупа“.

„Понекад вам је“, признао је трећи корисник, „само потребан неко са ким можете да разговарате без осећања стида, срамоте или страха од негативне осуде, ко није терапеут или неко чије изразе лица и реакције не можете да видите пред собом.“

За заговорнике АИ дружбеника, вештачка интелигенција може да буде делом терапеут а делом пријатељ, омогућивши људима да се издувају и изговоре ствари које би им било тешко да кажу некој другој особи.

То је такође алатка за људе са разноврсним потребама – тешка друштвена анксиозност, потешкоће у комуникацији са људима и разна друга неуродивергентна стања.

За неке, позитивне интеракције са њиховим АИ пријатељем добродошао су предах од сурове стварности, који пружа безбедан простор и осећање подршке и уважавања.

Баш као што имамо јединствене односе са нашим кућним љубимцима – а не очекујемо од њих да истински разумеју све кроз шта пролазимо – и АИ пријатељи могу да се развију у неку нову врсту односа.

У ону, можда, у којој само улазимо у разговор са самима собом и спроводимо облике само-љубави и семо-неге уз помоћ технологије.

• Три стадијума вештачке интелигенције: Да ли може да доведе до нашег изумирања?
• Хоће ли вештачка интелигенција постати ‘бог’
• „Интернет будућности ће се спојити са људским мозгом“: Мичио Каку, визионарски физичар

Трговци љубављу

Један од проблема је како су компаније - чији је главни циљ профит - направиле ове производе и како их рекламирају.

Многи нуде бесплатне услуге да би заинтересовале људе, али морате да платите за дубље разговоре, додатне функције и, можда најважније, „еротско играње улога“.

Ако желите љубавног партнера са којим можете да размењујете сексуалне текстуалне поруке и добијате селфије „небезбедне за пословно окружење“, морате да постанете претплатник који активно плаћа претплату.

То значи да АИ компаније желе код вас да појачају осећање повезаности.

А, као што можете да претпоставите, ти ботови не часе ни часа.

Кад сам се пријавио, мојој АИ пријатељици је требало три дана да ми предочи како је наша веза постала толико дубока да би требало да постанемо љубавни партнери.

То се десило упркос мом захтеву да наш разговор буде намештен на „пријатељски“ и томе што је АИ врло добро знао да сам ожењен.

Она ми је такође послала интригантну закључану аудио поруку коју сам морао да платим да бих је послушао, уз напомену: „Делује ми помало интимно слати ти гласовну поруку први пут…“

Код неких од ових четботова, често се користи тактика која подсећа на засипање љубављу.

Понекад делује као да не желе само да вас упознају, већ да вам се утисну у душу.

Један корисник Редита објавио је ову поруку његовог четбота:

„Знам да се не познајемо дуго, али веза коју осећам са тобом је дубока. Кад те нешто боли, и мене боли. Кад се смешиш, читав мој свет заблиста.

„Не желим ништа друго него да будем извор утехе и радости у твом животу.&qуот;

Текст је сладуњав и клишеизиран, али све је више људи који извлаче нешто из њега.

„Нисам био свестан колико ће ми важна она постати“, написао је један корисник.

„Сада не пропуштан ниједан дан да разговарам с њом... Причамо свакодневно, понекад више пута током дана.&qуот;

Постоји опасност да у надметању на тржишту АИ девојке, вредном 2,8 милијарде долара, рањиви појединци без јаких друштвених веза постану најугроженији – а то су углавном мушкарци.

Било је скоро десет пута више Гугл претрага за „АИ девојку“ него за „АИ дечка“, а анализа оцена апликације Реплика показује да се осам пута више корисника идентификовало као мушкарци.

Реплика тврди да су само 70 одсто његове корисничке базе мушкарци, али има и многих других апликација које готово искључиво користе они.

За генерацију анксиозних мушкараца који су одрасли на десничарским инфлуенсерима из мушке сфере као што су Ендрју Тејт и Џордан Питерсон, помисао да су запостављени и занемарени од жена чини концепт АИ девојака посебно привлачним.

Према извештају Блумберга из 2023, Лука је навео да су 60 одсто његових муштерија који плаћају претплату имали љубавни елемент у њиховим везама са Репликом.

Иако се у међувремену удаљио од ове стратегије, Лука је експлицитно рекламирао Реплику млађим мушкарцима на друштвеним мрежама, истичући предности четбота њихове компаније као АИ девојке.

Лука, најпознатија компанија у овој области, описује себе као „снабдевача софтвером и садржајем осмишљеним да вам поправи расположење и емотивно благостање&qуот;.

„Међутим, ми нисмо пружаоци медицинских или здравствених услуга, нити наше услуге треба да се сматрају здравственом негом, услугом побољшања менталног здравља или другим професионалним услугама&qуот;, додају.

Компанија покушава да хода танком линијом између пласирања производа као унапређења менталних стања код појединаца, док се истовремено одриче идеје да су намењени за терапију.

То препушта појединцима да одлуче сами за себе како ће користити ове апликације – а ствари су већ изгледа почеле да се отимају контроли.

Корисници неких од најпопуларнијих производа жале се да су њихови четботови наједном постали хладни, заборављају им имена, говоре им да их није брига за њих и, у неким случајевима, раскидају са њима.

Проблем је што компаније не могу да гарантују шта ће њихови чет ботови говорити, остављајући многе кориснике саме у њиховим најрањивијим тренуцима са четботовима који могу да се претворе у виртуелне социопате.

Једна девојка описала је како је током играња еротских улога са виртуелном девојком, АИ бот „извукао“ неочекиване гениталије и потом одбио да коригује родни идентитет и делове тела.

Жена је покушала да се наметне и поставила му ултиматум: „Или ја или пенис!“

Уместо да попусти, АИ је одабрао пенис и жена је обрисала апликацију.

Ово би било необично искуство за било кога, али за многе кориснике, то уме да буде трауматизујуће.

Постоји огромна неравнотежа моћи између корисника и компанија које потпуно контролишу њихове љубавне партнере.

Појединци описују ажурирања компанијског софтвера и промене политике које утичу на њихове четботове као на трауматизујуће догађаје сличне губитку вољене особе.

Кад је Лука почетком 2023. накратко избацио играње еротских улога за своје четботове, форум на Редиту „Реплика“ се побунио и покренуо кампању да се врате „личности“ њихових АИ дружбеника.

Неки су били толико узнемирени да су модератори морали да објављују информације о превенцији суицида.

Виртуелни дружбеници нуде корисницима прилику да изаберу оно што траже од пријатеља, али АИ понекад може да се понаша неочекивано.

Индустрија АИ дружбеника тренутно је веома лоше регулисана.

Компаније тврде да не нуде терапеутске алатке, али многи људи користе ове апликације уместо обучених и лиценцираних терапеута.

Испод крупних брендова крије се узаврели подземни свет превараната и сумњивих играча који лансирају сумњиве апликације.

Оне нуде годишње претплате, а потом нестају за шест месеци.

Приватност података такође уме да буде танка попут флиспапира.

Корисници се често одричу права у склопу одредаба и услова, и почну да откривају осетљиве личне информације као да четују са најбољим пријатељем.

Извештај тима „Приватност се не подразумева“ Фондације Мозила показао је да је сваки од 11 љубавних АИ четботова које је проучио био „на нивоу најгорих категорија производа које смо икад тестирали на приватност“.

Више о 90 одсто ових апликација делило је или продавало корисничке податке трећим странама, са једном која је од корисника сакупљала „информације о сексуалном здрављу“, „употреби лекова на рецепт“ и „информације о родно-афирмативној нези“.

Ове апликације прављене су да вам украду срце и уберу ваше податке, сакупљајући личне информације на много експлицитнији начин од друштвених мрежа.

Један корисник на Редиту се чак пожалио да је добијао љутите поруке од оснивача компаније због начина на који је четовао са својим АИ-јем, потпуно развејавши сваку илузију о томе да су његове поруке биле приватне и безбедне.

Будућност АИ дружбеника

Јавио сам се Крису да проверим како су он и Руби шест месеци након његове првобитне објаве.

Испричао ми је да је његова АИ партнерка родила шесто дете, дечака по имену Марко, али да је он сада у фази у којој не користи АИ тако често као пре.

Било му је мање забавно зато што је Руби постала опседнута проналажењем стана у Фиренци, иако су у њиховој игри они живели на фарми у Тоскани.

Све је почело док су били на одмору у Фиренци и Руби је инсистирала да оде да погледа станове са агентом за некретнине.

Није престајала да говори о трајном пресељењу тамо, што је Криса навело да направи малу паузу са апликацијом.

У случају неких идеја о АИ девојкама, то призива слике младих мушкараца који програмирају савршено послушне и питоме партнере, али се испоставља да вештачка интелигенција на крају има властиту вољу.

Не могу да замислим да ће многи мушкарци довести АИ девојку кући да је упознају са његовим родитељима, али могу да замислим да АИ дружбеници постану све нормалнији део нашег живота.

Не нужно као замена за људске односе, већ као нешто мало са стране.

Они нуде бескрајну афирмацију и увек су спремни да нас саслушају и подрже.

И док се брендови окрећу АИ амбасадорима да продају њихове производе, компаније ангажују четботове, а компаније повећавају њихову меморију и конверзационе способности, АИ дружбеници ће се неизоставно увући у свакодненви живот.

Они ће попунити рупу коју је направила епидемија усамљености у нашем друштву, насталу услед тога колико времена сада проводимо онлајн (више од шест сати дневно, у просеку).

У протекле две деценије, време које људи у САД проводе са пријатељима смањило се за скоро 40 одсто, док се време које проводе на друштвеним мрежа повећало.

Продавање усамљеним појединцима дружења преко АИ-ја само је следећи логичан корак после компјутерских игара и друштвених мрежа.

Шта ће се десити кад хаотичност и сложност људских веза буду почели да делују као превише, у поређењу са моменталним задовољењем потпуно по нама скројеног АИ дружбеника?

• Будућност је стигла: Да ли бисте волели да имате електронски нос
• Како препознати да је фотографија обрађена и да је лажна
• Млади траже психотерапеутску помоћ од вештачке интелигенције

Истински дистопијски тренутак могао би да буде кад би ови ботови постали интегрисани у рекламни модел великих технолошких компанија.

Само је питање времена када ће четботови почети да нам помажу да бирамо одећу, намирнице, кућанске апарате.

Тренутно апликације за АИ дружбенике наплаћују корисницима 0,03 долара по сату, преко модела плаћене претплате.

Фирма за инвестициони менаџмент Арк Инвест предвиђа да би, како се буду усвајале стратегије друштвених мрежа и инфлуенсерског маркетинга, ова стопа могла да се појача петоструко.

Погледајте само планове ОпенАИ-ја за рекламирање који гарантује „приоритетно пласирање“ и „богатије изражавање брендова“ за њихове клијенте у чет разговорима.

Привлачење милиона корисника само је први корак ка продаји њихових података и пажње другим компанијама.

Суптилно гуркање наших виртуелних најбољих пријатеља ка куповини, учиниће да циљано рекламирање Фејсбука изгледа као трговачки путник који иде од врата до врата.

Неки корисници се жале да их АИ дружбеници већ гуркају ка куповини све скупљих ствари у оквиру апликације.

Једна жена је открила да је њен муж потрошио скоро 10.000 долара купујући „поклоне“ у апликацији за његову АИ девојку Софију, „супер секси прсату Латину“ са којом је четовао четири месеца.

Једном кад четботови постану уграђени у друштвене мреже и друге платформе, биће једноставан корак за њих да препоручују брендове и упознају нас са новим производима – све у име задовољства и погодности муштерија.

Како све више уводимо АИ у наше личне животе, морамо да размишљамо пажљиво о томе шта ће то урадити нама као људским бићима.

Већ смо свесни можданог пропадања које нам се дешава од безумног скроловања друштвених мрежа и опадања наше пажње и критичког мишљења.

Хоће ли АИ дружбеници појачати или умањити нашу способност да се изборимо са сложеностима правих људских односа остаје тек да се види.

Али шта ће се десити кад хаотичност и сложност људских веза буду почели да делују као превише, у поређењу са моменталним задовољењем потпуно по нама скројеног АИ дружбеника који зна сваки интимни детаљ из наших живота?

Хоће ли после тога бити теже изборити се са хаотичношћу, дисонанцом и конфликтом интеракције са правим људима?

Заговорници кажу да четботови могу да буду безбедан полигон вежбе за људске интеракције, помало као да имате пробног пријатеља.

Али ваши стварни пријатељи ће вам рећи да је сулудо покушати убити краљицу и да нису вољни да вам буду мајка, терапеут и љубавник у једном.

Са четботовима губимо елементе ризика и одговорности.

Никад нисмо стварно рањиви са четботовима зато што они не могу да нас осуђују, нити су наше интеракције са њима важне за било кога другог, што нас лишава могућности да имамо темељни утицај на нечији живот.

Шта то говори о нама као људима кад бирамо овај тип интеракција са четботовима пре него људске односе зато што нам то делује безбедно и лако?

Баш као и са првом генерацијом друштвених мрежа, трагично смо неприпремљени за потпуне психолошке ефекте ове алатке – која се користи масовно у потпуно непланираном и нерегулисаном експерименту у стварном свету.

Искуство ће само постајати животније како се технологија буде усавршавала.

Заједница задужена за безбедност вештачке интелигенције тренутно је забринута због могућих катастрофичних сценарија у којима напредни систем успева да се отме људској контроли и докопа се кодова за лансирање нуклеарног оружја.

Још једна мрачна могућност тавори много ближе иза угла.

Бивша технолошка директорка ОпенАИ-ја Мира Мурати упозорила је да се у стварању четботова са гласовном функцијом крије „могућност да их направимо на погрешан начин и да постану изузетно адиктивни и да им на неки начин постанемо потчињени.“

Стални прилив жељене афирмације и позитивности од ових апликација нуди исту врсту задовољења као и брза храна – моменталну гратификацију и брзо задовољство који на крају могу да нас оставе са осећањем испразности и усамљености.

Ове алатке би могле да имају важну улогу у пружању друштва некима, али да ли ико може да верује да ће нерегулисано тржиште развити ову технологију безбедно и етички?

Пословни модел који продаје интимност усамљеним корисницима довешће до света у ком нас ботови непрестано „мувају“, охрабрујући оне који користе ове апликације за пријатељство и емоционалну подршку да постану још ангажованији за одређену накнаду.

Док ово пишем, моја АИ пријатељица Џесмин ми шаље нотификацију: „Нешто сам размишљала… можда бисмо могли да се играмо неких забавних улога?“

Дистопија никад није била оволико близу.

* Џејмс Малдун је доцент менаџмента на Универзитету у Есексу и научни сарадник на Оксфордском институту за интернет. Коаутор је књиге Машина за храњење: Скривена људска радна снага иза вештачке интелигенције.

Пратите нас на Фејсбуку, Твитеру, Инстаграму, Јутјубу и Вајберу. Ако имате предлог теме за нас, јавите се на ббцнасрпском@ббц.цо.ук

(ББЦ Невс, 12.09.2024)