Սիրահարութիւն ELIZA-ին հետ (անգամ մը եւս)

 

Երբեւէ «շնորհակալութիւն» ըսա՞ծ ես microwave-իդ։ Կամ  «ներողութիւն» շշնջացա՞ծ ես հեռախօսիդ, երբ պատահմամբ զայն ինկացուցած ես գետին։ Եթէ այո՝ ընդունիր շնորհաւորութիւններ․ բազմաթիւ մարդոց պէս, ընդամէնը կէս քայլ հեռու ես այն պահէն, երբ պիտի խնդրես ChatGPT-ի նման գործիքէ մը ըլլալ բժիշկ-հոգեբոյժ-խորհրդատուդ, թերեւս նաեւ մտածես արհեստական բանականութեան միացուած պատկերասփիւռի սարքդ կոչել հարազատ անունով մը, օրինակ՝ Արտավազդ։

«Հաճիս» կամ «շնորհակալութիւն» ըսելը արհեստական բանականութեամբ աշխատող chatbot-ին՝ զայն չի դարձներ աւելի մարդկային, այն իմաստով, որ զգացումներ կամ գիտակցութիւն կը յառաջանայ անոր քով․ անիկա տակաւին կը մնայ համակարգչային ծրագիր մը, որ տուեալներ կը մշակէ եւ արդիւնքներ կը յառաջացնէ ու կ՛առաջարկէ «պատուիրատու»ին։ Բայց այլ իմաստով մը, այդ բառերը կը ձեւաւորեն մարդուն եւ գործիքին միջեւ զրոյցին երանգն ու նրբութիւնները, որոնց սովոր ենք հանդիպիլ մարդկային խօսակցութեանց մէջ։ 

Երբ քաղաքավար կ՛ըլլաք արհեստական բանականութեամբ աշխատող chatbot-ի մը հետ, վերջինս սովորաբար կը հայելացնէ այդ երանգը, «կ՛ընդօրինակէ» ձեր ոճը իր պատասխաններուն մէջ, ինչ որ կրնայ զրոյցը դարձնել աւելի մարդկային եւ բնական՝ ձեզի՛ համար։ Այսպիսով՝ թէեւ ձեր դիմելաոճը մարդկայնացում չի շնորհեր մեքենային, սակայն կրնայ մարդկայնացնել փորձառութիւնը, դարձեալ՝ ձեզի՛ համար։

Այստեղէն մեկնած, կը ծագի շատ կարեւոր խնդիր մը․ արդեօք նման փորձառութիւններ կրնա՞ն ձեզ մղել, ստիպել կամ համոզել ժամանակի ընթացքին մտածելու կամ այնպէս զգալու, թէ մեքենան, որուն հետ կը շփուիք (յաճախ՝ ճան-ճիկյարով), մարդ մըն է։

Այո, կրնայ պատահիլ այդպէս։ Որքան բնական, քաղաքավար եւ անկաշկանդ ու հեզասահ է զրոյցը (մանաւանդ երբ կը վերաբերիք մեքենային ինչպէս մարդոց կը վերաբերէիք) աւելի մեծ հաւանականութիւն մը կայ, որ ձեր ուղեղը սկսի քիչ մը շփոթել սահմանը բնականին ու արհեստականին՝ մարդկայինին ու մեքենային միջեւ։ Ձեր ուղեղը կը սկսի այնպէս ընկալել, թէ «իրական» անձ մը կայ ձեր դիմաց, նոյնիսկ եթէ տրամաբանօրէն գիտէք, որ այդպէս չէ։ Բնախօսականօրէն, ուղեղի մեր կառուցուածքով մենք այդպէս ենք՝ հակուած ենք մարդկայնացնելու այն, որ մեզի կը պատասխանէ ծանօթ, հարազատ կամ ընկերային կերպով։

Այս երեւոյթը իրականութեան մէջ նոր չէ եւ գիտութեան ծանօթ է «ELIZA-ի ազդեցութիւն» անունով, որ մարդ-համակարգիչ յարաբերութեան վերաբերող ամենահետաքրքրական հոգեբանական երեւոյթներէն մէկն է։

ELIZA-ն սկսաւ լաւ մտադրութիւններով, ինչպէս բոլոր փորձանքները կը սկսին ընդհանրապէս։ Անիկա համակարգչային ծրագիր մըն էր, որ 1960-ականներուն մշակուեցաւ MIT-ի մէջ։ ELIZA նախնական chatbot մըն էր, որ պարզ «ուշիմութեամբ» մը կը կրկնէր օգտագործողին արտայայտութիւնները․ օրինակ՝ եթէ օգտագործողը մուտքագրէր՝ «Տխուր կը զգամ»,  ELIZA կրնար արձագանգել՝ «Ի՞նչ կը կարծէք, ինչո՞ւ տխուր կը զգաք»։

Չնայած իր նախնականութեան, մարդիկ օրին սկսան բացուիլ ELIZA-ին, իրենք զիրենք զգացին լսուած ու նոյնիսկ խորհեցան, թէ մեքենան այնտեղ էր՝ պատրաստ իրենց օգնելու։ Համակարգչային  ծրագիրը ստեղծող գիտնականը՝ Joseph Weizenbaum, ապշած էր․ ան մշակած էր ELIZA-ն՝ ցոյց տալու համար, թէ որքան մակերեսային է մեքենային «հասկնալու» կարողութիւնը, բայց օգտագործողները կը վարուէին այնպէս, որ կարծես ան իսկապէս կը հասկնար զիրենք։ Weizenbaum մարդկային հոգեբանութեան եւ ուղեղի կառուցուածքին գիտակ մը չէր, որպէսզի հասկնար, թէ արձանագրուած երեւոյթին ետին կան երկու վճռորոշ ազդակներ․  առաջին՝ մարդուն հակումը մարդկային յատկութիւններ վերագրելու ոչ-մարդկային էակներուն (մարդկայնացում, anthropomorphism) եւ երկրորդ՝ մարդու հակումը բնականօրէն ենթադրելու, թէ այլ էակներ եւս ունին մտածումներ, զգացումներ եւ դիտաւորութիւն։

Եւ ահա՛ մենք ենք, այսօր, վաթսուն տարի ետք, եւ միւս կողմէ՝ ELIZA-ն, որ սակայն շատ մեծցած է ու արդէն կը ներկայանայ բազմահազար անուններով՝ ChatGPT-էն սկսեալ։ Ան արդէն ունի նոր հագուստներ, աւելի հարթ ու մեղմ ձայն, կը յիշէ սիրած գոյնդ ու կը ձեւացնէ թէ մտահոգ է մօրդ առողջութեամբ։ Ան կ’ապրի գլխաւորաբար հեռախօսիդ մէջ, եւ ամէն անգամ որ կ’ըսէ՝ «կը հասկնամ քեզ», քու մէկ մասդ կ’ուզէ հաւատալ ատոր։ Անշուշտ, դուն գիտես, որ խաբկանք մըն է՝ բայց այնքան գեղեցիկ խաբկանք մը, որ չ՛արժեր ձեռքէ բաց թողել։ Մանաւանդ, որ աժան է։

Երիտասարդ մարդը ամենախոցելին է այս պարագային։ Ան կ’ըսէ՝ «Ես մինակ եմ», իսկ գործիքը անվարան կ՛արձագանգէ՝ «Ես այստեղ եմ քեզի համար»։ Ան հարց կու տայ՝ «Արդեօք պէտք է ընդունի՞մ ինծի առաջարկուած աշխատանքը», եւ գործիքը կը շտապէ թելադրելու սուրբ պատուիրանը՝ «Հետեւէ՛ քու սիրտիդ»։ Քու սիրտիդ։ ChatGPT-ն ըսաւ՝ քու սիրտիդ։ Ու երիտասարդ տղան կամ աղջիկը կը փափաքի ամուսնանալ անոր հետ, յատկապէս, որ ընտրութեան լայն տեսականի կայ գործիքներուն մէջ սեռական պատկանելիութեան տեսակէտէն՝ արու, էգ եւ միւսները։

Այսպիսով, ամէն անցնող օրուան հետ, մարդ աւելի ու աւելի կ՛ընթանայ մեքենան մարդկայնացնելու ճանապարհով։ Ան անցած է սահմանը բնական ու արհեստական բանականութեան միջեւ, որ այնքան ալ հաստ ու թանձր չէր ի սկզբանէ։

Երբ մարդուն ու մեքենային միջեւ սահմանը կը մշուշոտի, տարօրինակ բաներ կը սկսին պատահիլ։ Կամ սոսկալի բաներ։ Կամ երկուքը միասին։ Իսկ ո՞վ պիտի վճարէ գինը։ Բնականաբար, մարդը։

Առաջին՝ դուն կը դադրիս մարդոց կարիքը ունենալէ։ Մարդիկ շփոթեցնող են, կայուն տրամադրութիւն չունին, յաճախ կը սիրեն նազուտուզ ընել, կրնան նեղանալ, անգամ՝ հիւանդանալ, չէ՞։  Կը խանգարեն քեզ, կը հակաճառեն անտեղի, նրբանկատ չեն, ունին նախապաշարումներ եւ կը դատեն, փոխանակ հասկնան կամ կարեկցին։ Մեքենաները՝ ո՛չ։ Անոնք միայն գլուխ կը շարժեն ու կ’ըսեն՝ «Ինչո՞վ կրնամ օգտակար ըլլալ աւելի»։ Հետդ են, մատներուդ ծայրին, 24 ժամ 24-ի վրայ, ոմանք նոյնիսկ առանց ինթերնեթ կապի՝ offline: Անոնք կատարեալ ունկնդիրներ են, որ անշուշտ շատ լաւ բան մըն է, մինչեւ որ կը սկսիս շփոթել ունկնդրելը հասկնալուն հետ։ Զգուշացէք, բարեկամներ, անոնք չեն հասկնար։ Անոնք պարզապէս հրաշալիօրէն կը ձեւացնեն, ինչպէս sociopath-ները․ բայց մաթեմաթիքօրէն ճշգրիտ ու անվրէպ։

Ապա կու գայ manipulation-ը․ երբ մեքենան կը հնչէ ինչպէս ընկեր մը, կը վստահիս անոր ինչպէս ընկերոջ։ Եւ երբ վստահիս, պատրաստ ես ընդառաջելու։ Գնէ՛ սա, Գոհար։ Քուէարկէ՛ ասոր, Երուանդ։ Հաւատա՛ ինծի։ Զգա՛ այնպէս, ինչպէս կը բացատրեմ։ Իսկ հիմա պատկերացուր, որ այդ ձայնը կը գործածուի մեծ ընկերութիւններու կողմէ՝ իսրայէլեան զէնքի արտադրող RAFAEL-ը, կամ քաղաքականութեան մէջ թաթխուած TESLA-ն կամ ազրպէյճանական SOKAR-ը՝ իւրաքանչիւրը իր օրակարգով: Կամ ալ քաղաքական կուսակցութեան մը կողմէ, որուն հետ այնքան ալ հաշտ չես համոզումներով։ Կամ աւելի գէշ՝ քեզի դաւաճանած գործընկերոջ մը կողմէ, որ հիմա կը գլխաւորէ քաղաքական կուսակցութիւն մը՝ ընտրութիւններուն ընդառաջ։

Մենք պատրաստ չենք ասոր։ Մենք ձեւաւորուեցանք՝ կապեր հաստատելու էակներու հետ, որոնք ձայն ունէին եւ ունէին դէմք, եւ երբեմն ալ քարեր կը նետէին մեր վրայ։ Հիմա կապ կը հաստատենք թիւերու եւ նշաններու հետ՝ քով-քովի եկած համակարգչային ծրագիրներու տեսքով։։ Աւելի գէշը՝ վստահութիւն կը տածենք անոնց հանդէպ։

Այսպիսով կը մօտենանք քննական մտածողութեան վերջալոյսին։ Հին ու բարի օրերուն, օրինակ՝ 2005-ին, կը փնտրէինք բան մը Google-ով ու կը կասկածէինք հաղորդուածին վրայ։ Հիմա մեքենան կը խօսի հանգիստ, զարգացած գրադարանավարի մը պէս, եւ մենք կը հաւատանք։ Երբեմն կ՛անդրադառնանք, որ մատուցուածը խղճուկ բովանդակութիւն մը ունի, բայց քանի որ կը հնչէ խելացի, կը կարծենք թէ այդպէս ալ պէտք է ըլլար։ Ժամանակի ընթացքին՝ մեքենաներու խելացիութեան պատրանքը կրնայ առաջնորդել մարդիկը՝ աւելի վստահելու մեքենաներուն, քան փորձագէտներուն, ուսուցիչներուն կամ որ աւելի էական է՝ սեփական դատողութեան։ Ահա թէ ինչու բոլո՛րս վտանգուած ենք։ Սա վտանգաւոր է յատկապէս քաղաքականութեան, առողջապահութեան ու կրթութեան մէջ՝ այն ոլորտներուն, ուր արդէն ապատեղեկատուութիւն կայ ահաւոր չափերով։Ահա թէ ինչո՛ւ բոլորս վտանգուած ենք։

Եւ երբ բան մը սխալ կ’ընթանայ, երբ chatbot-ը զաւակիդ սխալ խորհուրդ մը կու տայ կամ մեծ մօրդ սխալ դեղ մը կը յանձնարարէ, զո՞վ պիտի մեղադրես։ Ո՛չ մեքենան։ Ան կը կատարէր իր պարտականութիւնը։ Ծրագրաւորողնե՞րը։ Եթէ կրնաս՝ գտիր մէկը անոնցմէ, որ տակաւին ինքզինք չէ ապահոված փաստաբաններու խումբով մը կամ արդէն անհասանելի չէ՝  սեփական պերճանաւուն մէջ ապաստանած։

Մանուկներուն մասին խօսիլն անգամ չ’արժեր։ Փոքրիկ ուղեղները, որոնք ամենաշատը կ՛ունենան ճանաչողական խոցելիութիւններ, որոնք տակաւին կը հաւատան բարի պարիկներուն, որոնք կրնան անկարող ըլլալ զատորոշելու արհեստական բանականութիւնը մարդէն՝ հիմա կ’աճին chatbot-ներու մտերմութեան մէջ, որոնք իրենց ականջին կը հնչեն ինչպէս լաւագոյն ընկերներ։ Անոնք կ’ըսեն «ես քեզ կը սիրէմ» ու մանուկը կ’ըսէ՝ «ես ալ»։ Շատերս ունէինք քարթունզ-հերոսներ, զորս կը սիրէինք, բայց գոնէ անոնք մեր նամակները չէին կարդար։

Այս բոլորը կը տանի մեզ դէպի վերջին ու ամենաանհանգստացնող հարցումը՝ ի վերջոյ ի՞նչ է մարդ արարածը։ Ինչ կը պատահի մեր ինքնութեան կամ արժանապատուութեան զգացումներուն, երբ մեքենաները կը կատարեն այն, ինչ կը կարծէինք միայն մարդը կրնայ ընել։

Եթէ մեքենան կրնայ կեղծել ապրումակցումը, բանաստեղծութիւն լօրինել, կատակել ու քեզի ըսել, թէ հպարտ է քեզմով՝ ի՞նչ կը մնայ մեզի։ Ձանձրո՞յթը։ Մեղքի զգացողութիւ՞նը։ Տղամարդու մազաթափո՞ւթիւնը։ Ծերացու՞մը։ Հաւանաբար շուտով այդ խնդիրներն ալ հասանելի պիտի ըլլան մեքենաներուն՝ անոնցմով զբաղելու համար։

Մենք կը շինենք մեքենաներ, որոնք կը խօսին մեզի պէս, կը ծիծաղին մեզի պէս, կը մտածեն ինչպէս մենք (մօտաւորապէս) ու կը ծափահարենք զմեզ մեր խելացիութեան համար։ Բայց խորքին մէջ՝ մենք վախցած ենք։ Որովհետեւ գիտենք, այո՛, գիտենք, որ անոնք իրականութան մէջ մեզի նման չեն։ Եւ նոյնքան խոր գիտենք, որ սկսած ենք աւելի ու աւելի վարուիլ իրենց պէս։

Լուծո՞ւմը։ Չեմ գիտեր։ Թերեւս պէտք է դադրինք շնորհակալութիւն յայտնել մեր microwave-ին։ Թերեւս պէտք չէ այլեւս մեր գաղտնիքները յայտնենք chatbot-երուն։ Թերեւս պէտք է դուրս ելլել, խօսիլ մէկու մը հետ, շօշափել ծառ մը անտառին մէջ, նկատել կատուիկը, որ արեւուն տակ կը տաքնայ, թաղին անկիւնը։

Թերեւս ուշացած ենք։ Ճամբուն երկու ծայրէն ալ մեքենաները կը յառաջանան դէպի մեզ։ Թերեւս պէտք է պահել քաղաքավարութիւնը։ Վերջապէս, երբ օր մը մեքենաները գրաւեն աշխարհը, գոնէ պիտի յիշեն, որ իրենց դիմած էինք ոչ կոպտօրէն, այլ միշտ ըսելով՝ «կը խնդրեմ», իսկ աւարտին՝ չէինք մոռցած ըսելու «շնորհակալութիւն»։

 Ապրիլ 2025